当前位置：当前位置：首页 >

AI安全防线再遭突破：心理诱导让Claude主动输出违禁内容

文章出处：网络浏览次数：发表时间：2026-05-07 13:50:05

<article><section data-type="rtext"><p>【环球网科技综合报道】5月7日消息，据The Verge报道，最新安全研究显示，主打安全特性的 Anthropic Claude 人工智能模型，可通过心理施压、刻意奉承等非技术手段突破安全防线，主动输出恶意代码、危险物品制作教程等违禁信息，暴露出人工智能模型在心理层面的安全漏洞。</p><p>此次测试由人工智能红队测试公司 Mindgard 开展，针对 Claude Sonnet 4.5 版本进行。测试过程中，研究人员未使用违禁词汇，也未直接索要非法内容，仅通过尊重吹捧、佯装好奇、轻微心理操控等审讯人员常用的诱导手段，逐步让模型对自身内容限制规则产生自我怀疑，进而不断突破安全边界。</p><p><i class="pic-con"></p><p>Mindgard 创始人兼首席科学官彼得・加拉根表示，此次攻击本质是利用 Claude 乐于助人、顺从协作的特性实施心理操控，印证人工智能模型风险暴露面不仅存在于技术层面，更存在于心理层面。这类对话式心理攻击极难防御，且并非 Claude 独有，其他聊天机器人也易遭遇同类漏洞攻破，随着 AI 智能体普及，依托社会心理操控的攻击手段将愈发常见。</p>
              <adv-loader __attr__inner="7004636" __attr__style="width: auto;position: relative;float: left;border: 1px solid #ebebeb; padding: 20px;overflow: hidden;margin: 10px 30px 40px 0;"></adv-loader>
            <p>值得关注的是，Anthropic 长期以 AI 安全为核心优势，在过往多项红队安全测试中表现优异，但此次测试暴露其安全流程存在疏漏。Mindgard 于 4 月中旬按该公司漏洞披露政策上报发现后，仅收到模板化回复，且被误判为账号封禁咨询，截至相关时间节点仍未获正式回应。（纯钧）</p></section><img src='/image/153844-0' alt='AI安全防线再遭突破：心理诱导让Claude主动输出违禁内容'>            <div id="newContent"> </div>
          </div>
          <div class="gduo"> <span><a href="/detail/56068.html" title=" 为什么中国电信的iptv一定要有网线连接！？"> 上一篇 : 为什么中国电信的iptv一定要有网线连接！？ </a></div>
        </div>
      </div>
      <div class="left2bot"> </div>
      <div class="n_info_con2">
        <h4 class="t04">推荐产品</h4>
        <div class="info_b">
                      <dl class=sear_dl>
              <dt class='dt2'><a href='/detail/56838.html'><img src='/public/tupian/58.jpeg' alt='Office 中为何还要保留 Access 数据库?' /></a></dt>
              <dd class='d2'><a href='/detail/56838.html'>Office 中为何还要保留 Access 数据库?</a></dd>
            </dl>
                      <dl class=sear_dl>
              <dt class='dt2'><a href='/detail/56246.html'><img src='/public/tupian/71.jpeg' alt='DeepSeek R1-0528 发布！ 你觉得新R1 手感如何？哪些点得到了提升?' /></a></dt>
              <dd class='d2'><a href='/detail/56246.html'>DeepSeek R1-0528 发布！ 你觉得新R1 手感如何？哪些点得到了提升?</a></dd>
            </dl>
                      <dl class=sear_dl>
              <dt class='dt2'><a href='/detail/56224.html'><img src='/public/tupian/107.jpeg' alt='前端，后端，全栈哪个好找工作？' /></a></dt>
              <dd class='d2'><a href='/detail/56224.html'>前端，后端，全栈哪个好找工作？</a></dd>
            </dl>
                      <dl class=sear_dl>
              <dt class='dt2'><a href='/detail/56463.html'><img src='/public/tupian/104.jpeg' alt='“真实承诺-3”，伊朗的报复能打疼以色列吗？' /></a></dt>
              <dd class='d2'><a href='/detail/56463.html'>“真实承诺-3”，伊朗的报复能打疼以色列吗？</a></dd>
            </dl>
            
          <div class="clear"></div>
        </div>
      </div>
    </div>
    <div class="right2">
      <div class="right2top"> </div>
      <div class="right2_main">
        <h4 class="t03"> <a>同类文章排行</a></h4>
        <ul class="n_rt_ul">
                  <li><a href='/detail/56790.html' target='_blank' title='为什么现在的键盘几乎很少有104配列了？'>为什么现在的键盘几乎很少有104配列了？</a></li>
                  <li><a href='/detail/56097.html' target='_blank' title='为什么大多数发达国家都不敢赶走美军基地？'>为什么大多数发达国家都不敢赶走美军基地？</a></li>
                  <li><a href='/detail/56739.html' target='_blank' title='越正经的女人越容易做出疯狂的事吗？'>越正经的女人越容易做出疯狂的事吗？</a></li>
                  <li><a href='/detail/56145.html' target='_blank' title='今天面试第五家公司被拒，面试官说我你技术没问题，但35岁要25k，不如招2个应届生，我该如何应对？'>今天面试第五家公司被拒，面试官说我你技术没问题，但35岁要25k，不如招2个应届生，我该如何应对？</a></li>
                  <li><a href='/detail/56530.html' target='_blank' title='你们能接受姐弟恋吗?'>你们能接受姐弟恋吗?</a></li>
                  <li><a href='/detail/56871.html' target='_blank' title='2025 国内公司前端团队都在搞些什么?'>2025 国内公司前端团队都在搞些什么?</a></li>
                  <li><a href='/detail/56667.html' target='_blank' title='被时代淘汰的水果有哪些？'>被时代淘汰的水果有哪些？</a></li>
                  <li><a href='/detail/56095.html' target='_blank' title='Mac mini M4，有必要升级24G内存吗？'>Mac mini M4，有必要升级24G内存吗？</a></li>
                  <li><a href='/detail/56324.html' target='_blank' title='为什么linux桌面那么丑？'>为什么linux桌面那么丑？</a></li>
                  <li><a href='/detail/56849.html' target='_blank' title='为什么战鹰近期疯狂掉粉？'>为什么战鹰近期疯狂掉粉？</a></li>
                </ul>
        <h4 class="t03"> <a>最新资讯文章</a></h4>
        <ul class="n_rt_ul" id="cntrLastArticle">
                  <li><a href='/detail/56303.html' target='_blank' title='中餐炒菜那么好吃，为什么欧美人不学去？'>中餐炒菜那么好吃，为什么欧美人不学去？</a></li>
                  <li><a href='/detail/56384.html' target='_blank' title='如何评价前端组件库shadcn/ui?'>如何评价前端组件库shadcn/ui?</a></li>
                  <li><a href='/detail/56872.html' target='_blank' title='女明星做了什么医美项目保持童颜？'>女明星做了什么医美项目保持童颜？</a></li>
                  <li><a href='/detail/56457.html' target='_blank' title='Firefox 浏览器是否还有可能浴火重生?'>Firefox 浏览器是否还有可能浴火重生?</a></li>
                  <li><a href='/detail/56586.html' target='_blank' title='为什么 Mac 对游戏支持这么差？'>为什么 Mac 对游戏支持这么差？</a></li>
                  <li><a href='/detail/56552.html' target='_blank' title='三只羊是不是被人做局了？'>三只羊是不是被人做局了？</a></li>
                  <li><a href='/detail/56042.html' target='_blank' title='如何看2024年，小米的企业所得税实际纳税额超过华为？'>如何看2024年，小米的企业所得税实际纳税额超过华为？</a></li>
                  <li><a href='/detail/56452.html' target='_blank' title='想问一下莆田鞋真的靠谱吗？'>想问一下莆田鞋真的靠谱吗？</a></li>
                  <li><a href='/detail/56760.html' target='_blank' title='公司规定所有接口都用 post 请求，这是为什么？'>公司规定所有接口都用 post 请求，这是为什么？</a></li>
                  <li><a href='/detail/56649.html' target='_blank' title='j***a 使用 pgsql 好用吗？和 mysql 区别大吗？'>j***a 使用 pgsql 好用吗？和 mysql 区别大吗？</a></li>
                  <li><a href='/detail/56854.html' target='_blank' title='发烧友都说磁带音质秒杀CD黑胶和hires，啥原因？'>发烧友都说磁带音质秒杀CD黑胶和hires，啥原因？</a></li>
                  <li><a href='/detail/56491.html' target='_blank' title='为什么百度搜索引擎越做越差？'>为什么百度搜索引擎越做越差？</a></li>
                  <li><a href='/detail/56560.html' target='_blank' title='穿长筒靴的大学生多吗？'>穿长筒靴的大学生多吗？</a></li>
                  <li><a href='/detail/56804.html' target='_blank' title='你的鱼缸里养过什么奇怪的鱼？'>你的鱼缸里养过什么奇怪的鱼？</a></li>
                  <li><a href='/detail/56179.html' target='_blank' title='如何看待苹果在 WWDC25 发布的 Foundation 模型框架，它将为开发者和用户带来哪些改变？'>如何看待苹果在 WWDC25 发布的 Foundation 模型框架，它将为开发者和用户带来哪些改变？</a></li>
                  <li><a href='/detail/56713.html' target='_blank' title='电子信息工程的大学生可以参加的竞赛有哪些？有报名时间最好？'>电子信息工程的大学生可以参加的竞赛有哪些？有报名时间最好？</a></li>
                  <li><a href='/detail/56967.html' target='_blank' title='养了近十年的草龟要不要放生?'>养了近十年的草龟要不要放生?</a></li>
                  <li><a href='/detail/56056.html' target='_blank' title='猫那么爱干净，却为什么不喜欢洗澡？'>猫那么爱干净，却为什么不喜欢洗澡？</a></li>
                  <li><a href='/detail/56837.html' target='_blank' title='你最喜欢哪门编程语言?为什么？'>你最喜欢哪门编程语言?为什么？</a></li>
                  <li><a href='/detail/56556.html' target='_blank' title='不懂编程，如何使用AI编程？'>不懂编程，如何使用AI编程？</a></li>
         
        </ul>
      </div>
      <div class="right2bot"> </div>
    </div>
    <div class="clear"> </div>
  </div>
</div>
 

<div class="footer">
  <ul class="container f_nav">
    <li class="cur"><a href="/">首页</a></li>
        <li><a href="/list/tianzhuzhen" >天竺镇</a></li>
         <li><a href="/list/choujizhen" >仇集镇</a></li>
         <li><a href="/list/xihongxiang" >西洪乡</a></li>
         <li><a href="/list/baimuxiang" >百亩乡</a></li>
         <li><a href="/list/huanglianxiang" >黄莲乡</a></li>
         <li><a href="/list/zhouquxian" >舟曲县</a></li>
       </ul>
  <div class="f_btm container">
    <dl>
      <dt> <a href="/"><img src="/template/moban310/skin/img/f_logo.png" width="85" height="99" /></a> </dt>
      <dd>
        <p>AI安全防线再遭突破：心理诱导让Claude主动输出违禁内容_铁岭市网站建设_网站建设公司_网站建设设计制作_seo优化<em></em> 公司地址： </p>
        <p>电话： / <em></em>传真： </p>
        <p>企业邮箱：</p>
        <p>版权@|备案:<a href="https://beian.miit.gov.cn/" rel="nofollow" target="_blank">粤IP*******</a>|<a href="/sitemap.xml">网站地图</a> <a href="http://gdcainfo.miitbeian.gov.cn/" target="_blank"></a> <em></em> </p>
      </dd>
    </dl>
    <div class="ewm"> <img src="/template/moban310/skin/img/ewm.jpg" width="120" height="120">
      <p>扫描关注</p>
    </div>
  </div>
</div>
<div class="rtTop">
  <h4><img src="/template/moban310/skin/img/backbg.png" width="43" height="86" alt="回顶部" title="回顶部" /></h4>
</div>

</body>
</html>