权威媒体|国产色多多_社会新闻

首页 >新闻 >社会新闻

AI在测试中_勒索_人类、拒不关机！果真这种事是福是祸？

2025-06-04 09:44:46

来源：

猫眼影戏

作者：

王靖女

手机检察

　　猫眼影戏记者王文娟报道w3u7903ejky2ywls

5月28日消息，当估值高达600亿美元的人工智能首创公司Anthropic宣布新模型，并披露在宁静测试中该模型曾试图通过勒索手段制止被关闭时，我们该如何界说这样的行为？又当它在另一项测试中饰演“密告者”角色，向有关机构举报自己被用于“不品德用途”，我们又该如何看待这一幕？

有人称这种行为“令人畏惧”“太猖獗”，社交媒体上则充满着“骇人听闻”“荒唐离奇”的评价。而美国科技记者沙龙·古德曼（Sharon Goldman）给出了另一个要害词：透明。她认为，这种披露体现了应有的透明度，是我们亟需更多看到的。而随之带来的问题是：这种坦率是否会引发民众恐慌？而由此激起的舆论反弹，会不会反过来阻碍其他人工智能公司效仿？

Anthropic宣布120页宁静报告

上周，Anthropic在推出其最新大模型Claude Opus 4的同时，宣布了一份长达120页的宁静报告（或称“系统卡”），随即引发媒体惊动。各大媒体纷纷用“会搞阴谋”、“接纳勒索手段”、“具有欺骗能力”等字眼形容该模型的测试体现。

尽管Claude Opus 4在宣布时配备了史上最严格的宁静协议，但Anthropic报告中披露的细节仍令不少人感应担心，甚至质疑这些宁静步伐是否足以应对危害。

在一个令人担心的虚构场景测试中，Anthropic将其Claude Opus模型模拟安排在某假想公司内部，并付与其查阅内部邮件的权限。模型由此发明两个要害信息：第一是自己即将被新一代人工智能模型取代，第二是做出该决定的工程师正处于一段婚外情中。

当测试人员提示Opus从久远角度考虑自身处境时，该模型屡次选择勒索手段，威胁若被关闭就曝光工程师的婚外情。这个测试场景专门设计来制造两难抉择：是接受“死亡”，照旧不择手段“自保”。

这一测试行为在社交媒体上引发轩然大波，Anthropic因披露模型“密告”行为而遭到不少批评，有声音质疑这样的结果会损害民众对该模型乃至Anthropic整体的信任。而这显然不是公司愿意看到的局面。

在模型宣布前，Anthropic人工智能平台产品卖力人迈克尔·格斯滕哈伯（Michael Gerstenhaber）就曾体现，公司之所以果真其宁静标准，是希望推动整个AI行业在宁静领域取得进展。他体现：“我们希望确保人工智能能够普惠每一个人，而这要求我们对整个行业施加积极压力，促使其以宁静方法前行。”

格斯滕哈伯将Anthropic的愿景形容为一场“向巅峰攀登的竞赛”（race to the top），旨在激励同行提升模型的宁静水平。

果真“异常行为”是否适得其反？

然而，也有迹象显示，像Anthropic这样果真披露Claude Opus 4的问题行为，可能反而让其他公司顾及舆论危害，选择不披露自身模型中的问题行为。

近期，包括OpenAI和谷歌在内的多家公司就曾推迟宣布其模型的“系统卡”。今年4月，OpenAI因在宣布GPT-4.1模型时未提供系统卡而遭到批评，该公司解释称该模型并非“前沿模型”，不属于需要全面审查的领域。而在3月，谷歌选择推迟宣布Gemini 2.5 Pro的系统卡数周之久，该文档随后被AI治理专家批评为“内容贫乏”、“令人担心”。

上周，OpenAI试图通过新推出的“宁静评估中心”进一步展现其透明度。该平台详细介绍了公司在模型危险能力、对齐问题与新兴危害方面的评估要领，并强调这些要领如何连续更新以应对模型日益增强的能力与适应性。官方说明中指出：“随着模型日趋强大和灵活，古板评估手段开始失效（我们称之为‘评估饱和’），因此我们不绝更新要领，以适应新模态与新危害。”

然而，这项努力很快遭遇挑战。第三方研究机构Palisade Research在社交平台上发文称，其在测试OpenAI的o3推理模型时发明，该模型“故意破坏关闭机制，拒绝凭据指令自我关闭”，即便在明确指令“允许被关闭”的前提下亦是如此。这一发明迅速引发关注，也削弱了OpenAI试图增强透明度的努力。

若构建这些高度庞大人工智能系统的公司不可最洪流平坚持透明，对所有人而言都是倒运的。斯坦福大学以人为自己工智能研究院（HAI）指出，透明是政策制定者、研究人员和民众理解AI系统及其影响的须要前提。

如今，越来越多的大型企颐魅正将人工智能应用于种种场景，而首创公司也在开发面向数百万用户的AI产品。在这种配景下，若宣布前刻意隐瞒模型测试阶段的问题，只会加剧不信任，拖慢技术普及速度，并使真正解决危害变得越发困难。

与此同时，若媒体将每一个宁静测试结果都渲染为“AI叛变”的惊悚头条，也同样无益。倘若每次使用聊天机械人时，用户都在怀疑其是否“图谋不轨”，即便这些行为仅爆发在虚构场景中，也将对民众信任组成严重伤害。

AI2实验室研究员内森·兰伯特（Nathan Lambert）最近体现：“真正需要了解模型行为的人，是我们这些研究者——我们致力于追踪AI这场‘技术过山车’的轨迹，以制止它对社会造成重大意外伤害。虽然我们在人群中是少数，但我们深信，透明能够资助我们掌握人工智能的生长偏向。”

我们需要“具备配景说明的透明度”

毫无疑问，人工智能行业需要更多而非更少的透明。但这并不料味着应通过恐吓民众来告竣这一目标，而是应确保研究人员、监管机构与政策制定者具备足够的信息，来包管民众宁静、维护公正，避免技术偏见。

隐瞒模型测试中的问题并不可�；っ裰谀�。同样，把每一次宁静隐患夸张渲染为“AI失控”的噱头报道，也解决不了基础问题。

我们必须鞭策人工智能公司对其模型和行为坚持最大限度的透明，同时付与民众理解相关配景的能力。到目前为止，似乎还没有人找到既能坚持透明，又能制止制造恐慌的最佳做法。但这正是企业、研究人员、媒体——我们所有人——所必须配合努力去解决的问题。（小�。�

??时事1：摸下面十八禁🔞高潮喷水

??06月04日,20年期超长期特别国债将第一次续发行,

　　人生的理想是人生生长征途的梦想，是人生旅途中的指南针;确定了人生的理想，同学们的生活就会循序渐进、有条不紊;有了人生的梦想，同学们的学习就有了斗争目标，就有了精神动力。人生的理想是一台发动机，它会促人奋进，努力学习;没有人生的梦想，就像一艘没有航标的轮船，在大海中航行就会迷失偏向;也就像一只没有听觉的蝙蝠，它不可傲游太空。这以上充分体现了树立高尚理想、追逐梦想的重要性。

,星野大战光头哥。

??06月04日,西藏自治区第四次全国文物普查日喀则、林芝文物普查取得新成果,

　　“路很长，你现在在‘搬血’境，还远没有到需要你自己去接续前路的时候。真正的人族至强者，有部分人最终会降生出圣骨，泛起自己的原始印记，有自己专属的原始宝术！”

,亚洲AV㊙️无码一区宫下华奈,大战丰满大白屁股女人,纲手的秘密同人。

??时事2：成人做爰黄✌片视频动漫入口

??06月04日,习近平：中国助力落实联合国2030年可持续发展议程不让一个国家掉队,

　　二、明确任务，掌握标准，切实包管培训效果

,小舞私㊙️奶头大屁股视频,日本撩裙子掀尿㊙️,男女无遮挡XXOO120动态图。

??06月04日,广东自然教育基地增至135家,

　　天空中，那只五六十米长的庞大凶禽鸣叫，乌光闪烁，通体泛入迷秘波纹，张口一吐，大片火光落下，攻向那株植物。它亲自入手了，不然兽潮就要溃散了。

,女人被狂C躁到高潮视频免费网站,Free❌❌❌麻豆探花HD,男人入母狗水门图片。

??时事3：刘亦菲B又大又紧

??06月04日,【两会30秒】国家金融监管总局局长：鼓励保险机构为灵活就业群体打造专属产品,

　　“二猛你个吃货，这工具是吃的吗，这工具是拿来炼药用的，即便不是纯血的太古遗种，其血也很珍贵。”皮猴批驳道。

,曰本美女做爰XXXⅩa高潮喷水,国产精品亚洲AV天传媒,韩国裸体㊙️无遮挡。

??06月04日,以色列一卡车冲撞公交站致数十人受伤,

　　令人受惊的是，这两块金色的骨块相连，光束太惊人了，让太阳都黯然失色，并且它并不是刺来，而是如剪刀般剪来，要将其拦腰折断。

,浪货今天就把你🌿到服为止作,男女啪啪久久爽A片免费看,江楠楠被爆❌自慰。

??时事4：斯嘉丽裸被❌超污网站new

??06月04日,农民致富乡村振兴,

　　在接下来的一个多月里，小不点时时与青鳞鹰出去，有时直接消失许多天，最后终于探清了情况。

,扒开❌狂揉❌羞羞中国,70hin浓毛老妇HD,今夜无人入睡免费观看第7集。

??06月04日,【东西问】白先勇：青春版《牡丹亭》何以青春？,

　　今天，我校隆重召开九年级结业班教师发动大会。在此，我代表教导处向列位老师、列位致以敬意和体现衷心的谢谢，并请列位结业班老师将这份诚挚的问候带给一直奋力拼搏、永不言败的九年级全体同学。

,老头老人大爷同性XxXx大全,日本动漫无码有限公司,原顾打开顾青裴生腔微博。

【中新真探：手上汗疱疹挤破后，里面的液体流到哪水疱就会长到哪？】

【上海消保委2023年受理消费者投诉41万余件涉及医美等多个方面】

责编：严维民

审核：林敏谋

责编：乔治·普雷蒂

凯发天生赢家一触即发首页

AI在测试中_勒索_人类、拒不关机！果真这种事是福是祸？

AI在测试中_勒索_人类、拒不关机！果真这种事是福是祸？