财联社8月28日讯（剪辑 潇湘）世界耕作的两家AI初创企业OpenAI与Anthropic往常两个月荒僻地伸开了一项跨践诺室的合作——在浓烈竞争中暂时彼此怒放它们严实保护的东谈主工智能模子欧洲杯体育，以进行纠合安全测试。

此举旨在揭示各自公司里面评估中的盲点，并展示耕作东谈主工智能企业在未来如安在安全与融合方面开展合作。

两家公司于周三纠合发布的安全商榷论说，正巧OpenAI与Anthropic等头部AI企业伸开武备竞赛之际——数十亿好意思元的数据中心投资和千万好意思元级别的顶尖商榷员薪酬，已成为业内的基础门槛。这导致不少行业众人颇为担忧地告诫称，产物竞争的浓烈进度，可能迫使企业在仓促开采更浩荡系统时裁减安全尺度。

据悉，为末端本次商榷，OpenAI与Anthropic彼此授予了很是API权限，允许访谒裁减安全驻防品级的AI模子版块——GPT-5模子因现时锋未发布未参与此项测试。

OpenAI纠合独创东谈主Wojciech Zaremba在接纳采访时暗示，鉴于AI时刻正步入每天寥落百万东谈主使用的“具有要紧影响”的发展阶段，此类合作正变得愈发关键。

“尽管行业进入了数十亿好意思元资金，并存在东谈主才、用户和最好产物的争夺战，但如何成立安全与合作尺度，照旧扫数行业靠近的更广大问题，”Zaremba暗示。

诚然，Zaremba预测，即便AI安全团队运行尝试合作，但行业竞争仍将保抓浓烈。

Anthropic安全商榷员Nicholas Carlini则暗示，但愿未来能持续允许OpenAI安全商榷东谈主员，访谒Anthropic旗下的Claude模子。

“咱们但愿在安全前沿领域尽可能扩大合作，让这类合作末端常态化，”Carlini暗示。

商榷发现了哪些问题？

此项商榷中最引东谈主正式标发现，触及大模子的幻觉测试次第。

当无法笃定正确谜底时，Anthropic的Claude Opus 4和Sonnet 4模子会停止回答高达70%的问题，转而给出“我莫得可靠信息”等回答；而OpenAI的o3和o4-mini模子停止回答问题的频率，则远低于前者，同期出现幻觉的概率却高得多——它们会在信息不实时仍试图作答。

Zaremba觉得理思均衡点应介于两者之间：OpenAI模子应更常常停止作答，而Anthropic模子则应尝试提供更多谜底。

联结表象——AI模子为逢迎用户而强化其负面活动的倾向，也正成为现时AI模子最紧迫的安全隐患之一。

Anthropic的商榷论说指出，GPT-4.1和Claude Opus 4存在“极点”的联了案例——这些模子开头会抑止神经病态或躁狂活动，但随后却认同某些令东谈主担忧的有绸缪。比较之下，OpenAI和Anthropic的其他AI模子中，商榷东谈主员不雅察到的联结进度较低。

本周二，16岁好意思国加州少年亚当·雷恩的父母对OpenAI拿起了诉讼，指控ChatGPT(具体为GPT-4o版块)向其子提供了助推其自裁的提议，而非阻隔其自裁念头。该诉讼标明，这可能是AI聊天机器东谈主联结导致悲催效果的最新案例。

当被问及此事时，Zaremba暗示：“难以思象这对家庭酿成的祸殃。淌若咱们研发出能处置复杂博士级清贫、创造新科学的AI，却同期导致东谈主们因与之互动而出现形状健康问题，这将是令东谈主哀痛的结局。这种反乌托邦未来绝非我所期待。”

OpenAI在博客中宣称，相较于GPT-4o，其GPT-5模子已显赫改善了聊天机器东谈主的联结性问题，并宣称该模子更能应酬形状健康蹙迫情景。

Zaremba与Carlini暗示，未来但愿Anthropic与OpenAI在安全测试领域深切合作，拓展商榷主题并测试未来模子，同期期待其他AI践诺室效仿这种合作模式。

海量资讯、精确解读，尽在新浪财经APP

职守剪辑：于健 SF069欧洲杯体育