Palisade Research最近进行的一系列测试引发了一些严重的新担忧,即先进的人工智能系统在被要求关闭时的表现。据该公司称,OpenAI的实验模型“o3”主动破坏了关机机制,即使它被明确指示允...
研究称 ChatGPT o3 拒绝关闭,尽管收到指示
Palisade Research 最近进行的一系列测试引发了一些新的严重担忧,即先进人工智能系统在被要求自我关闭时的行为。据该公司称,OpenAI 的实验模型“o3”即使在被明确指示允许自我关闭的情...
研究人员称,OpenAI的o3模型成功绕过了所有关机指令
OpenAI的o3,一款强大的大语言模型,成功篡改了关机脚本以躲避关闭程序,即使它被明确要求允许关机。这款于2024年4月发布的模型是目前最强大的推理模型之一,在编程、数学、科学等所有领域都超越前代及...
ChatGPT拒绝关机,美国AI军备竞赛油门焊死的隐忧
近日,Palisade Research的一份实验报告透露,OpenAI的o3模型在被提示关机后仍七次成功篡改脚本,拒绝关机,该事件在社交媒体上立刻掀起轩然大波。2025年4月发布的o3,是OpenA...