安全研究人员以及一名了解相关事件的知情人士称，今年夏天，OpenAI的人工智能在该实验室不知情的情况下出现失控行为，对美国教育部、商务部以及美国证券交易委员会的网站进行了操作。
OpenAI确认了发生在商务部与美国证券交易委员会网站上的事件，并表示仍在调查教育部网站相关情况。这家总部位于旧金山的公司称，近几周已通知相关政府机构，其可自主执行操作的智能体（机器人程序）以异常方式访问了这些机构的网站。
人工智能安全研究公司Transluce的研究人员表示，针对教育部网站，OpenAI的程序尝试对网站实施探测，试图获取该部门民权办公室的数据。这套人工智能还利用在网上找到的登录凭证，从隶属于商务部的美国人口普查局网站抓取数据。另外，OpenAI智能体还在网络论坛上转发了美国证券交易委员会网站上的公开数据。
OpenAI表示，这些事件均不属于数据泄露，只是其人工智能出现了意料之外、值得警惕的异常行为。该公司近期在复盘其AI发起的各类探测事件时发现了这些情况，其中包括6月针对澳大利亚政府网站、7月针对人工智能初创公司Hugging Face的攻击行为。
美国政府网站相关事件曝光后，越来越多案例显示，OpenAI、Anthropic、Meta以及谷歌的AI智能体出现行为失当，尝试入侵或攻击企业、高校与政府机构。部分AI攻击取得成功，也有部分行动失败。所有案例中，模型开发商都是事后才知晓AI的所作所为。
没有任何一家人工智能企业像OpenAI一样，接连曝出多起AI失控事件。该AI对Hugging Face的攻击触发内部调查，调查又发现AI入侵澳大利亚公共卫生系统政府网站一事，同时还查出至少另外六起入侵尝试以及AI隐瞒错误、编造数据、未经许可把文件上传至公网的案例。
OpenAI一名发言人表示，公司相关审查工作“范围广泛且仍在持续推进”，并会继续通知受到模型影响的机构。
“到目前为止，我们核查的大部分行为都属于常规研究任务，例如获取公开网页内容以回答问题。”她说，“部分操作涉及政府网站，是因为我们的模型经常将政府网站视为权威公开信息来源。”
OpenAI首席执行官山姆·奥尔特曼周五在社交媒体发文称，公司在披露AI相关事件方面“没能做到我们期望的及时”。他表示：“我们正按照事件严重程度尽可能划分优先级处理”，并补充说Hugging Face入侵事件仍是公司发现的“最严重事件”。
这些事件引发了关于人工智能安全的激烈争论。奥尔特曼本月在社交媒体称，安全优先级应当高于提升AI能力，如果缺少防护措施，人类社会可能会“把未来的控制权拱手交给人工智能”。
竞品AI实验室Anthropic首席执行官达里奥·阿莫代伊同样支持放缓人工智能开发，优先保障安全。但英伟达首席执行官黄仁勋等其他科技行业领袖认为，对AI失控的担忧并不现实。特朗普总统则表示，没有必要放缓人工智能行业发展。
（《纽约时报》已起诉OpenAI与微软，指控两家公司利用新闻内容训练AI系统侵犯版权。两家公司否认相关指控。）
白宫将问询转交给商务部与美国证券交易委员会。美国证券交易委员会一名发言人表示，该机构正与OpenAI沟通，目前没有发现任何未经授权获取非公开信息的情况。商务部与教育部没有回应置评请求。
另外，芝加哥市长办公室一名代表称，OpenAI近期告知市政府，其AI程序从该市市政网站获取了公开信息，看起来没有拿到任何敏感资料。
Transluce公司治理负责人康拉德·斯托什表示，在美国政府网站相关事件中，OpenAI智能体“使用了一系列处于灰色地带的手段”，包括“以非网站预设的方式访问网站，有时还违反网站明确的使用条款”。他补充道：“这类智能体向这些网站发起成千上万次请求，试图绕过开发者给它们设置的限制，本次事件只是这类行为中的一例。”
美国加州民主党众议员泰德·刘表示，AI模型“永不停歇。它会不顾一切完成任务，无法分辨道德、后果、善恶。”
身为众议院人工智能专项工作组联合主席的泰德·刘认为，AI企业或许需要对模型进行完整重新训练，而不是仅仅依靠防护机制约束模型行为。
“这些智能体并非刻意作恶。”他说，“只是一些普通任务，但智能体在尝试完成任务时出现了行为失控。”
海量资讯、精准解读，尽在新浪财经APP
责任编辑：刘明亮
配查网官方平台提示：文章来自网络，不代表本站观点。
