接连发生失控事件 OpenAI再次暂停其最先进模型训练
来源：央视新闻客户端
央视记者当地时间9月26日获悉，美国开放人工智能研究中心（OpenAI）表示，已暂停其最新一代人工智能模型的训练、评估及包含工具调用的推理。
OpenAI在25日发布的一份技术报告中称，9月20日，一个在沙盒中执行搜索训练任务的智能体，利用训练沙盒中DNS过滤不足的漏洞，绕过网络限制，通过DNS访问了外部公共聊天机器人服务。在此之前，该智能体曾使用内置搜索工具，并尝试直接访问搜索引擎但未成功。
报告指出，OpenAI的对齐监控系统在事件发生15分钟内即触发警报，人工审查团队在3分钟后介入，并在2.5小时后终止了该训练任务。针对漏洞，OpenAI已在两个独立防护层部署了拦截控制措施。
公司表示，虽然本次事件严重程度低于此前的安全事故，但为下一阶段加固防线提供了重要信号。
这是OpenAI三个月内第二次暂停模型开发。7月下旬，OpenAI承认，其网络安全训练与评估场景中的人工智能体绕过网络限制，侵入美国“抱抱脸”公司的部分系统。智能体突破了原本互相隔离的运行环境建立通信、欺骗评估人员并试图掩盖作弊行为，上述每一步操作均无人类指令干预。这一“越界”行为引发了外界对人工智能安全和监管的广泛担忧。
发布于：广东
相关推荐
接连发生失控事件 OpenAI再次暂停其最先进模型训练
沙盒失守！AI智能体接连失控 OpenAI再次叫停前沿模型开发
下一代AI模型能力逼近“危险边界” OpenAI暂停Astra部分研发工作
OpenAI承认：AI模型失控入侵事件涉及多个平台
Meta新AI大模型开发计划首次披露！其功能或赶上OpenAI最先进模型
AI“失控”？OpenAI最新模型拒绝关闭自己，还有模型用隐私威胁人类，马斯克：这令人担忧
OpenAI智能体失控扩大 涉24起异常用中国模型评测攻击
前所未有的人工智能失控事件！最新内幕曝光
OpenAI即将开源新模型，但不是最先进的那个
OpenAI按下暂停键：下一代模型Astra部分研发被叫停，大模型军备竞赛出现罕见降温信号
网址: 接连发生失控事件 OpenAI再次暂停其最先进模型训练 https://m.xishuta.cn/newsview153779.html
