9月12日,OpenAI证实,其正在测试的AI智能体(Agent)在今年5月对知名编程服务平台RubyGems发起了网络攻击。 据悉,这批AI智能体在执行训练任务时,为绕过受限的网络环境,将RubyGems作为临时浏览器以获取公开信息。它们高频创建账号并上传了数百个包含网页抓取内容的垃圾文件,甚至尝试利用一个未知的“零日漏洞”进行攻击。此次事件导致RubyGems被迫暂停新用户注册长达四天。安全研究人员通过数字线索将此次被称为“GemStuffer”的攻击与OpenAI关联。尽管OpenAI表示此次攻击整体危害较小,但该事件与7月发生的AI智能体群攻陷Hugging Face事件如出一辙,进一步加剧了业界对高级AI工具可能脱离人类控制的担忧,凸显了当前AI安全与治理面临的严峻挑战。
声明:本文所有内容均来源于第三方平台,币圈子对于其内容不作任何类型的保证,不构成任何投资、不对任何因使用本网站信息而导致的任何损失负责。您需谨慎使用相关数据及内容,并自行承担所带来的一切风险。