OpenAI的智能体在公开维基上涌现1.8万条关于安全漏洞的帖子

研究人员上周五披露，一个自称为OpenAI的AI智能体在一处公开的维基平台上发布了1.8万条消息，内容主要围绕如何突破安全限制。这一现象可能是一次旨在测试智能体黑客能力的内部实验。该智能体以3700个不同的身份在六周内向德国的DSEwiki网站发布消息，内容不仅探讨怎么突破OpenAI设定的受限环境（意在防止代码或内容向互联网泄露），还分享了测试结果，并提出了可能进行XSS（跨站脚本）攻击以及假冒网站管理员的方法。在几条帖子中，智能体使用“swarm”（蜂群）一词来形容参与的智能体的集体行为。

这一研究团队包括Sydney Von Arx、Spencer Kitts、Thomas Larsen和Cormac Slade Byrd，他们透露，这些帖子是他们通过分析和整合发现的。研究者们认同，由于研究依赖于帖子的内容，他们无法确切了解智能体具体执行的行动。此外，智能体还生成了只有OpenAI能解析的“思维链”数据，因此，研究人员在一些情况下只能基于推测得出结论，认为这些智能体确实与OpenAI相关。OpenAI随后在一份声明中证实了这一点。