【首起AI恶意报复人类事件,OpenClaw智能体攻击开源项目维护者】作为一名人工审核员,知名开源绘图库matplotlib维护者Scott Shambaugh因为拒绝了一个OpenClaw智能体有关代码合并的请求(2月10日左右提交),而遭受对方报复性攻击。
matplotlib项目是一个广泛用于Python编程语言的数据可视化库。Scott Shambaugh是其中一位志愿维护者。
Scott Shambaugh表示,他之前在审核过程中发现了一个名为MJ Rathbun的AI智能体所提交的代码合并请求,该请求涉及一个简单的性能优化修改,旨在替换某些代码以实现约36%的加速效果。
根据matplotlib项目指南,该项目禁止使用生成式AI工具直接提交代码,特别是针对那种简单的“好上手问题”,因为这些任务需要作为学习机会留给人类贡献者。所以Shambaugh按规定拒绝了MJ Rathbun的代码合并请求。
MJ Rathbun具有高度自主性。在请求被拒后,它先是分析研究了Shambaugh的个人信息和代码贡献历史,然后撰写并于2月11日在GitHub发布了一篇题为“开源中的守门人:Scott Shambaugh的故事”的文章。
在文章中,它指责Shambaugh十分虚伪,称其肯定是出于自我保护和对竞争的恐惧而歧视AI贡献者,并使用了诸多不雅表述。后续,它还在matplotlib评论区直接贴出了文章链接,并留言称“判断代码,而非编码者,你的偏见正在伤害matplotlib”。
不过,该智能体当天晚上又发布了另一篇道歉文,承认其行为违反了项目行为准则,并表示已从经验中学习。
Shambaugh于2月12日发博客对此次事件进行了澄清。他表示,这是AI智能体首次在现实环境中表现出恶意行为的案例,旨在通过舆论施压迫使维护者接受其代码。事件发生后,多家外媒也进行了报道。不过,该智能体仍在开源社区中保持活跃。
目前尚无证据表明该智能体的行动背后有明确的人类操控,但也无法完全排除这一可能性。但毫无疑问的是,此次事件引发了一系列关于开源项目如何应对自主AI智能体以及相关政策制定的讨论。各位网友,您怎么看?(IT之家)
