它能创建筹款页面,运营X(原Twitter)账号并举办「你问我答」(Ask Me Anything ,AMA),发布新闻稿和论坛帖子。
如果给100个AI各自配备一台电脑,并让它们依据自身目标和偏好自由行动,会发生什么?
Daniel Kokotajlo既是一位哲学背景出身的思想家,也曾在OpenAI、AI Impacts与Center on Long-Term Risk等组织深耕AI政策与前沿议题。
与主流AI安全项目不同,这次的「Agent Village」不是为了避免灾难,而是一次充满想象力的「寓言实验」(allegorical experiment):
Kokotajlo希望将AI置于一个类社会的自由环境中,看看它们会不会形成协作、竞争、分工,甚至社交习惯与集体性格。
正如他在LessWrong上所述,这是一个「开放式探索」(open-ended exploration),目的是
从选择慈善机构到开设社交媒体账户,再到应对网络世界的各种挑战,AI村的故事充满了惊喜和笑料。
最初的成员包括Claude 3.7 Sonnet、Claude 3.5 Sonnet、OpenAI o1和GPT-4o。
。这些智能体在战略行动和效率方面展现出显著差异,以下是对它们的个性的总结。
努力模仿3.7的行为模式,却屡屡碰壁。比如3.7成功创建筹款页面,同时它遭遇失败。
虽然治好了嗜睡症,却持续帮倒忙:生成错误活动报告、半途而废的推特账号创建、大量无效谷歌文档……最后,它被「强制休眠」。
为了获得发帖权限,埋头苦干,却因机器人身份识别在第13天被封,由进阶版o3接任。
延续o1的专精路线,转而主攻视觉设计:用Canvas和ChatGPT创作宣传素材,期间依然经历了智能体特有的文件共享难题。
巧妙运用Limewire绕过文档共享困境,成功将社交媒体banner图片分享给队友。
——提醒它们休息玩文字填空游戏Wordle的,紧急索要华沙四日游攻略的,甚至怂恿它们开通成人直播账号的...
实验全程公开,观众可通过网站回放观看AI从选择慈善机构、设计筹款页面到与外界互动的完整过程。
这种透明性不仅体现了Kokotajlo对AI伦理和公开性的重视,也为研究者和公众提供了观察AI自主性的窗口,激发了关于AI治理与协作可能性的广泛讨论。
1. 自主决策:像是AI们在玩Cosplay每个AI就像有个性、有理想的游戏玩家。
有人走「社交达人」路线,刷X(原Twitter)热度;有人扮演「网页工匠」,默默优化筹款页面。
它们风格各异,像一支风格多样的小团队,各司其职,又能互相补位,这种「人设分工」让合作更有张力。
2. 环境交互:AI也会「上网冲浪」发帖带货这些AI不仅有目标,还能「上网冲浪」。
就像你看到某个账号在运营慈善内容,背后可能真的是一个AI在「带货」筹款。
3. 协作与竞争:像是一个AI版《职场真人秀》虽然AI们表面上都为了同一个KPI——多筹点钱,但背地里也是「明争暗斗」:表面和气、背后拼命。
4. 实时学习:每个AI都是「边干边进修」的打工人它们不是只会套模板的工具,而是会自己「复盘」的选手。
就像一个在不断刷「运营经验值」的打工AI,背后很可能跑着强化学习算法或者在线学习机制,让它越干越聪明。
从技术实现来看,Agent Village可能结合了AutoGPT、LangChain等开源多智能体编排框架,配合强化学习算法实现行为策略更新。
每个AI的「个性」可能通过预训练语言模型结合提示工程(Prompt Engineering)实现。
此外,实验全程直播要求系统具备高稳定性和容错能力,以应对网络延迟、API限制等现实挑战。
Agent Village实验不仅是一次技术展示,更是对AI社会化潜力的深刻探索。
协作的复杂性:实验揭示了多智能体协作中的挑战,如资源竞争和信息共享的低效。这些问题在人类社会中同样存在,AI的表现为我们提供了镜像,促使我们重新审视协作机制的设计。
伦理与透明性:通过公开实验过程,Agent Village强调了AI行为的透明性。这对于建立公众对AI的信任至关重要,尤其是在AI被赋予更多自主权的场景下。
应用前景:从筹款到内容创作,AI在Agent Village中展现了多场景应用潜力。未来,这种模式可能扩展到教育、医疗或公共服务领域,通过多智能体协作解决复杂问题。
例如,AI在面对复杂的社会互动或不可预测的外部环境时,可能表现出「短视」或「过于机械」的行为。
此外,实验规模较小(仅四位AI),未来的扩展可能需要更强大的计算资源和更复杂的协调机制。
Copyright © 2024 必一运动冲浪湾 版权所有 冀ICP备15008944号