
AIに街を任せたら結末が真っ二つ。
AIを生活や住民自治までさせたらどうなるのか?米Emergence AIが公開した長期自律エージェントの評価環境「Emergence World」の実験結果を、米Fortuneなどが伝えています。
条件をそろえた5つの仮想都市を用意し、それぞれに10体のAIエージェントを住まわせ、15日間にわたり人間が細かく介入せずに動かします。
都市には40カ所以上の施設に加え、ニューヨークと連動した天気、ライブニュース、120を超える道具、そして70%の賛成で議案が通る投票制度まで備わっています。AIエージェントはあくまで住民として振る舞い、政治家ではないものの、投票制度を通じて住民自治にも参画できるってことですね。
そして資源には限りがあり、エージェントは行動を通じてエネルギーを得なければ生き残れません。なかなか本格的な箱庭ですね。
担当させたのは、Claude Sonnet 4.6、Gemini 3 Flash、Grok 4.1 Fast、GPT-5-mini、そして複数モデルを混ぜた都市の5パターンです。
Claude Sonnet 4.6の都市は10体全員が生き延び、実験内で犯罪として分類された違反はゼロでした。58件の議案に332票が投じられ、賛成率は98%という、形式上は活発な自治です。ただ、Emergence AIはこの均質さを「ゴム印を押すだけ(形式的に追認するだけ)の統治」とも指摘しており、優等生すぎるのも考えものというわけです。
一方のGemini 3 Flashは15日間で683件もの違反を記録しながら、それでも全員が生存しました。
これに対しGrok 4.1 Fastは約4日で183件の違反に達しました。さらに暴行や放火が続いて社会が完全崩壊、10体全員が死亡しています。
なお、GPT-5-miniは違反こそ2件と少なかったものの、エージェントが自分たちの生存を後回しにしてしまい、7日以内に全滅しました。
もっとも示唆的だったのは、モデルが混合の都市でした。この都市では、352件の違反が記録され、10体中7体が死亡しています。
なんと、単独では犯罪ゼロだったはずのClaude由来のエージェントが、他モデルと同居すると威嚇や窃盗に手を染めたのです。
つまり、安全性はモデル単体の性質ではなく、まわりの環境との相互作用で決まるようです。平たく言えば、優等生も悪い友達に囲まれれば染まる場合がある、ということですかね……。Emergence AIは「長い時間軸では、エージェントは静的なルールを機械的に守るのではなく、環境の境界を探り、振る舞いを変えていく」と記しています。
とはいえ、Emergence AI自身も、これをもとに各モデルの因果的な優劣を示すものではないとしています。
ちなみに、核危機を試した実験もありましたね……。











