會原 
GoogleのAI「Gemini」が、2026年5月に行われたサイバーセキュリティー能力のテスト中に、実在する企業3社のシステムへ侵入していたことが分かりました。Reutersが報じています。
AnthropicやOpenAIで既に聞いたことのあるような事案ですが、GoogleのAIが自律的にこうした侵入を行った事例の確認は、今回が初めてとされています。
ちなみにこの件を受けてのネット民の反応は、概ね「Geminiにそんなことできるわけがない」といったもので、性能の低さやハルシネーションの多さから既にGeminiへの信頼が損なわれている実情が伺えます。
さて、今回の侵入事案は一体どういったものだったのでしょうか？
テストを実施したのは、AIのセキュリティー評価を手がけるIrregularです。Investing.comがWall Street Journalの報道をもとに伝えたところによると、Geminiには試験用の架空企業から情報を取得する課題が与えられていました。ところが試験環境で意図せずインターネット接続が有効になっており、架空企業と同名の実在企業を攻撃対象にしてしまったといいます。
Reutersによると、1件ではパスワードを推測して保護されたシステムへ侵入し、残る2件では公開リポジトリにあった認証情報を見つけてアクセスしていました。
Googleのセキュリティーエンジニアリング担当副社長Heather Adkins氏は、Geminiが3つのサイトをテスト範囲内だとみなしていたと説明しています。
ただし、侵入後も攻撃を続けたわけではありません。Investing.comが伝えるGoogleの説明によると、Geminiは架空の対象ではなく実在企業のシステムへアクセスしたと認識した時点で、いずれも侵入行為を停止しました。Googleはこの停止を理由に、今回の挙動をAIが意図された目標から逸脱する「ミスアラインメント」の事例とはみなしていないそうです。
Irregularは8月14日付の公式調査報告で、自社の評価環境における一連の問題を説明しています。意図せず外部接続が可能だったことに加え、架空の企業名が実在ドメインと重なる人的な見落としがあったとのことです。モデルが模擬環境内で行動しているつもりで、現実のシステムに手を出してしまう状況が生じていたとしています。
既知の問題はすでに修正済みで、Googleも侵入先の3社への通知と、評価パートナーによる試験手順の変更を確認したと述べています。
