AIによる概要の誤りはGoogleに責任。独裁判所判決

　「自分を検索したら、AIが誤った情報を引用して、自分の名誉を毀損するようなことを表示してきた」──。もしあなたにこんなことが起きたら、あなたは誰に責任があると思いますか？そんな問題が現実に起こり始めています。

　GoogleのAI検索機能「AIによる概要」を巡り、ドイツの裁判所が、「AIによる概要」に含まれる誤情報についてGoogle自身が責任を負うとの判断を示しました。この判決は、AI検索を巡る法的責任のあり方に大きな影響を与える可能性があります。

　発端となったのはドイツ・ミュンヘンの出版社2社の訴えです。「AIによる概要」が、詐欺行為を行う他の企業の情報を誤って関連付け、十分な根拠がないにもかかわらず両社について「怪しい商慣行を行っている」「詐欺を運営している」といった内容を表示したため、出版社側はGoogleに削除を求める警告書を送付。しかし対応されなかったことから提訴に踏み切りました。

　裁判所は、Googleの「AIによる概要」について、従来の検索結果とは全く異なる仕組みの機能であるとした上で、AIが検索結果を独自の言葉と構造に基づいて書き換えて表示していると主張。また、「AIによる概要」が情報源とした情報に怪しい企業との関連性を示す記述は一切なかったことから、裁判所はこれらを「AI自身の発言である」としています。

　また、裁判所は、ドイツ連邦最高裁判所が過去に下した検索エンジンに関する判例も引用しながら、この「AIによる概要」が従来の検索機能とは大きく異なることを説明。検索エンジン提供事業者は、表示された検索結果について直接の責任を持たないという過去の判例は、「AIによる概要」には当てはめることはできないとして、表示した結果に対してはGoogle側が責任を持つ必要があるとしています。

　Google側は、公聴会において、生成AIが提示する情報には誤りを含む可能性があることをユーザーは一般的に知っているとした上で、「AI Overviewsには情報源へのリンクが表示されており利用者自身が内容を確認できる」と、検索機能の一部であることを主張しました。しかし裁判所はこの主張を退け、AI Overviewsは、Googleが独自に生成・提示する一体の文章であり、単なる検索結果の一覧ではないと判断。利用者は検索結果全体ではなく、AIがまとめた内容を直接受け取るため、その内容についてGoogleが責任を負うべきだと結論付けました。

　Googleは、Android Authorityの取材に対してコメントを発表。「AIによる概要の品質向上の為に多大な投資を行っており、回答のほとんどが正確な情報を提供している。また、Webサイト上に存在する情報を反映するように設計している。」とした上で、控訴等を含めた今後の動きは現在検討中であり、まだ最終決定ではないと述べています。

　Googleは、AIによる概要の出力する結果に間違いがある可能性を認めており、品質が向上したとしても誤りを0%に下げるのは難しいのが現状。「AIによる概要」機能に類似するものは、今後他の検索エンジンでも搭載される可能性が高く、利用者数が増えていくことも十分に考えられます。

　使う人が増えていけば行くほど、今回と同じような事例は必然的に増えていくのではないでしょうか。AI時代における「責任の所在」が現実的な問題となっており、一つの判例がその後の判断に大きな影響を与えていきそうです。