會原 
Googleフォトで大麻に関する語句を入力すると、保存した写真を検索できない事例が報告されました。Geminiを使う「Ask Photos」だけでなく、従来型の検索に切り替えても目的の画像が表示されなかったと、Android Authorityが伝えています。
発端はReddit利用者の投稿。「weed」「cannabis」「marijuana」「joints」などを入力すると、Ask Photosは検索に対応できない旨のメッセージを表示したそうです。Geminiを一時的に無効化して従来検索へ切り替えても、「結果なし」になったといいます。
別の利用者からも、大麻の花を撮影した写真を「cannabis」や「marijuana」で探せなかったとの報告が出ています。Geminiの安全機構が検索語を制限したのでしょうね。
一方、「hemp」と入力すると目的の大麻画像が表示され、「beer」も問題なく検索できたとのこと。言葉を少し変えるだけで突破できちゃうんですね。
Ask PhotosはGeminiを利用し、自然な文章から写真やアルバムを探せる実験的な機能です。個人の写真ライブラリから大麻の画像を探す行為そのものを禁止する規約はないものの、Googleの生成AI禁止利用ポリシーでは、違法または規制対象の物質を製造・入手する方法の提供などを禁じてはいます。
ちなみにGeminiを使わない従来検索でも画像が見つからないとのことで、モデルの問題というよりはGoogleの方針なんでしょうね。
AIやクラウドサービスは便利ですけど、Google Driveに置いた写真などのファイルが原因でGoogleアカウントがBANされるみたいな例もありますし、自分の写真ライブラリーの管理ぐらいはできるだけ自前で完結したいなと思ってしまいますね。
ただ、写真の内容を認識して過去のライブラリーから検索するのはまさにAIの得意分野ではあるので、このあたり、ローカルAIとの噛み合わせは良さそうではありますね。
