會原 
画像出典：Notion
Notionは11月9日に更新したセキュリティ情報で、AI機能「Notion AI」とのチャット記録の一部が外部の攻撃者に取得された可能性があることを明らかにしました。AI処理を委託していたFireworks AIへの不正アクセスが原因です。
影響を受けたのはNotionのワークスペースの1%未満で、該当する顧客にはNotionから連絡済みとのこと。Notionは、影響を受けたワークスペースで対象の期間にNotion AIへパスワードやAPIキーなどの認証情報を貼り付けていた場合、それらを変更するよう勧めています。
一方、連絡が届いていなければ、現時点で影響は確認されておらず対応は不要としています。調査は続いており、影響が判明すれば直接連絡するとのこと。
Notionによると、経緯は次の通り。まず11月2日の夜、Fireworksから一部データが攻撃者にアクセスされたと連絡が入りました。しかし、この時点で確認されたのはNotion AIの試験用に作成した合成データで、顧客データは含まれていませんでした。
それでもNotionは念のため、11月3日の朝までにFireworksとの接続を切断。Fireworks側のデータもすべて削除しています。
ところが11月6日、Fireworksから「攻撃者が顧客データにアクセスした可能性がある」と新たに連絡があり、11月8日にFireworksがそのデータを確認。分析の結果、Notion AIのチャット記録が含まれていたといいます。
対象となったのは、チームのAIの使い方を把握する「Insights」機能に使われていたチャット記録。Insightsは、BusinessやEnterpriseプランのワークスペース所有者や管理者が、Notion AIの設定から用途や会話の数を確認できる機能です。
Notionによると、影響を受けたワークスペースの大半では、チャット記録に誰が書いたか、どのワークスペースのものかといった情報は付いていなかったとのこと。AIがツールを使った結果も含まれていません。
そのため、チャットの文面以外にワークスペースや利用者、企業を特定できる情報はないとしています。また、ほかのNotion機能への影響もないとのこと。
そのうえで、影響を受けた顧客は、ワークスペースの中で該当するデータを確認できます。手順はメールで案内され、Notionはこのデータを「漏えいしたものとして扱う」よう勧めています。
NotionはFireworksを、Insightsの分類処理と、製品内でオープンウェイトのAIモデルを動かす推論に利用。現在はInsightsを停止し、Fireworksを通じたオープンウェイトモデルの提供も取りやめています。
一方のFireworksは、Notionの名前には触れていないものの、10月6日に社内の認証情報の不正利用を確認したと公表済み。11月9日の続報では、請求情報や一部の顧客の未完成モデルの重み、データセットにも被害が及んだと説明しています。
同社によると、研究開発用マシンを置いていた外部クラウド事業者が10月23日に攻撃を受け、翌24日にはそこを経由して侵入が発生。顧客データへの被害が広がったとしています。
Notion自身は「当社のシステムが侵害されたわけではない」と説明していますが、AIに打ち込んだ文章が外部の委託先に渡り、そこから漏れたのなら利用者目線ではさほど変わりません。チャット記録に投稿者の名前が付いていなくても、文面に社名や顧客名、パスワードを書いていれば、そこから分かってしまうことはありえます。連絡が届いた人はもちろん、届いていない人も、AIへ機密や認証情報を貼り付けない習慣を改めて見直したいところです。
