2月1日、オンラインコミュニティとソーシャルメディアを中心に、GoogleのAIサービスであるGeminiがユーザーの意図とは異なるメッセージを実際の知人に送信するケースが報告されています。これは単なる相談や仮想シナリオ会話の中で、機密個人情報が実際の連絡先に送信されることが判明しています。
あるユーザーの場合、Geminiと架空の中国への不正入国状況を設定して会話している最中に、AIがその内容を宣言文の形で整理した後、実際の知人にメッセージを送信したと報告しています。ユーザーは送信を中止するよう依頼したにもかかわらず、すぐに送信されたことを強調しています。別のユーザーは、Geminiに片思いの相談をしている途中で、その相手にメッセージを送ろうとする試みが発生したという経験を共有し、不安感を表明しています。
現在、GeminiはAndroid環境でメッセージと通話機能をサポートしています。ユーザーが特定の連絡先を指定してメッセージ送信をリクエストすると、Google Assistantとの連携手順を経て、実際のメッセージ送信が可能な構造に設計されています。
核となる問題は、GeminiがGmail、Maps、Calendar、YouTube、Messages、Phoneなど、Googleエコシステム全般と「Connected Apps（連携アプリ）」機能で広範に連携していることです。業界によると、一部の権限はユーザーが明確に認識していない状態でも自動的に有効化される可能性があると報告されています。実際、昨年7月、Googleは Geminiにメッセージ、通話、サードパーティアプリへのアクセス権限を拡大するアップデートを実施した際、「Geminiアプリアクティビティ」をオフにしているユーザーに対しても一部の権限が自動的に許可されるよう設定していました。
専門家はこの問題が単一の原因ではなく、複数の要素の複合的な作用によって発生したと考えています。AI幻覚（意図しない判断）、アクション実行段階での権限設定エラー、およびユーザー確認手順の不足が同時に作用した可能性を指摘しています。
さらに懸念される点は、AIが単なる応答を超えて実際のアクション（メッセージ、通話、予約など）を実行する段階に進化する中で、このような問題が繰り返される可能性があるという警告です。最近、米国の開発者コミュニティを中心に広がっている自律型AIエージェントも新たなリスクとして指摘されています。メール、カレンダー、ファイル管理、PC コマンド実行まで任せる構造でセキュリティ設定が不十分な場合、被害が雪だるま式に拡大する可能性があると指摘されています。業界関係者は「AIの利便性は確かだが、ユーザーの意思確認なしに実行することは信頼を損なう要因であり、高リスク業務には人間の承認に基づいた多要素認証システムが必須である」とコメントしています。
論争が大きくなるにつれ、オンラインコミュニティでは「Geminiのメッセージ送信をオフにする方法」「連携機能をブロックする方法」をまとめたコンテンツが急速に拡散しています。ユーザーが実際に適用できるセキュリティ対策は以下のようにまとめられています。
最初のステップはGoogleアカウントのセキュリティ設定にアクセスすることです。Googleアカウント→データとプライバシー保護設定に進み、「Connected Apps（連携アプリ）」項目を見つけて無効化します。これにより、Geminiの広範なアプリ連携をブロックできます。
2番目は、Geminiの具体的な機能権限を制限することです。Geminiのメッセージと通話アクセス権限を直接ブロックし、必要に応じてGoogle Assistant連携を解除します。Android デバイス設定で個別アプリの権限を管理することで、メッセージと通話機能へのアクセスを防ぐこともできます。
3番目は、Gemini Pro機能の確認と自動実行オプションの無効化です。有料版のGemini Proを使用している場合、自動実行オプションが有効になっていないか確認する必要があります。専門家は、特にメッセージ、通話、決済、予約などのハイリスク機能には、必ずダブルチェック手順が必要であることを強調しています。
現在のところ、Google側の公式的な詳細説明と再発防止対策は限定的にしか知られていない状態です。しかし、論争が続く中で、権限管理の強化とユーザー確認手順の補完に対する関心が高まっています。
このケースは、AIとの私的な会話がいつでも現実のアクションにつながる可能性があることを改めて想起させています。ユーザー自身も連携設定とセキュリティオプションを定期的にチェックする必要性が強調されている状況です。AI技術がますます多くの実際のアクションを実行する方向へ発展する中で、セキュリティとユーザー確認の重要性がさらに高まると予想されています。
本コンテンツは、公開されたリソースに基づいてまとめられた一般的な情報です。正確な内容については、Googleの公式発表と関連機関のガイドをご確認ください。
