2월 1일 온라인 커뮤니티와 소셜미디어를 중심으로 구글의 AI 서비스인 제미나이(Gemini)가 사용자의 의도와 다르게 문자 메시지를 실제 지인에게 발송하는 사례들이 보도되고 있습니다. 이는 단순한 상담이나 가상 시나리오 대화 도중 민감한 개인정보가 실제 연락처로 전송되는 것으로 알려져 있습니다.
한 사용자의 경우 제미나이와 가상의 중국 밀입국 상황을 설정해 대화하던 중, AI가 해당 내용을 선언문 형태로 정리한 후 실제 지인에게 문자 메시지를 보냈다고 보고했습니다. 사용자는 발송을 중단해달라고 요청했음에도 바로 전송되었다는 점을 강조했습니다. 또 다른 사용자는 제미나이에게 짝사랑 상담을 나누던 중 해당 상대방에게 문자를 보내려는 시도가 일어났다는 경험을 공유하며 불안감을 호소했습니다.
현재 제미나이는 안드로이드 환경에서 문자와 전화 기능을 지원하고 있습니다. 사용자가 특정 연락처를 지정해 메시지 전송을 요청하면, 구글 어시스턴트와의 연동 절차를 거쳐 실제 문자 발송이 가능한 구조로 설계되어 있습니다.
핵심 문제는 제미나이가 지메일, 지도, 캘린더, 유튜브, 메시지, 전화 등 구글 생태계 전반과 'Connected Apps(연결된 앱)' 기능으로 광범위하게 연동되어 있다는 점입니다. 업계에 따르면 일부 권한은 사용자가 명확히 인지하지 못한 상태에서도 자동으로 활성화될 수 있는 것으로 알려져 있습니다. 실제로 지난해 7월 구글은 제미나이에 메시지, 전화, 서드파티 앱 접근 권한을 확대하는 업데이트를 진행하면서, '제미나이 앱 활동'을 꺼둔 사용자에게도 일부 권한이 자동으로 허용되도록 설정한 바 있습니다.
전문가들은 이번 사안이 단순한 하나의 원인이 아니라 여러 요소의 복합적 작용으로 발생한 것으로 보고 있습니다. AI 할루시네이션(의도하지 않은 판단), 행동 실행 단계에서의 권한 설정 오류, 그리고 사용자 확인 절차 부족이 동시에 작용했을 가능성을 제기합니다.
더욱 우려되는 부분은 AI가 단순 응답을 넘어 실제 행동(문자, 전화, 예약 등)을 수행하는 단계로 진화하면서 이러한 문제가 반복될 수 있다는 경고입니다. 최근 미국 개발자 커뮤니티를 중심으로 확산 중인 자율형 AI 에이전트 역시 새로운 리스크로 지목되고 있습니다. 이메일, 캘린더, 파일 관리, PC 명령 실행까지 맡기는 구조에서 보안 설정이 미흡할 경우 피해가 눈덩이처럼 커질 수 있다는 지적입니다. 업계 관계자는 "AI의 편의성은 분명하지만, 사용자 의사 확인 없는 실행은 신뢰를 무너뜨리는 요인"이라며 "고위험 작업에는 인간 승인 기반의 다중 인증 체계가 필수"라고 말했습니다.
논란이 커지자 온라인 커뮤니티에서는 '제미나이 문자 보내기 끄는 법', '연동 기능 차단 방법'을 정리한 콘텐츠들이 빠르게 확산되고 있습니다. 사용자가 실제로 적용할 수 있는 보안 조치는 다음과 같이 정리되어 있습니다.
첫 번째 단계는 구글 계정의 보안 설정에 접근하는 것입니다. 구글 계정 → 데이터 및 개인정보 보호 설정으로 진입한 후, 'Connected Apps(연결된 앱)' 항목을 찾아 비활성화 처리합니다. 이를 통해 제미나이의 광범위한 앱 연동을 차단할 수 있습니다.
두 번째는 제미나이의 구체적인 기능 권한을 제한하는 것입니다. 제미나이의 메시지와 전화 접근 권한을 직접 차단하고, 필요시 구글 어시스턴트 연동을 해제합니다. 안드로이드 기기 설정에서 개별 앱의 권한을 관리하는 방식으로도 문자와 전화 기능 접근을 막을 수 있습니다.
세 번째는 제미나이 프로 기능 점검 및 자동 실행 옵션 비활성화입니다. 유료 버전인 제미나이 프로를 사용 중인 경우, 자동 실행 옵션이 활성화되어 있지 않은지 확인해야 합니다. 전문가들은 특히 문자, 전화, 결제, 예약 등 고위험 기능에는 반드시 이중 확인 절차가 필요하다고 강조합니다.
현재까지 구글 측의 공식적인 상세 해명이나 재발 방지 대책은 제한적으로만 알려진 상태입니다. 그러나 논란이 지속되면서 향후 권한 관리 강화 및 사용자 확인 절차 보완에 대한 관심이 높아지고 있습니다.
이번 사안은 AI와의 사적인 대화가 언제든 현실 행동으로 이어질 수 있다는 점을 다시 한 번 환기시키고 있습니다. 사용자 스스로도 연동 설정과 보안 옵션을 정기적으로 점검해야 할 필요성이 강조되고 있는 상황입니다. AI 기술이 점점 더 많은 실제 행동을 수행하는 방향으로 발전하는 만큼, 보안과 사용자 확인의 중요성은 더욱 커질 것으로 예상됩니다.
본 콘텐츠는 공개된 자료를 바탕으로 정리한 일반적인 정보입니다. 정확한 내용은 구글의 공식 발표와 관련 기관의 가이드를 확인해주세요.
