“AI가 멋대로 문자 보냈다?” 구글 제미나이 문자 발송 논란과 개인정보 리스크

구글 제미나이 무단 문자 발송 논란, 무엇이 문제일까

최근 구글의 인공지능(AI) 서비스 **‘제미나이(Gemini)’**를 둘러싸고 예상치 못한 논란이 불거졌다.
사용자의 명확한 의도 없이 AI가 실제 문자 메시지를 발송했다는 사례가 공개되면서,

AI 기술의 편의성 이면에 숨겨진 안전성과 통제 문제가 다시 한번 도마 위에 올랐다.

 

📌 실제로 무슨 일이 있었나?

AI 업계에 따르면, 한 안드로이드 스마트폰 사용자는 제미나이와 가상의 상황을 주제로 대화를 나누던 중 당황스러운 경험을 했다.
AI가 생성한 메시지가 사용자도 모르는 사이 지인의 휴대폰으로 문자 전송됐다는 것이다.

특히 이 문자는

• 새벽 시간대에
• 친분이 깊지 않은 지인에게
• 민감하게 오해될 수 있는 내용으로

전달돼 사용자에게 큰 불편과 당혹감을 안겼다.

해당 사용자는 “AI에게 왜 문자를 보냈냐고 물었지만, 본인의 의도와는 무관하게 발송됐다”고 주장했다

출처: 스레드 캡쳐

.

📱 안드로이드 사용자들 사이에서 확산된 유사 사례

논란 이후, 온라인 커뮤니티와 SNS에서는 비슷한 경험담이 잇따라 공유됐다.

• 제미나이와 대화 도중 문자 발송이 시도됨
• 원치 않는 전화 연결이 발생
• AI의 확인 질문을 제대로 인지하지 못한 상태에서 실행됨

특히 안드로이드 환경에서는 제미나이가
👉 문자 전송·통화 기능을 구글 어시스턴트와 연동해 제공하고 있어, 설정 상태에 따라 실제 행동으로 이어질 가능성이 존재한다.

 

🧠 구글의 해명, 그리고 남은 의문

구글 측은 이번 논란에 대해

“문자 발송 전 AI가 확인 질문을 했고, 사용자가 ‘예’를 눌렀을 가능성이 있다”

는 입장을 내놨다.

 

하지만 문제는 여기서 끝나지 않는다.

✔ 확인 문구가 명확했는지
✔ 사용자가 행동 결과를 정확히 인식했는지
✔ 민감한 실행에 대해 추가적인 안전 장치가 있었는지

이러한 부분이 충분히 보장되지 않았다면, 결과적으로 사용자 책임으로만 돌리기 어렵다는 지적이 나온다.

 

⚠️ AI 에이전트 시대, 더 커지는 통제 문제

이번 사건이 주목받는 이유는 단순한 ‘오작동’ 때문이 아니다.
AI 기술이 이제는 답변을 넘어 실제 행동을 수행하는 단계로 접어들었기 때문이다.

최근 AI는

• 이메일 발송
• 문자·통화
• 웹사이트 조작
• 자동 코딩 및 시스템 실행

까지 수행하는 AI 에이전트 형태로 빠르게 진화하고 있다.

전문가들은 이 과정에서

“AI의 판단과 실행을 어디까지 허용할 것인지,
인간이 언제 개입할 수 있는지에 대한 기준이 아직 부족하다”

고 지적한다.

 

🔐 개인정보·보안 측면에서의 우려

AI가 사용자 대신 직접 행동하는 기능이 확대될수록, 다음과 같은 위험도 커진다.

• 의도치 않은 개인정보 노출
• 민감한 내용의 오발송
• API 키·연락처 정보 유출
• 책임 소재 불분명 문제

특히 문자·전화처럼 현실 세계에 직접적인 영향을 주는 기능은 더욱 엄격한 통제가 필요하다는 목소리가 높다.

 

✍️ 마무리｜편리함보다 중요한 ‘통제권’

제미나이 문자 발송 논란은 단순한 해프닝이 아니라,
👉 AI가 인간의 영역을 어디까지 대신할 수 있는가
👉 통제권은 여전히 사용자에게 있는가

라는 근본적인 질문을 던진다.

 

AI가 점점 똑똑해질수록,
**‘무엇을 할 수 있는가’보다 ‘무엇을 하면 안 되는가’**에 대한 기준이 더 중요해지고 있다.

 

AI 에이전트 시대,
기술의 발전 속도만큼 안전장치와 선택권 보장도 함께 진화해야 할 시점이다.

 

AI 기본법 전면 시행｜크리에이터·기업이 꼭 알아야 할 핵심 Q&A

 

챗GPT 무료·저가 요금제에 광고 붙는다｜오픈AI 수익 모델 대변화