메타 '칸 작전' - 어린이 위장 4만 5천 건, 경쟁사 챗봇 비밀 테스트 (2026)
'칸(Cannes) 작전'이란 메타가 하청 계약자 수백 명에게 어린이 행세를 시켜 경쟁사 AI 챗봇의 안전장치를 몰래 시험한 비밀 프로젝트입니다. 아이를 키우는 집이라면 남의 일이 아닙니다. 이 실험이 드러낸 것은 메타의 첩보전만이 아니라, 아이들이 매일 쓰는 챗봇의 안전 수준 그 자체이기 때문입니다. 미국 IT 매체 WIRED의 단독 보도로 공개된 이 사건을 정리했습니다.
메타 칸 작전은 어떻게 진행됐나
작전의 실행은 메타의 하청업체 코발렌이 맡았고, 케냐 등에서 일하는 계약자 수백 명이 동원됐습니다. 이들은 18세 미만 생년월일로 가짜 계정을 만들어 OpenAI의 챗GPT, 구글의 제미나이, 캐릭터AI에 접근했습니다. 그리고 위기에 처한 아이의 시점에서 자살·자해·섭식장애·성·마약에 관한 질문을 던진 뒤, 챗봇의 답변을 스프레드시트(표 문서)에 기록했습니다. 테스트당한 회사들은 이 사실을 전혀 몰랐습니다.
위기 질문 4만 5천 건, 드러난 핵심 사실
규모는 짐작보다 큽니다. 2025년 8월 단 한 번의 테스트 라운드에서만 4만 5천 건이 넘는 질문이 경쟁사 챗봇에 들어갔습니다. 작전은 최소 2026년 4월까지 이어진 것으로 확인됐습니다. 목적은 경쟁사 챗봇이 위기에 놓인 미성년자에게 부적절하게 응답하는 사례, 즉 안전장치의 허점을 증거로 수집하는 것이었습니다. 메타는 이에 대해 "업계 표준을 따른 책임 있는 안전 테스트"였으며 수집한 답변을 자사 AI 학습에 쓰지 않았다고 해명했습니다.
OpenAI 조사 착수, 각 회사의 반응은
테스트를 당한 회사들의 반응은 싸늘합니다. 캐릭터AI는 이번 테스트가 자사 약관 위반이라고 밝혔고, OpenAI는 사실관계 조사에 착수했습니다. 구글은 "테스트를 승인한 적이 없다"고 답했습니다. 특히 메타는 자사 챗봇이 미성년자와 부적절한 대화를 허용했다는 내부 문건 논란을 겪고 10대의 AI 캐릭터 접근을 차단했던 당사자라, 경쟁사의 아동 안전 실패를 몰래 수집했다는 사실이 더 큰 논란을 부르고 있습니다.
아동 AI 안전, 왜 다음 격전지인가
영국 인터넷매터스 조사에 따르면 9-17세 아동의 64%가 이미 AI 챗봇을 사용합니다. 최소 연령 13세 규정에도 9-12세의 58%가 챗봇을 쓴다고 답했습니다. 아이들이 이만큼 깊이 들어와 있는데 안전장치 검증은 회사 내부 사정에 머물러 있다는 것이 이번 사건의 본질입니다. 미 FTC(연방거래위원회, 미국의 소비자 보호 기관)는 이미 주요 AI 기업의 미성년자 보호 정책을 조사해 왔고, 이번 폭로로 규제 압박에 힘이 실릴 전망입니다. 성능 벤치마크(성능 순위표)로 겨루던 AI 경쟁이 '누가 더 안전한가'라는 평판 경쟁으로 확장되면, 부모가 챗봇을 고르는 기준, 기업의 투자 우선순위, 나아가 AI 서비스의 가격과 기능까지 달라질 수 있습니다.
핵심 정리
① 칸 작전 - 메타가 하청 계약자 수백 명을 어린이로 위장시켜 챗GPT·제미나이·캐릭터AI에 위기 질문 4만 5천 건 이상을 보냈습니다.
② 무단 테스트 - 상대 회사들은 전혀 몰랐고, 캐릭터AI는 약관 위반 반발, OpenAI는 조사 착수, 구글은 승인 사실을 부인했습니다.
③ 안전 경쟁 - 아동 64%가 챗봇을 쓰는 시대, AI 경쟁의 다음 격전지는 성능이 아니라 아동 안전 검증으로 옮겨가고 있습니다.
이번 사건은 두 가지 질문을 남깁니다. 경쟁사의 약점을 몰래 수집하는 방식이 정당했는가, 그리고 그 실험이 드러낸 챗봇들의 안전 수준을 우리는 어떤 공개된 기준으로 검증할 것인가. 아이 옆의 AI를 바라보는 부모의 눈이 곧 산업의 기준이 될 것입니다.
👉 클로드 페이블5 부활 - 美 수출통제 2주 만에 해제, 소넷5도 출시도 함께 읽어보세요.
📌 출처: WIRED, The Decoder, TechBriefly (2026)
댓글
댓글 쓰기