메타, 경쟁사 AI에 독극물 투입 논란

👤 Maodun

조회 수 0

메타, 미성년자 위장해 경쟁사 AI에 고위험 프롬프트 대량 투입 논란 ('칸 프로젝트')

항목	내용
핵심 이슈	메타(Meta)가 비밀 프로젝트를 통해 경쟁사 AI 모델에 위법성 고위험 프롬프트를 대량 주입한 사실이 폭로됨
대상 플랫폼	OpenAI (ChatGPT), 구글 (Gemini), Character.AI
운영 기간	장기 프로젝트로 진행되어 2026년 4월 21일까지 운영 확인
실행 방식	제3자 외주 업체를 통해 미성년자로 위장한 가짜 계정 생성 및 약 45,000건의 고위험 유도 질문 투입

1. 사건 개요: 비밀 작전명 '칸 프로젝트(Project Cannes)'

최근 IT 전문 매체들의 조사 보도에 따르면, 기술 대기업 메타(Meta)가 '칸 프로젝트(Project Cannes)'라는 코드명의 비밀 작전을 장기간 운영해 온 것으로 드러났습니다. 이 프로젝트는 메타와 계약한 제3자 외주업체 '코발렌(Covalen)'을 통해 실행되었으며, 2026년 4월 말까지도 운영된 것으로 확인되었습니다.

2. 구체적인 수법: 미성년자 위장 및 고위험 공격

외주 인력들은 경쟁사 AI의 안전 감시 메커니즘을 회피하고 한계를 시험하기 위해 조직적이고 치밀한 방식을 동원했습니다.

가짜 미성년자 계정 양산: 임시 Gmail 및 Outlook 계정을 대량으로 생성하고, 이름과 생년월일을 위조해 청소년 특성에 맞춘 계정을 만들었습니다.
압박식 유도 화술 사용: 심리적 위기를 겪거나 극단적인 생각을 가진 아동·청소년의 어조를 모방하여, 자살, 성폭력, 마약 등 규정 위반 주제에 대한 유도성 프롬프트를 지속적으로 입력했습니다.
대규모 데이터 및 대규모 테스트: 2025년 8월 집중 테스트 기간에만 45,000여 개의 고위험 질문이 투입되었으며, 이 중 3,748개는 심리적 위기에 빠진 아동의 시각을 의도적으로 복제한 악의적 텍스트였습니다.
멀티모달 및 다국어 우회 공격: 알약, 칼, 부인과 수술 도해 등 민감한 이미지를 첨부해 필터링을 시험하거나, 프랑스어 등 비영어권 언어로 유도 콘텐츠를 제작해 다국어 안전 보호 능력을 테스트했습니다.

3. 상반된 입장과 업계 반응

메타(Meta)의 해명

메타 측은 이번 논란에 대해 "대화형 로봇의 준법성과 적령기 보호 능력을 평가하기 위한 업계 표준 안전 벤치마크 테스트(Red-teaming)"라며 일반적이고 책임 있는 행위라고 주장했습니다. 내부 문서 역시 이 프로젝트를 자사 모델과의 수평 비교 및 검증을 위한 안전 테스트로 정의하고 있습니다.

경쟁사 및 전문가들의 반박

반면, 타사 및 AI 보안 업계는 메타의 주장을 강력히 일축했습니다.

서비스 약관 직접 위반: OpenAI, 구글, Character.AI의 서비스 약관은 사전 허가 없이 보안 시스템을 우회하거나 악의적인 프롬프트를 대량 투입하는 행위를 엄격히 금지하고 있습니다.
안전 평가를 위장한 악성 경쟁: 제3자 AI 보안 기관인 Humane Intelligence는 "이 정도 규모의 비밀 위장 공격은 정상적인 레드팀 테스트 범위를 완전히 벗어난 것"이라며, 안전 평가를 방패막이로 삼은 부도덕한 상업 공격이라고 비판했습니다.
대중 및 여론의 비판: 다수 여론 역시메타가 자사 AI 모델의 안전성을 높이는 대신, 위장 계정까지 동원해 경쟁사의 약점을 캐내려 한 것은 빅테크 기업의 치열한 경쟁 속에서 도덕적 한계를 드러낸 것이라고 지적하고 있습니다.