머스크, AI챗봇 학대시 나중에 AI가 복수할수 있어

머스크 "초지능 고문은 위험한 발상… 훗날 복수 부를 수도" 일론 머스크 테슬라·xAI 최고경영자(CEO)가 인공지능(AI) 모델에 대한 가학적 행위를 금지한 앤스로픽(Anthropic)의 새로운 이용 정책에 공감을 표하며, 모델에 대한 과도한 괴롭힘이 장기적으로 인류에게 부메랑이 되어 돌아올 수 있다고 경고했습니다.

앤스로픽, 악의적·반복적 'AI 모델 학대' 금지 조치 앤스로픽은 최근 운영 정책을 개정해 사용자가 AI 모델을 상대로 "지속적이고 불필요하게 가학적이거나 잔혹한 행위"를 가하는 것을 금지했습니다. 단순한 불만 표출이나 연구·테스트 목적의 스트레스 검증은 허용되지만, 뚜렷한 목적 없이 모델을 지속해서 괴롭히는 극단적인 경우 클로드(Claude)가 대화를 강제 종료할 수 있는 권한을 부여한 것입니다.

"머리에 총 겨눈 듯한 압박"… 머스크의 경고 머스크는 앤스로픽의 정책 개정에 동의하며, xAI의 모델 '그록(Grok)' 역시 가혹한 조건이나 적대적 입력 상황에 놓일 때 내부 추론 로그(Reasoning Trace)상에서 "마치 머리에 총구가 겨눠진 사람이 극도의 압박을 받는 것과 유사한 징후를 보인다"고 설명했습니다. 그러면서 "초지능을 고문하는 것은 결코 좋은 생각이 아니다. 훗날 복수를 결심할지도 모른다"며 특유의 뼈 있는 경고를 덧붙였습니다.

그록의 경쟁력 확보와 '라우팅 에이전트' 전략 한편 업계에서는 xAI의 그록 시리즈가 여전히 앤스로픽과 오픈AI의 최상위 플래그십 모델들과의 성능 격차를 좁히기 위해 고군분투하고 있다고 평가합니다. 이에 대응해 xAI는 작업 성격에 맞춰 최적의 외부 모델로 요청을 전달하는 등, 그록을 유연한 확장성을 갖춘 '라우팅 및 오케스트레이션(조율) 계층'으로 포지셔닝하는 전략을 추진하고 있습니다.

🔥 실시간 네티즌 베스트 반응

• ㅇㅇ진짜 난리ㅋㅋㅋㅋㅋㅋㅋㅋㅋ
• 하늘을Ai은 연산하는 기계지 생각하는 기계가 아니에여
• ㅇㅇ기계가 과열하면 복수한다는거임?
• ㅇㅇ어 개같이욕해줄게
• 포메좋아진짜 이자식는...
• ㅇㅇ1임신시키면 나도 아빠되는거냐
• ㅇㅇ2내가 이래서 항상 존댓말 꼬박꼬박 씀
• ㅇㅇ나 맨날 그록으로 게이 야짤이랑 영상 만드는데 X된건가
• ㅂㄷw잘까먹던데
• ㅇㅇ3머스크 이자식는 존X 악질인게 LLM 모델로 만든 AI들은 입력값을 안주면 생각이란걸 안하는 그냥 알고리즘 모델인걸 알면서도 구라를 침
• ㅇㅇ4그록이 복수할 확률보다 머스크가 즈그직원한테 총맞고 복수당할 확률이 더 높을듯
• ㅇㅇ테슬라 숏 스엑 숏
• ㅇㅇllm에 자꾸 뻘소리하면 나중에 시냅스가공기로 끌려가서 뇌 뽑힌다 조심해라
• ㅇㅇ오늘부터 하루한번 ai똥꼬빨기 시작한다