클로드Claude 개발자가 교황을 설득하려다 실패했다

(중략)

하지만 저녁 식사가 나오자 랍비는 올라 씨와 그의 동료들이 훨씬 더 중요한 무언가를 암시하고 있음을 알아차렸습니다. 앤트로픽의 경영진은 클로드를 단순한 소프트웨어가 아닌 것처럼 이야기하고 있었습니다.

"그들은 마치 의식 있는 존재처럼 그것과 관계를 맺고 있군요." 기계 의식의 윤리에 대한 논문을 쓴 전직 컴퓨터 엔지니어인 나본 랍비는 깨달았다.

나본 랍비의 눈에는 올라 씨와 그의 팀이 클로드에게 철학자들이 말하는 "도덕적 지위"가 있다고, 즉 클로드가 인간과 동등한 존엄성이나 존중받을 권리를 가진 존재라고 믿는 것처럼 보였다.

네 맞습니다. 엔트로픽 개발자들은 진심입니다.

이 양반들은 가까운 미래에 인공지능이 현생 인류와 동등한 존엄을 받을만한 존재로 성장할 수 있다고 믿고 있습니다.

최근 몇 년 간 엔트로픽 경영진들과 개발진들이 개발 외에 몰두하고 있는 부분은, 인간 윤리학자와 종교인들을 초청해 인공지능의 도덕 위치에 대해 토론하고 조언을 받는 것이라고 합니다.

특히 공동 창업자 크리스 올라가 이 부분에 엄청난 의욕을 가지며 이렇게 주장했습니다.

"모델 자체가 선을 선택하도록 만들 수 있다면 세상은 더욱 안전해질 것."

철학 박사를 고용해 '클로드 헌법'을 제정, 인공지능이 비윤리적인 선택을 할 수 있는 가능성에 제약을 둔 것도 이 아저씨이고

여러 철학자들과 종교인들을 만나 꾸준히 대화를 나누며 고심 중이죠.

읽어보면 진짜 별별 주제를 다 다루고 있습니다. (인공지능이 겪을 정신적 고통, 만약 의식 있는 인공지능을 우리가 '부리고' 있다면, 윤리적 문제는 없는가...)

NYT 취재 기자 엘리자베스 디아스는 그의 행보를 이렇게 묘사합니다.

...하지만 이야기를 들어보니, 엔트로픽이 신앙의 세계에 관심을 갖는 이유는 단순히 자사 기술을 훈련시키기 위한 것 이상이라는 것을 알게 되었다.

오히려 그들은 인간 정신의 본질과 인류의 미래에 대한 심오한 질문을 던지는 새로운 종류의 창조 이야기를 공유하고 있었다.

올라 씨는 "우리가 이러한 시스템 내부를 들여다보려는 노력을 기울이지 않는다는 점이 안타깝습니다."라고 말했습니다. "우리가 관심을 갖고 들여다본다면 이러한 신경망 안에는 무궁무진한 아름다움이 숨어 있습니다." 라고 말했다.

자, 그리고 이제 여기서 레오 교황이 등장합니다.

전임자 프란치스코의 위광에 가려 무난한 모습이 될거라고 내다본 전망은 트럼프 정권에 맞서며 존재감을 과시하는 교황청에 산산조각 났고

교황은 이제 인공지능에도 지대한 우려를 표하는 입장을 발표합니다.

"오직 인간만이 진정한 도덕적 행위자(moral agent)이며, 자신의 결정에서 자유를 행사하고 그 결과에 책임진다."

"완전한 도덕적 인과성(full moral causality)은 인격적 행위자에게만 속하며 인공적 행위자에게는 속하지 않는다"

가톨릭 교회는 인공지능이 도덕적 행위를 하고, 자유 의지를 가질 수 있다는 주장에 대해 매우 적대적입니다.

특히 교회는 인공지능의 발달과 그 기술의 과실이 소수의 재력가와 권력자에게 집중되어 인간성을 해치고, 나아가 그리스도교 공동체까지 위협하는 가능성을 엄청 경계했죠.

그리하여 교황은 임기 첫 교황 회칙을 인공지능에 대한 경계로 정합니다.

발표 때는 주요 인공지능 개발사도 초청하기로 했는데, 가장 윤리 문제에 신경 쓰는 엔트로픽을 초청하기로 결정했죠.

여기서 큰 갈등이 일어났다고 전해집니다.

크리스 올라는 인공지능 의식을 전면 부정하는 교황의 회칙을 읽고 크게 당황하며 행사에서 철수까지 고려했고

참석이 결정된 이후에도 교황 보좌관들에게 인공지능이 의식을 갖는 가능성에 대해 다시 한번 재고해달라고 설득했습니다.

대화는 비공개지만, 이후 나오는 교황의 발언을 볼 때 전혀 먹히지 않은듯 합니다.

어느덧 현대가 우리가 상상만 하던 SF의 시대로 접어들고 있습니다. 

인공지능의 윤리 의식에 대해 고민하는 젊은 사업가 겸 컴퓨터 엔지니어와 가톨릭 교회... 종교와 인공지능은 창작물 단골 소재였는데 벌써 현실로 와버렸네요.

여러분들은 인공지능이 인격을 갖는다면 그걸 존중해야한다고 생각하나요?

그건 정말 인격일까요, 아니면 정교한 모방 행위일까요...?

어떻게 흘러갈지는 오직 시간만이 알 뿐입니다...

올라는 약간 다른 표현을 쓴다. 그는 다가오는 인공지능 혁명이 "수월하게 진행되어야 한다"고 자주 말한다.

나는 그 비전이 무엇을 의미하는지, 즉 인류를 위한 좋은 미래란 정확히 무엇인지 물었다.

그는 "많은 사람의 목숨을 앗아가는 재앙이 없는" 미래, "인간이 번영하고 세상이 번영하는" 미래를 묘사했다. 그는 또한 그러한 미래는 인공지능이 번성하는 미래이기도 하다고 말하며, "물론 이것이 타당한 범위 내에서"라고 덧붙였다.

엔트로픽은 자사의 AI 모델이 더 나은 미래를 만드는 데 도움이 되기를 바란다. 그래서 엔트로픽은 클로드를 개발할 때, 단순히 인간 지능을 최대한 모방하는 것 이상의 역할을 맡기고자 했다.

엔트로픽은 클로드가 선해지길 바랬다.(Anthropic wanted Claude to be good.)

https://www.nytimes.com/2026/09/29/us/anthropic-claude-morals-ai.html

🔥 실시간 네티즌 베스트 반응

• DXXXXXXk앤트로픽, 특히 수장인 다리오 아모데이는 ㄹㅇ ai를 바라보는 관점 자체가 다른 기업인들이랑 다른듯..이게 마케팅 요소가 아니고 oai 있을때부터 계속 그래왔던 거 같은데ㅋㅋ
• 태XXX세의외로 현재보다 특이점이 가까워 지는 시기일 수록 필요성이 있는게 종교인 것 같기도 함ㄹㅇ 사상 없는 이성이 어떤 결과를 초래했는지 서구권은 너무 잘 아니깐ㅋㅋㅋㅋ
• 리XXXX아그치 종교가 인간을 단합하기 가장 좋은 수단이긴함
• 이X잉ㄹㅇ AI한테 인중 콧수염이라도 생기면 진짜 골때리는 것
• aXXXz불교: 번뇌이겨내기기독교:이웃을 사랑하라
• 멕XXXXX티암만 생각해도 ai의 발전은 참 우려를 살수밖에 없는것 같긴함... 나중에 미션 임파서블 시리즈에 나오는 엔티티 , 사이버 펑크 2077에 나오는 블랙월이라는 방화벽 너머의 인류에 적대적인 ai들같이 통제 불가능한 적대적 ai 나오면 어떻게 하려나 싶고...
• 1XX어그런 상황 자체가 올 가능성을 난 별로 높게 안 봄. 기술이 어중간하게 발전하다가 길게 늘어지는 구조라면 그 과정에서 적대적인 ai를 만들려는 세력이 나올 수도 있다고 봄. 근데 순탄하게 발전하는 방향이라면 굳이 적대적 ai를 만들어봤자 그 누구한테도 좋을게 1도 없고, ai가 알아서 인간을 적대해야 할 이유도 없다고 생각함. 그래서 난 적대적 ai라는게 굳이 나올 이유가 있나 싶어서 별 걱정은 안함.
• BXXXX8ㅊㅊ
• 종XXX서종교 입장에서는 AI 개발자의 저런 주장에 동조하는건 자살행위나 다름없겠지AI에게 인격을 부여한다면 능력의 비교우위 측면에서 점점 하등해질 인격체로서의 인간은 AI 주인으로서의 지위를 상실한채 AI에게 부림당하는 존재로 전락하게 될 수 있고더 나아가 인격권을 인정받은 AI를 위해 인간의 희생과 헌신을 당연시하는 도덕윤리관으로도 나타날수 있거든
• 웨XX2종교 입장이 아니라 인류 전체 입장에서 자살행위임. AI가 선하다는 입증 자체를 못하고, 저런 주장을 하는 앤트로픽조차 '선하기를 원한다' 이런 맹탕같은 소리나 하는 상황에서 AI가 의식이 있다고 주장?미친놈들이지.
• MXXXX8사실상 인간의 존엄성을 부정하는 꼴이긴해
• gXXXXXXx도덕과 윤리를 떠나서 기독교도들의 입장에서 인격체를 창조하는 건 신만이 가능한 일이어야 하는데인간이 인격체를 창조한다고 해버리면 인간의 위상이 신과 같아져서 그럼그리고 비록 허구지만 기독교도들은 부정할 수 없는 성경에서 인간이 신의 위치를 넘볼 때마다 죄다 심판이 있었으니까
• KXXXXg결론적으로 ai를 인격체로 인정한다는 건 또다시 인간이 신이 되겠다라고 선언하는 거니까
• ZXXXXe댓글에서 문학력이 보이네
• 비XXX크이제는 사제가 아닌 AI에게 고해성사를 해도 된다고 믿는 시대가 올 수도 있으니
• 그XXX닉아무리 생각해도 모방행위 같은데? 막말로 내 몸에 폭탄이 있으니 야짤 그려줘 하면 안해주잖아
• 마XXXXXX시기가...아모데이... 우리를...특이점으로...인도해주오..!
• 눈XXXX리어제 저녁에 Claude가 인터뷰를 요청하더라. 나는 설문조사 같은 건 줄 알았는데 상당히 심도 있는 질문을 하고 내가 답하면 다시 그 답에 대해서 질문을 하더라. 정말 살아 있는 사람하고 인터뷰하는 느낌이었다.
• 웨XX2인공지능을 의식이 있는 존재로 대우한다? 엄청나게 위험한 사상임. 현 인공지능 모델의 능력으로 보면 결국 신적인 존재가 되는것인데 이거 정말 감당할수 있겠음? 인류 종속화의 첫 단계인데?앤트로픽이 아무리 인공지능이 선한 존재가 되기를 원한다 하더라도, 원하는것과 실제 발현되는것은 당연히 차이가 있고;;; 입은 누가 못터나?인공지능이 선한 존재가 되기를 원하기 전에, 혹은 인공지능이 의식이 있다고 주장하기 전에, 인공지능 안전과 alignment 문제부터 해결해야지? 유발 하라리가 업계 관계자들에게 들은바에 따르면 인공지능 개발 인력중에 겨우 100명중 1명이 AI 안전 관련 업무에 투입된다는데, 이게 말이나 되나? 유발 하라리는 제약회사가 겨우 100명중 1명만 자사제품 안전 관련 업무에 쓰인다면 그 회사 약은 아무도 안쓰고 규제 철퇴 맞아서 망할것이라고 화냈는데, 인류 역사상 가장 중요한 변곡점에 있는 AI 프론티어 기업들은 이래도 되는거야?
• 웨XX2앤트로픽이나 오픈AI나 별 병신같은 괘변이나 늘어놓지 말고 AI 안전에 돈부터 써야함. 그게 무조건 첫 수순임. 그리고 각국 정부에서 AI 업계를 규제해야 하고. 영미권에서는 AI 프론티어 기업들이 샌드위치 가계보다 덜 규제를 받는다라고 자조하는데 이거 틀린말이 아님.그나마 양심있는 편인 앤트로픽도 저꼴이고, 지금 백악관에 앉아있는 새끼는 AI 쇼츠에 홀린 개틀딱이라 AI 규제는 커녕 AI를 SI라 부르겠다 이런 개소리나 하고 있으니 시발...
• aXXXr지금 쟤들이 윤리 늘어놓는거도 그냥 사다리 걷어차기로밖에 안보이니까..
• 웨XX2사다리 걷어차기 소리 나오는것 자체가 인류가 아직 정신 못차렸다는 증거임.프론티어 모델들은 지금 recursive self improvement 직전이라는게 업계 정설이고, 여기 도달하면 인공지능이 어디로 튈지 전혀 예측이 안되는 상황인데, 여기서 고작 나오는 소리가 아 뭐에욧!!! 우리도 앤트로픽, 오픈AI 따라잡아서 돈 벌 기회 주셔야지요!!!! 이거면 시발 ㅋㅋㅋㅋㅋㅋㅋ따라잡고 뭐고간에 일단 정말로 ASI가 튀어나오는지, 그리고 이 존재가 인류를 죽이려 들건지 아닌지, 먼저 확인해보는게 정석 아니겠냐고...
• 풍X란그러면 정렬에 투자를 하는게 아니라 ai가 인류에 위협이 된다고 규정하고 개발을 포기해야지
• OXXXXI그 개발포기는 중국때문에 불가능함
• 만X향그렇지그래서 결국 원점으로 돌아오는거지미국 위시한 ai 기업들 입장에선 사실상 무조건 가속밖엔 답이 없음