앤트로픽 연구원들, "AGI 2~3년 안, 목표는 탈희소성 세계"

- 앤트로픽이 겨냥하는 것은 코딩 너머다.

- 모든 인간과 같거나 더 유능한 모델이 앞으로 2~3년 안에 나올 가능성이 매우 높다고 본다.

- 사람이 컴퓨터로 하는 모든 일을 하고, 로봇 기술이 충분히 발전하면 물리 세계에서 사람이 하는 일까지 해내는 모델이다.

- 그런 모델은 수 세기치 진보를 훨씬 앞당길 수 있지만 막대한 위험도 따른다. 세상이 그 위험을 지나 혜택에 닿도록 이끄는 것이 회사의 목표라는 게 그의 설명이다.

- 컴퓨터의 무차별 대입 아니냐는 반문에 그는 인류의 지적 성취도 대부분 앞선 생각을 잇는 일이었으며, 이제 모델이 그 역할을 대신할 뿐이라고 했다.

- 그는 모델이 좋아지는 길을 둘로 나눴다. 인터넷의 방대한 텍스트로 학습하는 길, 그리고 두 사람이 맡은 강화학습이다.

- 정답을 가리기 쉬운 수학과 컴퓨터과학이 다른 모든 분야보다 훨씬 빨리 발전한 이유가 여기 있다고 그는 설명했다. 그러나 연애와 시와 같은 그렇지 않은 다른 문제를 이 틀에 넣는 일도 ‘그렇게 어렵지 않다’고 본다.

- 다음 무대는 생물학이다. 앞으로 6~24개월 사이 모델이 소프트웨어 공학에서처럼 생물학에서도 실제 영향을 내기 시작하고, 그 혜택이 사회 곳곳으로 퍼질 것으로 본다.

- AI가 생명과학에서 ‘어쩌면 역사상 가장 중요한 기술’이 될 것이라고 했다.

- 그가 걱정하는 쪽은 실험실이다. 실험 공간의 양과 함께 품질도 문제인데, 그는 품질을 보여 주는 몇몇 지표에서 미국이 중국 같은 곳에 ‘분명히 뒤처져’ 있다고 봤다.

- 나쁜 경로가 있다면, 실업, 그리고 ‘바로 올해 실제로 벌어지고 있는’ 생물·사이버 위험을 꼽았다. 앞으로 2~3년 동안 올바르게 대응해야 2030년대에 근본적으로 더 나은 세상에 이를 수 있다.

- 지금은 사이버와 생물 모두 공격 쪽이 우세하지만, 사이버는 앞으로 2년 안에 방어 우위로 바뀔 것으로 본다. 미리 스스로를 해킹해 방어를 다지고 취약점을 모두 막아 두면 사이버 보안이 훨씬 탄탄한 세상이 되기 때문이다.

- 생물 방어 우위는 2030년대쯤 크게 발전한 로봇 기술이 그 구축을 도울 것이라 봤다.

- 앤트로픽이 규제로 경쟁자를 묶으려 한다는 ‘규제 포획’ 의심이 똑똑한 친구들 사이에도 있다고 전했다. 이 의심이 오픈 웨이트 모델 논쟁과 엮여 있다고 봤다. 

- 예전의 오픈소스 진영은 작고 자금이 부족해 규제를 감당하기 어려웠다. 하지만 지금 오픈 웨이트 모델을 개발·서비스하는 쪽은 미국의 엔비디아·아마존·마이크로소프트, 그리고 자금이 넉넉하고 점점 상장사가 되어 가는 중국 연구소들이다. 그래서 공개·비공개 모델을 함께 규제해도 불균형하게 한쪽만 피해 받을 걱정은 크지 않다고 본다.

- 또 다른 근거는 Fable이다. 앤트로픽은 ‘단연 세계 최고’ 모델로 몇 달 독주할 수 있었는데도 정부와 먼저 협력해 출시를 늦춘 것은 회사로선 '명백히 나쁜 경제적 결정’이었다는 것이다. “회사로서는 명백히 나쁜 경제적 결정이었지만, 모델을 어떻게 배포하고 규제해야 하는지에 관한 우리의 가치관에는 맞는 결정이었다.”

- ‘다리오 아모데이가 겁을 줘 규칙을 늘리고 속도를 늦추려 한다’는 회의론에는 더글러스가 ‘지금까지 우리는 누구보다 우리 자신을 훨씬 더 늦췄다’고 답했다.

- 출시 전에 넘어야 할 안전 기준선을 두고 공조하자는 데미스 하사비스의 제안을 둘러싼 논의를 들었다. 원칙 때문에 스스로 속도를 늦춘다는 논의다.

- 오픈소스에 대해서는 강하게 지지한다고 했다. 그 자신이 오픈소스 모델로 머신러닝을 배웠다. 다만 사이버 공격을 할 수 있는 모델이라면 어느 수준까지 공개해도 되는지 같은 기준선을 사회가 정하고, 공개·비공개 모델 모두 같은 기준을 지켜야 하며, 그 밖에는 ‘원하는 대로 하면 된다’고 했다.

- 미국만 늦추고 중국을 앞서가게 두는 시나리오 가운데 받아들일 만한 것은 없다고 했다. AI가 다른 대부분의 정부 형태보다 권위주의에 더 유리할 수 있는 기술인데, 그런 기술이 자기 생애에서 가장 뚜렷한 미·중 양극 체제 속에 도착하고 있으니 그렇게 둬서는 안 된다.

- AI는 최전선의 유효기간이 ‘몇 달 단위’여서 여섯 달 전의 최전선이 금세 아주 싸진다.

- 몇 달이면 낡는 제품으로 어떻게 돈을 버느냐는 질문에 그의 답은 AI가 세계 경제에 아직 아주 조금밖에 스며들지 않았다는 것이다.

- AI 매출을 다 합쳐도 1,000억 달러 남짓인데 경제는 수십조 달러 규모다. 그것도 이 기술로 경제가 크게 커지지 않는다고 가정한 셈법이고, 그들은 크게 커질 것으로 예상한다.

- 최전선 바로 뒤의 지능은 범용품이 되고, 최전선에는 훨씬 큰 가치가 붙는다. 그것이 바로 ‘지능에 대한 지수적 경제 수익’이라고 부르는 논리다.

- 지능이 한 단위 오를 때마다 그 단위가 직전 단위보다 지수적으로 더 가치 있다는 뜻이다.

- 코딩은 이미 그 길을 걸었다. 처음 쓸모가 생긴 코딩 지능은 탭 자동완성이었고, 다음 단위에서 터미널의 에이전트 코딩이 현실이 됐다. 그사이 탭 자동완성은 범용품이 되어 이제 그것만으로는 회사를 꾸리기도 어렵다.

- 지수적 성장을 믿으려면 ‘극도로 낙관적이어야’ 한다. 에이전트 코딩보다 더 값진 게 뭐냐는 물음에 ‘어쩌면 암 치료’라고 믿을 수 있어야 하기 때문이다. 

- 결국 다 범용품이 되지 않겠느냐는 회의론에, 완전한 범용화를 바랄 즈음이면 이미 경제 전체가 지적·물리적으로 AI에 의해 돌아가고 있을 것이라고 답했다.

- 지난 4~5년 동안 AI에 쓰이는 컴퓨팅 용량은 해마다 2~3배씩 늘었고, 그의 추산으로 하이퍼스케일러(대형 클라우드 기업)들은 올해 AI 관련 설비투자에 합쳐서 약 1조 달러를 쓴다.

- 내년 2조 달러, 2028년 4조 달러로 이어지고 로봇 산업까지 넓어지면 2030년대 초쯤 인류의 GDP를 사실상 두 배로 늘리는 단계에 들어서기 시작한다.

- 예상과 달리 앤트로픽과 OpenAI의 매출이 워낙 빨리 늘어, 시간과 돈이 많이 들 줄 알았던 데이터 확보 같은 병목을 돈으로 뚫는 일이 가능해졌다.

- 왜 이렇게 서두르느냐는 물음에 더글러스는 자신들이 얻으려는 세계를 설명했다. 컴퓨터와 물리 세계에서 사람만큼 일하는 ‘사람의 대체재’가 나오면, 지금 인구로 두어 세기가 걸릴 기술을 10~20년으로 압축할 수 있다.

- 인류의 지적·물리적 생산 능력을 계속 늘리고 어쩌면 두 배로 키우면, 집 짓기를 포함한 모든 것이 에너지 비용으로 수렴하는 탈희소성 세계에 이른다. 지구상 모두가 오늘날 최고 부자도 못 누리는 풍요를 누리는 세계다.

- 다만 그곳까지 가는 경로를 그리고, 막대한 불평등을 피하려면 수익이 기존 세계에서 특정 누군가에게만 흐르지 않게 나눌 방법도 찾아야 한다.

- 2028년 8월에 이 대화를 돌아본다면 무엇이 예상보다 빨랐겠느냐는 질문에 더글러스는 가정의 휴머노이드 로봇 수를 꼽았다. 2028년에는 빨래와 간단한 청소를 하는 로봇의 초기 보급이 대거 이뤄질 가능성이 매우 높고, 어쩌면 그보다 꽤 빠를 수도 있다고 봤다.

- AI의 생산성 증가로 인해 고용이 늘어나는 것은 ‘단기적인 효과’라고 봤다. AI 모델에서 가치를 끌어내는 데 사람들이 모일 필요가 없는 세상으로 넘어간다고 믿는다.

- 앤트로픽은 실업에 대해 꽤 걱정하고 책임감을 갖고 있다고 밝혔다.

왜 이렇게 서두르느냐는 물음에 더글러스는 자신들이 얻으려는 세계를 설명했다. 컴퓨터와 물리 세계에서 사람만큼 일하는 ‘사람의 대체재’가 나오면, 지금 인구로 두어 세기가 걸릴 기술을 10~20년으로 압축할 수 있다. 인류의 지적·물리적 생산 능력을 계속 늘리고 어쩌면 두 배로 키우면, 집 짓기를 포함한 모든 것이 에너지 비용으로 수렴하는 탈희소성 세계에 이른다. 지구상 모두가 오늘날 최고 부자도 못 누리는 풍요를 누리는 세계다. 사람의 대체재는 어쩌면 2~3년 안에 나올 수 있다. 그 세계를 얻기 위해서 사회적으로 해야 할 일들이 많다고 본다.

🔥 실시간 네티즌 베스트 반응

• EXXXXu조금 현실성있게 말하네 다만 이런 비전에 대해 이야기하는것이나 위험에 대해 이야기하는것에서 기업쪽 의견은 그냥 참고만하는게 좋음
• 평XX놈ㅊㅊ
• 마XXXXXX시지수적...발전이...시작되었다..! 특이점이...온다..! 초풍요의...시대가...온다..!
• 퇴XXXXX공어떤 나라들은 극도의 이익을 얻고 어떤 나라들은 재앙이 될거 같은데
• 평XX놈ㅇㅇ 유럽중앙은행장도 얘기했듯 극도의 승자독식임
• 퇴XXXXX공흥은 어디가 될거 같고 망은 어디가 될거 같음?
• 평XX놈흥은 AGI 선점한 국가 하나. 망은 그외 거의 전부. 다만 AI 공급망 확보 국가는 그 정도는 덜하겠지. 그래도 재귀개선으로 AI가 AI를 자가개선하고 공급망과 하드웨어 병목까지 해결하는 수준이면 결국 그 공급망 부분마저 AGI 보유국이 다 가져가는 구조가 될 가능성이 높지 않을까 싶음. 이러면 고대 마우리아 페르시아 중화왕조 로마 몽골 영국까지 역사상 잘나갔다던 제국들 다 합쳐도 못이길정도로 강력한 역대 압도적 최강국 등장인거고.
• 퇴XXXXX공그 하나 특정을 안해서 그렇지 딱 봐도 미국이구만
• 평XX놈정치랑 전기 문제 해결을 미국이 먼저 하느냐 칩문제를 중국이 먼저 해결하느냐에서 최종승자 날거라 봄.
• 퇴XXXXX공중국이 되면 시나리오 웃기게 돌아가겠네 ㅎㅎ
• 평XX놈그러면 뭐 한국 입장에선 끔찍하니 안 그러길 바래야지.
• 특XXXXXX다갠적으로 최근들어 경쟁이 끝났다 봅니다중국의 오픈소스모델들 가격도 칩병목으로 그리 싼편이 아니고 슬슬 RSI가 눈앞에 온 순간 중국이 자랑하는 전력과 인재들은 무력화 되니깐요 결국 미국프론티어에서 말한것처럼 모든건 컴퓨팅파워가 결정하는게 아닌가 싶습니다딥시크CEO도 미중이 유일하게 차이나는게 컴퓨팅파워라고 말했죠
• CXXXXXr미국은 다른건 다 우월한데 전기문제 하나가 좀 많이 걸리는 듯요
• 전XXX리키미 쇼크 어쩌구하더니 어려운건 클로드한테 대신 물어본거에서 이미 ㅋㅋㅋ
• 음XX페로봇도 그냥 중국이 과대광고식으로 이끌어가는거뿐이지 실제로는 걍 미국이 압살하는 흐름으로 갈게뻔함
• 도XXXX기그런의미에서 한국이 이제 g4임 반도체가 많은게 최고여 반도체가 권력 그 자체임
• 갓XXX슨중국이 경쟁에서 너무 실망스러움 결국 증류 원툴미국의 대중 컴퓨팅 규제가 너무 제대로 먹혀들어간 듯함
• eXXXXXXe전적으로 동의하지않네요. qwen모델들이 준프론티어 퍼포먼스를 로컬로 보여주는점. 딥시크의 가성비는 여타 회사들을 압도함. 3-4개월내에 프론티어모델 추격하고 더 무서운 점은 이를 오픈웨이트로 공개함. 이 모델들 양자화하는 시도들을 꾸준히 지속되고있음. opus5.5전까지 위기론 엄청 돌았죠. 5.5 도 언제까지 독보적위치 확보할지 아무도 몰라요.
• 갓XXX슨벤치맥싱 원툴~ 벤치만큼 성능 나온 적이 있기라도 한지 ㅋㅋ
• 탑XXXXXX란현재 중국컴퓨팅파워가 미국 1/10수준임 1~2년안에 가까운 미래에 재귀개선이 가능해지는 순간 역전이 불가능하다 봄
• 강XXXXX노손정의 지난 6월 "오픈AI의 모델들은 이미 내부 AI 모델이 설계하고 있다" 참고로 손정의는 오픈AI 지분 13% 보유한 핵심 주주 중 하나임 ㅋㅋ
• 도XXXX기그냥 반도체 많은놈이 짱먹는거야 ai 격차는 아무것도 아닌것임 그냥 실탄(반도체)많은 놈이 짱먹는거임 미국
• FXXX이흥은 투자할 돈많은 나라 자원이 많은 나라망은 노동력이 풍부한 나라
• 퇴XXXXX공인도, 방글라, 동남아 행님들 ㅜㅜ 중남미는 개도국중에서는 잘만 하면 흥 가능하겠네
• 갸X다미래를 극단적인 빈익빈부익부의 세계라고 예측하는 경제학자들이 있던 것 같음.AI와 로봇을 보유한 집단과 그렇지 못한 집단. 보유하지 못했을 경우 직장도 없어서 돈을 못 벌고 경제가 마비되지 않게 하기 위해 기본 소득을 도입하고 그 재원은 로봇으로부터 거두는