AI 회사들은 인류가 노동에서 완전히 해방될 거라고 주장함

돈을 벌 수 있는 수단이 사라지면 소비할 주체도 사라지게 되니

자연스럽게 국가나 기업이 소득을 분배할 수 밖에 없게 되고

그 돈으로 아무 걱정 없이 놀고 먹기만 하는게 미래 인류의 모습이라고 말함

그런데 이 꿈 같은 얘기에는 함정이 있음

"소비할 주체는 AI로 대체 못할까?"

생각해보셈 니가 옛날에 하던 게임에서도 단순 조건문 규칙 기반의 NPC가 있었음

그 NPC는 정해진 규칙에 따라 게임 내부에서 경제 활동을 함

심즈 같은 게임이 대표적인 예시임

확률적인 소비 패턴을 구현하는 건 AI까지도 필요 없는 존나 간단한 알고리즘임

왜 그 소비를 굳이 인간에게 맡겨야 할까?

아니 애초에 소비라는 활동이 필요해지긴 할까?

돈이라는건 가치를 교환하는 수단이자 중간 매개체에 불과함

지금까지 인류는 뗀석기 시대부터 "분업" 이라는걸 했기 때문에

혼자서 모든 일을 하는건 불가능했고

노동력과 생산물 등을 교환하기 위한 화폐가 반드시 필요했음

그런데 AI가 발전한 시대는 이 분업이라는 행위 자체의 의미를 사라지게 만듦

가치를 이미 가지고 있고 생산해낼 수 있는 수단이 있다면

쓸데없이 화폐라는 중간 다리를 거쳐서 교환 따위를 해야 할 이유가 사라짐

AI 기업이 돈이라는걸 벌어야 하는 이유 자체가 사라지게 된다는거임

이게 머스크가 미래에 화폐가 사라지게 될 거라고 말하는 이유임

이런 상황에서 소비를 인간에게 맡긴다?

그건 AI 기업이나 국가 입장에서도 귀찮고 위험한 일이 된다

인간은 컨트롤이 불가능하지만 AI는 컨트롤이 가능함

인간이 아무런 능력 없이 정해진 물건을 배급받는 사회에 과연 만족할 수 있을까?

인간은 본인을 무가치한 쓰레기로 여기는 이 상황에 반드시 불만이 쌓일거고

폭동이나 시위 같은 저항을 일으키게 될거임

그런데 그 저항은 당연히 성공할 수 없음

과거처럼 민중들이 물리적인 힘을 모아서 뭘 어떻게 해볼 수 있는 상황이 아님

피지컬 AI가 나온다는건 인간보다 모든 면에서 우월한데 인간이랑 똑같은 존재가 생산된다는거다

자동차에 앉히면 자동차를 운전을 하고 비행기에 앉히면 비행기를 운전함

공장에 보내면 노동자가 되고 관리직에 앉히면 관리자가 됨

총을 쥐어주면 군인이 되고 법적 권리를 주면 판사가 되기도 정치인이 되기도 지도자가 되기도 할 수 있음

이 말도 안되는 권력을 AI 회사가 갖게 되는거

그럼 AI 회사가 대중이나 정부의 말을 들어야 할 이유가 있을까?

국가의 존망이 AI 회사 경영진의 기분에 따라 달리게 되는데

정부가 정부의 역할을 할 수가 있음?

권력의 밸런스가 깨지기 때문에 애초에 이 시점부터는 AI 회사가 곧 국가가 되고 정부가 되는거임

배급을 하라고 국가가 명령해도 거부하면 그만임

AI 회사가 배급을 거부하면 정부가 할 수 있는 게 없음

모든 인류의 목숨 줄이 AI 회사에 달려있기 때문에

그래서 AI가 정말 버블이 아니라면

AGI가 나온다면 피지컬 AI가 나온다면

인류는 필연적으로 멸망할 수 밖에 없음

물론 선택된 인류는 그대로 남아있겠지만 평범한 인간인 대다수는 그냥 지구에서 사라지게 될거임