인공지능이 발전해서 80억 인간이 전부 노동 없이 감각적 쾌락을 영원히 즐길 수 있도록 지지해 줄 것이다, 라고 진심으로 믿는 거면 아무것도 안 하고 현실도피만을 꿈꾸는 히키코모리들이랑 다를 게 없음.
만약 정말 정말 낙관적으로, 강인공지능이 인간의 행복을 위해서만 기능하고 또 밥벌레부터 인공지능 개발자까지 온 인류가 그 혜택을 공평하게 나누어 노동해방이고 뭐 다 해준다 생각해 보자. 그럼 근데 인공지능의 목표는 '온 인류의 최대 행복'이 되겠지?

그럼 인공지능이 재밌는 영화 애니메이션 각종 콘텐츠도 만들어 주고, 가상 친구랑 여친도 만들어 주고, 맛있는 음식에 따뜻한 집에 영생을 제공해 주고, 이런 미래로 찾아올까?

아님. 결국 그런 낙관적인 미래로 봐도 종착점은 마약임. 더 정확히는 헤로인 같은 마약이 아니라, 뇌에서 저런 행동을 할 때 지급하는 보상 물질을 직접 가하게 될 거임. 그리고 도파민 역치가 내려가지 않도록 뉴런을 교정한 뒤 다시 보상을 가하겠지.
아니라고? 그런 건 진짜 행복이 아니고, 뭐 가짜 행복이라도 되나? 아니, 네가 사람인 이상 그럴 수밖에 없음. 그 보상 체계를 가지도록 진화했고 네 모든 행동은 행복, 보상을 향하는 방향으로 수행됨. 만약 네가 마약을 필사적으로 거부한다면 그 누구보다 인간의 행복을 위하는 AI가 널 죽일 거임. 그리고 너 한 명에게 투입되는 자원 대신 쉽게 행복을 느끼는 다음 세대 인간 뇌 몇만 개를 만들겠지.

그럼 결국 그 가장 낙관적인 미래는 인간 구조의 뇌 유사체를 양산하고, 우주의 모든 자원을 소모할 때까지 뇌에 도파민을 공급하다가 소멸하는 행복 공장이란 말이 됨.

이런 미래는 행복하지 않은 것처럼 보임. 근데 그건 네가 인간이라서 지금까지의 문화적 경험에 의해 갖는 비합리적인 공포 때문에 생긴 인식임. 이게 틀린 것 같으면, 뭐 다른 방향으로 AI가 만든 천국이 존재나 할지 마음껏 상상하고 그걸 더 현실적으로 깊이 생각해 보셈.
게다가 이것도 낙관적으로 본 거지, 실제로 인공지능이 이렇게 인간에 대해 무한히 이타적일거라 믿는 학자는 없음. 애초에 네가 알트만이고 너한테 복종하는 초지능을 만들었으면, 저 먼 대륙에 있는 무능하고 못배운 인간 수십억 명과 기술을 공유하고 내 자원을 같이 쓰게 해 주고 싶을까? 절대 아닐걸. 그럼 인공지능이 인간을 뛰어넘는 순간, 우리가 아무것도 안 하고 있다가 나눠달라고 재래식 무력으로 그걸 빼앗을 수 있을까? 당연하지만 그럴 수 있을 리가 없지.

노동해방이 가능할 만큼 다른 인간들의 노동력이 불필요해지는 순간 그 인간들을 부양해 줄 이유가 있을까? 천부인권은 아직 확산된 지 200년도 채 안 된 신앙에 불과함. 하늘이 우리에게 인권을 내려줬고, 인간은 이유 없이 존엄하니까 인간으로 태어났으면 마음껏 뭐든 누릴 수 있다고? 이런 믿음으로 눈이랑 귀를 틀어막고 있을 건 아니잖아.
핵심은, 가만히 앉아서 입 벌리고 수혜를 달라고 한다고 노동해방이 찾아올 가능성은 없다는 거임. 오히려 누구보다 열심히 공부하고, 자기발전에 힘쓰며 연구하거나, 사회에 기여하거나, 자기 가치를 높여야만 하는 시대가 올 거임.

인공지능 자체의 반란 가능성도 고려해 보면, 우리는 일단 최소한 알트만이나 또 다른 연구자들과 나란히 설 만큼 능력있는 인간이 돼야 함. 영어나 수학, 인공지능 활용 능력은 말할 것도 없고 최고의 대학에 입학해 천재들과 나란히 설 최소한의 자격을 증명하는 것도 당연히 필요함. 그리고 그 우수한 지능을 바탕으로 인공지능이나 생명과학 연구에 뛰어들어서, 우선 인공지능 없이 영생과 신경 강화를 마친 뒤 인공지능을 통제할 만큼 연구를 끝낸 뒤에야 제대로 초지능을 개발해야지. 그 과정에서 무능한 사람들에게 나눠줄 자리는 없음.