마이크로소프트 공동 창업자 폴 앨런(Paul G. Allen)은 그의 동료 마크 그리브스(Mark Greaves)와 함께 집필한 ‘특이점은 가깝지 않다’에서 레이 커즈와일의 특이점 2045년 도래 주장을 여러 논거를 들어 비판한다. 

앨런은 특이점이 언젠가는 다가오리라고 볼 수도 있지만 그렇더라도 2045년까지는 어림도 없다고 단언한다. 그 논거로서 MIT 과학기술 분석 잡지 테크놀로지 리뷰(Technology Review)에 다음과 같은 사항들을 들고 있다. 

1. 수확가속의 법칙(The Law of Accelerating Returns)은 물리 법칙(Physical Law)이 아니다. 그것은 과거의 과학기술 발전 속도로 미래의 발전 속도를 예측할 수 있다는 단정적 주장(assertion)일 뿐이다. 

과거로부터 미래를 예측하는 시도들이 그러하듯이 그런 주장은 틀리기 직전까지만 적용되는 한시적 법칙일 뿐이다. 특이점과 관련해 더욱더 문제가 되는 점은 그 법칙은 컴퓨터 성능이 계속해서 폭발적으로 향상될 것이라는 가정으로부터 그것의 전부라 할 수 있는 기하급수적 발전 논리를 도출해낸 외삽적 추정(extrapolation)에 불과하다는 점이다.

2. 컴퓨터 하드웨어가 수확가속의 법칙이나 무어의 법칙(Moore's Law)대로 발전한다고 인정할 수 있다 해도 소프트웨어는 그런 식으로 발전하지 않는다. 

왜냐하면 특이점 달성에 필요한 수준의 소프트웨어 발전을 이루려면 인간 뇌의 물리적 구조 · 작동 방식 · 의식 · 원초적 생각 등이 무엇이고 어떻게 생겨나는지 과학적으로 완전히 파악해 그걸 소프트웨어 설계의 기본 얼개(architectural guide)로 사용할 수 있어야 한다.

하지만 이 분야 연구는 아직도 갈 길이 너무나 먼 초기 상태에 불과하고, 이런 사실들은 소프트웨어가 (적어도 2045년 안팎까지는) 수확가속의 법칙이나 무어의 법칙을 따라 지수적으로 발전할 수 없다는 것을 말해주기 때문이다.

3. 인간의 지능 · 인지 · 뇌신경 구조는 깊이 파고들면 들수록 수백만 년에 걸친 진화적 요인과 환경적 요인으로 형성된 고도로 복잡한 기제라는 것이 드러난다. 

이것은 규칙적 기억 장치에 내장된 수십억 개의 동일한 트랜지스터들을 CPU와 몇몇 개의 핵심 장치로 통제하는 컴퓨터의 특성과는 근본적으로 다른 점이다. 바로 이런 사실이 인간의 지능 · 인지 · 뇌신경 구조를 과학적으로 완전히 파악하는 것을 더욱 어렵게 만들고 지연시킨다. 우리는 이것을 ‘복잡성 브레이크(Complexity Brake)’라 부를 수 있다. 

그렇다면 특이점을 달성하는 데 요구되는 과학적 발전 속도를 지배하는 것은 수확가속의 법칙이 아니라 복잡성 브레이크라 할 수 있다.

4. 인간 지능을 모사하려는 인공지능의 방법론은 인간이 성장하면서 지식을 습득해가는 방식과는 정반대다. 즉 인간은 아기에서 어른으로 커가면서 일반 지식(general knowledge) 습득부터 시작해서 그것을 특수 지식(specific knowledge)으로 증강하고 상세하게 다듬어 나가는 방식을 따른다. 

한데 인공지능은 좁은 영역의 깊은 지식(특수 영역의 심층 지식)을 갖춘 시스템을 개발하고 그것들을 결합해 좀더 일반적인 능력을 갖춘 시스템을 만들어가는 방식을 취해왔다. 

하지만 이런 역방향 방식은 성공적이지 못했다. 사람의 방식을 채택한 몇몇 인공지능도 제한된 성공만 거두었을 뿐이다. 

어느 쪽 방식이든 인공지능은 인간 인지에 특유한 유연성을 부여해주는 복잡한 심리 현상들, 즉 불명확성(uncertainty), 문맥적 민감성(contextual sensitivity), 어림짐작(rules of thumb), 자기성찰(self-reflection, 자기반성), 번득이는 깨달음(the flashes of insight, 순간적 통찰) 등과 같이 고차적 사고에 본질적인 심리 현상들을 모형화하는 이론적 작업을 이제 막 시작했을 뿐이다. 

특이점에 도달하기 위해선 경천동지할 만한 발견들 · 노벨상급 이론 · 완전히 새로운 접근법들이 필요하다. 한데 이런 종류의 기초 과학적 발전은 이상적인 지수적 성장 곡선을 따르지 않는다. 즉 복잡성 브레이크가 발전 속도를 늦출 것이고 특이점을 더 먼 미래로 밀어낼 것이다.

5. 특이점이 가까이 왔다고 주장하는 사람들은 얽히고설킨 인간 인지의 놀라운 복잡성에 주의해야 한다. 인지에 대한 깊은 과학적 이해 없이는 특이점 도래를 촉진할 수 있는 소프트웨어를 만들어낼 수 없다. 오히려 커즈와일이 예측한 계속적 가속 발전 대신에 복잡성 브레이크가 과학적 이해를 근본적으로 늦추게 될 것이다.

이처럼 인간 인지의 완전한 과학적 이해는 가장 어려운 문제들 가운데 하나다. 해서 이번 세기 끝에 가서도 우리는 여전히 특이점은 가깝지 않다는 사실을 거듭 깨닫게 될 것이다.

이상 위와 같은 폴 앨런의 강력한 비판에 레이 커즈와일은 발빠르게 반론을 발표한다. 폴 앨런이 2011년 10월 12일 비판글을 발표하고 나서 딱 일주일이 지난 2011년 10월 19일에 과학기술 평론 Technology Review에 기고한 ‘특이점을 과소평가하지 말라(Don't Underestimate the Singularity)’가 그것이다. 

이 반론은 커즈와일의 2012년 저서 ‘How to Create a Mind: The Secret of Human Thought Revealed(마음의 탄생 – 알파고는 어떻게 인간의 마음을 훔쳤는가?)’ 11장 ‘Objections 반론 – 불신과 비관적 전망을 넘어서’에 대부분 재수록 되었다.

한데 커즈와일의 반론 가운데 소프트웨어도 하드웨어처럼 기하급수적으로 발전한다며, 폴 앨런을 자신 있게 논박하는 부분이 흥미롭다. 커즈와일은 결정적 논박이라고 확신에 차서 구체적 증거와 논거를 들이민다. 그런데 번역판에서 이 부분을 읽다가 결정적 오역을 몇몇 군데 발견했다. 이 내용은 다음에 다루기로 한다.

[참고 문헌]
• Allen, Paul G. & Mark Greaves (Oct 12, 2011). Paul Allen: The Singularity Isn’t Near. Technology Review. http://www.technologyreview.com/blog/guest/27206/
• Kurzweil, Ray (Oct 19, 2011). Kurzweil Responds: Don't Underestimate the Singularity.Technology Review. http://www.technologyreview.com/blog/guest/27263/
• Kurzweil, Ray (Nov 13, 2012). How to Create a Mind: The Secret of Human Thought Revealed. New York: Viking. [xiv ＋ 336 pages, Paperback: Aug 27, 2013]
• 레이 커즈와일 (2016-07-18).『마음의 탄생 – 알파고는 어떻게 인간의 마음을 훔쳤는가?』. 윤영삼 옮김 · 조성배 감수 · 크레센도. [반양장, 464쪽]

번역/요약: 인터넷 블로거 Qualia / 정리 김들풀 기자 itnews@

마지막줄 .. 수고들했다