1.서론

기술적 특이점에 관련된 토론들이 오갈 때, 기술적 특이점에 도달하는 과정에서 부정적인 미래(이하 디스토피아)가 도래할 것이라는 의견이 종종 나온다. 디스토피아는 여러 가지로 주장되지만, 가장 일관되는 특징은 소수 계층이 기술을 독점한다는 것이다. 이것이 디스토피아의 기본 전제이다. 그리고 이 글에서는 이 유형의 디스토피아만 다룰 것이다. 즉 인공지능의 반란이나 경제 붕괴 등은 다루지 않을 것이다.

2.최악의 상황

나는 이 글에서, 가능한 한 최악의 상황을 가정하려고 한다. 즉 고위 권력자들은 일반 시민들을 도구로만 여기고, 또한 자신들의 안위를 위해서 이용하려는 생각만 가지는 존재라고 가정하겠다. 실제로는 그렇지 않을 것이라고 생각한다. 이유는 인간이라는 것 자체가 불완전하기 때문이다. 사이코패스들도 일상 속에 잘 섞여 살아가는 경우가 있으며, 극악무도한 범죄자들에게도 소중한 사람들이 있는 경우가 있다. 그러나 모든 사람들의 생각을 읽는다는 것은 불가능하기에, 기술적 특이점에 도달할 때 권력자들이 완벽히 자신만을 생각하는 존재들이라고 가정하겠다. 이렇게 가정한다면 무조건 디스토피아가 실현될 것이라고 생각할 수도 있다. 권력자들이 모든 힘을 가지고 인류를 유린할 테니 말이다. 그러나 나는 만약 이 가정이 실현되더라도 디스토피아는 오지 않을 것이라고 생각한다. 특이점 이전과 특이점 이후로 나누어 그 근거를 설명하겠다.

3-1.특이점 이전

특이점 이전의 기술은 아무리 강력하게 보여도 그 정의에 기반하여 발전하는 속도에 연속성을 가지고 있다. 특이점의 정의는 기술로 강화되지 않은 인간이 기술의 발전 속도를 따라갈 수 없다는 것인데, 이것에 대우를 취하면 특이점 이전 기술은 인간이 발전 속도를 따라갈 수 있다는 결론이 나온다. 

특이점 이전 기술들이 강력하지 않다는 의미는 절대로 아니다. 가장 유명한 기술인 생명공학과 나노기술만 생각해 봐도 그것들은 매우 강력하다. 하지만 이 기술들은 경쟁자들과 압도적인 차이를 내지 못한다. 예를 들어 자기복제적 나노 기술을 미국에서 발명했다고 생각해 보자. 당장 미국에서 자기복제적 나노기술을 개발한 자가 인류에 대한 강제권을 주장할 수 있을까? 그럴 수 없을 확률이 매우 높다. 첫 번째 자기복제적 나노 기술은 그 속도나 유연성 측면에서 매우 약한 모습을 보일 것이다. 잘해야 통제된 실험실 내에서 몇 가지 간단한 작업을 보일 것이다. 

어떤 천재가 나타나서 완벽한 자기복제적 나노 기술을 들고 나와서 인류에 대한 지배권을 주장할 수 있을 가능성이 분명 0은 아니다. 그러나 그런 천재는 인류 역사에 한 명도 없었다. 17세기에 핵을 발명하여 전 세계를 지배한 인물들이 없는 것과 동일하다. 과학사에 대해 안다면 역사에 이름을 남긴 천재들도 혼자서 자신의 모든 위업을 이루지 않았다는 것을 알 것이다. 그렇기에 기술에 의한 천재의 1인 독재는 그 가능성이 매우 낮다.

3-2.특이점 이후

특이점 이후라는 것은, 적어도 나에게는 인간 지능보다 더 높은 지적 능력을 가진 기계(이하 강인공지능)가 구동을 시작한 이후다. 사람들이 가끔씩 권력자들이 강인공지능에서 나오는 힘을 통해 인류를 지배할 것이라고 주장한다. 나는 그것이 실현되지 않을 것이라고 생각한다. 첫 번째 강인공지능이라면, 그렇게 거대한 힘을 가질 수 없을 가능성이 크다. 

첫 번째 강인공지능은 인간 지능의 평균을 크게 웃돌지 않을 것이다. 첫 번째 강인공지능은 사람의 기준으로 따지면 아무리 높게 잡아도 인간 평균 정도일 것이며, 아마 인간 중에서도 낮은 지적 능력을 가지고 있을 것이다. IQ로 지능을 판단하는 것은 의미없는 짓이지만, 수치 의미로만 생각하면 IQ 80 정도의 저지능자일 가능성이 높다. 이것은 그 자체로는 아무런 능력도 없다. 길가에 돌아다니는 고등학생이나 대학생보다도 멍청할 것이다.

하지만 강인공지능은 그 수준에서 발전시킬 수 있다는 데 그 힘이 있다. 강인공지능이 인간의 최저 수준에서 평균 지능에 도달할 때까지는 수 년이 걸릴지도 모르는 일이지만, 평균 지능에서 아인슈타인(인류 최고 수준)까지 발전하는 데에는 반 년이면 충분할 것이고, 아인슈타인을 넘어간다면 그때부터 강인공지능은 초지능으로 승화하여 인류가 상상도 할 수 없는 것들을 하기 시작할 것이다. 이 과정에서 권력자들은 강인공지능을 이용하여 권력을 늘릴 수 있을까? 내 생각에는 그렇지 않다. 아인슈타인 이전이라면 이용할 쓸모가 없고, 아인슈타인 이후라면 자신들의 생각대로 이용할 수 없을 것이다. 아인슈타인 이후의 초지능으로 승화했다면 그때는 어떤 권력보다도 더 초지능이 강할 것이니까.

4.결론

특이점에 도달하는 과정에서 얻게 되는 기술들은 상상을 넘을 정도로 강력할 것이다. 하지만 특이점 이전 기술들은 분명히 인간에 의해 만들어지는 것이기에, 그 약점도 그대로이며 한계 또한 명확하다. 유토피아를 실현시키지 못하는 기술의 한계는 그대로 돌아와 디스토피아도 실현시키지 못하게 만들 것이다. 그리고 특이점 이후는, 오직 초지능에게 달려 있을 뿐이다. 그것에 대해서는 이야기할 필요도 의미도 없다. 박테리아로서 인간의 삶을 상상하는 행동이 멍청하다는 것은 알고 있으니까.