AI의 발전을 개별적인 능력으로 생각하면 중요한 사실을 알 수 있습니다. 우리는 종종 인간 수준의 지능을 단일체, 즉 AI가 가지고 있거나 가지고 있지 않은 하나의 것으로 이야기합니다. 하지만 인간의 지능을 다양한 인지 능력의 두꺼운 다발로 보는 것이 훨씬 유용하고 정확합니다. 거울에 비친 자신을 인식하는 능력처럼 코끼리나 침팬지와 같은 똑똑한 동물들과 공유하는 능력도 있고, 음악 작곡처럼 인간에게만 국한되지만 사람마다 크게 다른 능력도 있습니다. 인지 능력은 서로 다를 뿐만 아니라 개인 내에서도 뚜렷하게 다를 수 있습니다. 수학 천재이지만 체스를 형편없이 두는 사람이 있을 수도 있고, 사진처럼 기억력이 뛰어나지만 사회적 상호 작용에 어려움을 겪는 사람도 있을 수 있습니다. 영화 '레인 맨'의 더스틴 호프만 캐릭터가 이를 잘 보여줍니다.

 따라서 AI 연구자들이 인간 수준의 지능에 대해 이야기할 때는 일반적으로 특정 영역에서 가장 숙련된 인간의 능력을 의미합니다. 어떤 분야에서는 일반적인 인간과 가장 숙련된 인간의 격차가 그리 크지 않지만 (예: 모국어 알파벳의 문자 인식), 다른 분야에서는 격차가 매우 크게 벌어집니다 (예: 이론 물리학). 후자의 경우, AI가 평균적인 인간의 능력에 도달하는 시점과 초인적인 능력에 도달하는 시점 사이에 상당한 시간차가 있을 수 있습니다. 궁극적으로 AI가 숙달하기 가장 어려운 기술이 무엇인지는 아직 밝혀지지 않았습니다. 예를 들어 2034년에는 AI가 그래미상을 수상할 만한 노래를 작곡할 수 있지만 오스카상을 수상할 만한 시나리오는 쓸 수 없고, 수학 분야의 밀레니엄 문제는 해결할 수 있지만 심오한 새로운 철학적 통찰력은 제시하지 못할 수도 있습니다. 따라서 AI가 튜링 테스트를 통과하고 대부분의 면에서 초인적인 능력을 갖추었지만 여전히 몇 가지 핵심 기술에서는 최고 인간을 능가하지 못하는 상당한 과도기가 존재할 수 있습니다.

 특이점에 대해 생각할 때, 우리의 다양한 인지 능력 중 가장 중요한 것은 컴퓨터 프로그래밍 (그리고 이론 컴퓨터 과학과 같은 관련 능력)입니다. 이는 초지능 AI의 주요 병목 현상입니다. AI가 스스로 (또는 인간의 도움을 받아) 더 많은 프로그래밍 능력을 갖추도록 발전시키는 순간, 긍정적인 피드백 루프가 발생할 것입니다. 앨런 튜링의 동료인 I. J. Good는 1965년에 이것이 "지능 폭발"로 이어질 것이라고 예견했습니다. 그리고 컴퓨터는 인간보다 훨씬 빠르게 작동하기 때문에 AI 개발 과정에서 인간을 배제하면 놀라운 속도로 발전할 수 있습니다. 인공지능 이론가들은 이를 농담으로 "FOOM"이라고 부릅니다. 마치 만화책에서 AI의 발전이 그래프 끝을 벗어나는 소리 효과처럼 말입니다.

 엘리저 유드코프스키와 같은 일부 연구자들은 이것이 극도로 빠르게 (몇 분에서 몇 달 만에 "급격한 이륙") 일어날 가능성이 더 높다고 보는 반면, 로빈 핸슨과 같은 다른 연구자들은 이것이 상대적으로 더 점진적으로 (몇 년 또는 그 이상에 걸쳐 "완만한 이륙") 일어날 것이라고 생각합니다. 저는 그 중간 어딘가에 속합니다. 하드웨어, 자원 및 실제 데이터에 대한 물리적 제약은 FOOM의 속도에 제한이 있음을 시사하지만, 잠재적인 급격한 이륙이 잘못되는 것을 방지하기 위해 예방 조치를 취해야 한다는 것이 제 견해입니다. 이를 인간의 인지 능력과 관련지어 생각해보면, 일단 지능 폭발이 시작되면 자기 개선 프로그래밍보다 AI에게 더 어려운 능력도 단기간에 달성될 것입니다.

 머신 러닝이 훨씬 더 비용 효율적으로 발전함에 따라, 인간 수준의 AI를 달성하는 데 있어 원시 컴퓨팅 성능이 병목 현상이 될 가능성은 매우 낮습니다. 슈퍼컴퓨터는 이미 인간의 뇌를 시뮬레이션하는 데 필요한 원시 컴퓨팅 요구 사항을 훨씬 뛰어넘습니다. 2023년 현재 세계 최고의 슈퍼컴퓨터인 오크리지 국립 연구소의 Frontier는 초당 10^18회 연산을 수행할 수 있습니다. 이는 이미 뇌의 최대 연산 속도 (초당 10^14회 연산)보다 약 10,000배 빠른 속도입니다.

 2005년에 제가 '특이점이 온다'에서 계산한 바에 따르면, 뇌의 처리 속도 상한선은 초당 10^16회 연산으로 추정했습니다. 하지만 당시에도 언급했듯이 이는 보수적인 추정치였습니다. 실제로 실제 뇌에서 수행되는 계산은 일반적으로 이보다 훨씬 적습니다. 지난 20년 동안의 추가 연구 결과에 따르면 뉴런은 이론적인 최대치인 초당 200회가 아니라 그보다 훨씬 더 느린 초당 1회 정도 발화합니다. 실제로 AI Impacts 프로젝트는 뇌의 에너지 소비량을 기반으로 평균 뉴런이 초당 0.29회만 발화한다고 추정했습니다. 이는 뇌 전체의 연산량이 10^13회 정도로 낮을 수 있음을 의미합니다. 이는 1988년 저서 '마음의 아이들: 로봇과 인간 지능의 미래'에서 완전히 다른 방법론을 사용하여 추정한 한스 모라벡의 초기 추정치와 일치합니다.

 이는 여전히 모든 뉴런이 인간 인지 기능에 필요하다고 가정하지만, 우리는 이것이 사실이 아님을 알고 있습니다. 뇌에는 (아직 제대로 이해되지 않은) 상당한 수준의 병렬 처리가 존재하며, 개별 뉴런이나 피질 모듈이 중복된 작업 (또는 적어도 다른 곳에서 복제될 수 있는 작업)을 수행합니다. 뇌졸중이나 뇌 손상으로 뇌의 일부가 파괴된 후에도 사람들이 완전히 기능을 회복할 수 있다는 것은 이를 증명합니다. 따라서 우리 뇌에서 인지적으로 관련된 신경 구조를 시뮬레이션하는 데 필요한 연산량은 앞서 추정한 것보다 훨씬 더 낮을 것입니다. 따라서 10^14는 가장 가능성이 높은 범위로 보수적으로 추정됩니다. 2023년 현재, 뇌 시뮬레이션에 해당 범위의 연산 능력이 필요하다면 약 1,000달러 상당의 하드웨어로 이미 이를 달성할 수 있습니다. 설령 10^16회 연산이 필요하다고 해도, 2032년까지는 1,000달러의 하드웨어로도 이를 달성할 수 있을 것입니다.

 이러한 추정치는 뉴런의 발화만을 기반으로 하는 모델로도 작동하는 뇌 시뮬레이션을 달성할 수 있다는 제 견해에 기반합니다. 그럼에도 불구하고, 과학적으로 검증할 수 없는 철학적인 질문이지만, 주관적인 의식에는 뇌에 대한 더 자세한 시뮬레이션이 필요할 수 있다는 생각은 가능합니다. 아마도 뉴런 내부의 개별 이온 채널이나 특정 뇌세포의 신진대사에 영향을 미칠 수 있는 수천 가지 종류의 분자를 시뮬레이션해야 할 수도 있습니다. 옥스퍼드 미래 인류 연구소의 Anders Sandberg와 Nick Bostrom은 이러한 더 높은 수준의 해상도를 달성하려면 각각 초당 10^22회 또는 10^25회 연산이 필요할 것으로 추정했습니다. 후자의 경우에도 2030년까지 10억 달러 (2008년 기준) 규모의 슈퍼컴퓨터로 이를 달성하고, 2034년까지 모든 뉴런의 모든 단백질을 시뮬레이션할 수 있을 것으로 예상했습니다. 물론 시간이 지남에 따라 기하급수적인 가격 대비 성능 향상으로 인해 이러한 비용은 크게 줄어들 것입니다.

 이 모든 내용에서 얻어야 할 교훈은, 우리의 가정을 과감하게 바꾸더라도 예측의 본질적인 메시지는 변하지 않는다는 것입니다. 즉, 컴퓨터는 앞으로 20년 안에 우리가 중요하게 생각하는 모든 방식으로 인간의 뇌를 시뮬레이션할 수 있게 될 것입니다. 이는 우리의 증손주들이 알아내야 할 먼 미래의 일이 아닙니다. 우리는 2020년대부터 수명 연장을 가속화할 것이므로, 건강 상태가 양호하고 80세 미만이라면 이러한 일이 여러분의 생애 동안 일어날 가능성이 높습니다. 또 다른 관점에서 보면, 오늘날 태어난 아이들은 초등학교 때 튜링 테스트 통과를 목격하고 대학생이 될 때쯤에는 더욱 풍부한 뇌 에뮬레이션이 이루어지는 것을 볼 가능성이 높습니다. 마지막으로 비교하자면, 저는 이 책을 2023년에 마무리하고 있는데, 비관적인 가정 하에서도 1999년 '영적 기계의 시대'에서 이러한 예측을 처음 했을 때보다 완전한 뇌 에뮬레이션이 실현 가능한 시점에 더 가까울 것입니다.