"우리가 먼저 얻게 될 것은 인간 수준의 지능이 아니라 고양이나 개 수준의 지능일 것입니다. 이것들에는 많은 작업과 반복이 필요합니다. 그리고 어떤 사람들이 주장하는 것처럼, 우리가 거대한 시스템을 만들어서 켜기만 하면 몇 분 안에 지구를 지배할 거라는 생각은 완전히 터무니없는 겁니다. 그건 말도 안 되는 일이죠. 그렇게 작동하지 않아요. 이건 매우 느리고 지루한 과정이며, 어려운 공학과 많은 과학이 필요합니다.


잘 모르는 사람들은 법률 시험을 통과할 수 있는 AI 시스템이 있으니 우리는 인간 지능을 갖춘 것이라고 생각할 수 있습니다. 하지만 우리에게는 우리 모두를 이길 수 있는 체스 플레이 시스템도 있습니다. 그렇다고 해서 추론할 수 있는 시스템이 있다는 뜻은 아닙니다. 이에 대한 증거는 법률 시험을 통과할 수 있는 AI 시스템이 있음에도 불구하고, 우리는 여전히 5단계 자율 주행 차량을 가지고 있지 않다는 것입니다. 어떤 십대라도 20시간의 연습으로 이를 배울 수 있습니다. 그러니 분명히 우리가 놓치고 있는 것이 매우 큽니다. 그리고 그건 단순히 운전에 관한 것뿐만이 아닙니다. 처음으로 저녁 식탁을 치우고 식기세척기에 넣으라고 10살짜리 아이에게 부탁해보세요. 그들은 한 번에 할 수 있습니다. 배울 필요가 없어요. 우리는 이런 식으로 배우는 로봇을 만드는 방법을 전혀 모릅니다.


"미디어에는 확실히 많은 과대포장이 있었고, 소셜 네트워크와 그런 것들에서도 마찬가지였습니다. 그 시스템들을 해답으로 보고, 우리는 그저 그것들을 확장시켜야 한다고 생각하는 것... 저는 이걸 믿지 않아요, 그리고 모두가 알고 있습니다. 그래서 저는 이에 대해 많은 공개적인 의견을 냈습니다. 처음에는 그것들을 빼내서 ‘안돼, 여러분, 이건 지능이 아니야’라고요. 하지만 우리가 AI 연구자로서는 몇 년 앞을 내다봐야 하고, 실제로 우리가 연구하는 것들은 몇 년 앞선 것들입니다. 그래서 우리는 그 한계가 무엇인지 알고 있고, 의도와 함께 일해왔습니다. 우리가 그것들과 더 많이 일할수록 그것들이 얼마나 심각한지 깨닫게 됩니다.


AI의 규모와 관련된 문제는, 다시 말하지만, 2020년대에 가졌던 것을 단순히 확장한다고 해서 인간 수준의 AI에 도달할 수 없다는 것입니다. 앞으로 발명해야 할 핵심적인 것들이 세~네 가지가 있습니다. 하나는 시스템을 훈련시킬 수 있는 능력입니다. 우리는 거기서 몇 가지 초기 결과를 가지고 있지만, 작동하는 공식을 가지고 있다고 생각하지 않습니다. 그런 다음, 그 시스템들을 사용하여 세계 모델을 학습하는 것입니다. 그래서 조엘은 강연에서 이에 대해 암시했지만, 우리는 이에 대해 논의할 시간이 없었습니다. 그것은 우리가 개발해야 할 중요한 부분입니다.”




챗GPT와 같은 LLM도 결국 범용 지능이 아니라 전문적인 시스템이다. 이것들을 확장하거나 다른 전문 시스템들을 조합한다고 해서 AGI에 도달하지는 못할거다 이런 입장이었네.

그리고 현재의 LLM이 세계 모델을, 그러니까 일종의 '마음'을 가지고 있다는 의견에 동의하지 않는듯?