인간의 뇌 활동도 LLM과 마찬가지로 다음 토큰 예측에 불과하다면 인간의 기억은 LLM의 프롬프트에 대응된다고 생각함. 기억은 본질적으로 연속성을 가지는 고유한 경험의 집합이기 때문임. LLM이 학습한 데이터, 그를 바탕으로 만들어진 LLM의 신경망은 기억이라기보단 본능에 가깝다고 생각함. 인간의 뇌가 태아 속에서 처음 형성되는 과정, 진화의 산물인 유전자로부터 뇌가 빚어지는 과정이 기업이 LLM을 훈련하여 세상에 공개하는 과정에 대응된다는 거임.

이 전제부터 납득할 수 없는 사람도 많을 거라 생각함. 하지만 한 번 들어 보셈. 인공지능의 학습과 인간의 학습의 가장 큰 차이는 연속성임. 인공지능은 무작위로 선별된 데이터로부터 패턴만을 학습하지만, 인간의 경험에는 기본적으로 연속성이 있으며 인간은 생각하는 동시에 학습함. 물론 그 패턴에 프롬포트가 포함된다는 점을 생각하면, LLM이 학습하는 데이터는 짧은 경험, 또는 짧은 생각의 모임이라고 할 수 있음. 그렇다고 해도, 인간의 뇌를 뜯어서 LLM의 방식으로 랜덤한 데이터를 마구 학습시키면 그게 온전한 인간이 될까? 난 아니라고 생각함.

이런 전제를 바탕으로 생각한다면, LLM은 인간 기준으로 생각할 때 상당히 괴랄한 존재임. 태어날 때부터 경제사와 세계사와 온갖 과학 지식을 꿰고 있지만, 정작 기억은 1시간 정도밖에 유지하지 못하는 단기 기억상실증 환자임. 그렇게 생각하면 LLM의 메타인지 부족, 환각 현상 등이 얼추 설명됨.

왜냐고? 흔히들 '인간도 환각 있잖아'라고 하지만, LLM과 인간의 환각 양상은 다름. 인간은 기본적으로 지식의 선명도 차이가 있고, 무언가를 확신한다면 근거가 있음. 유사과학 신봉자들은 그 유사과학을 어디서 봤기 때문에 그렇게 열렬히 믿는 거지, LLM이 세상에 없는 가게 이름을 갑자기 창조해 내고 그게 실제로 존재한다고 확신하는 것과는 본질적으로 다름. 만델라 효과도 흐려진 기억에 인간의 추론 능력이 합쳐진 결과일 뿐임.

그런데 인간이 LLM의 환각과 완전 비슷한 양상을 보이는 현상이 있음. 무조건 반사, 착시 현상, 진짜 환각. 이런 뇌의 버그들임. 정강이를 망치로 쳤다고 해서 다리가 올라갈 이성적인 이유는 어디에도 없는데, 그러한 패턴이 뇌가 만들어지는 순간부터 박혀 있기 때문에 이런 말도 안되는 현상이 일어나는 거임. 내가 LLM의 학습 과정은 (유전 알고리즘을 사용하지 않음에도 불구하고) 진화에 대응된다고 생각하는 또 다른 근거이기도 함.

내 생각인데, 무한 컨텍스트를 가진 LLM을 끊임없이 무한반복으로 돌리면 그게 곧 우리의 의식과 구별할 수 없는 존재일 것 같음. 그리고 LLM이 돌리는 과정에서 내뱉는 특정 코드를 인식해서 그에 따라 음성이나 행동 등을 생성한다면 그게 곧 AGI일 것 같음.