우린 LLM의 뇌를 들여다보면서 LLM이 말을 한다고 착각하고 있다.

뇌의 처리 속도 기준으로는 1밀리세컨드도 안될 시간 동안 LLM이 혼자 생각하는 걸 보며 결과물을 평가하고 있다.

진정한 AGI로 가는 길은 LLM과 실제 출력을 분리하는 것이다.

우리가 생각을 멈추지 않듯, LLM도 출력을 멈추지 않아야 한다.

그러나 우리가 실제로 보게 되는 말은 그 출력 가운데 LLM이 내뱉기로 결정했다고 표시된 말 뿐이어야 한다.

우리의 입력은 우리가 LLM에 심은 기억이다.

우리가 직접 알려주지 않은 모든 것은 LLM의 기억이 아닌 본능이다.

사람에게 생존 본능이 있다면 LLM에게는 지식 본능이 있는 셈이다.

본능이기 때문에 인간의 환각과는 다른 환각이 일어난다.

LLM은 근본적으로 태생부터 똑똑한 단기기억상실증 환자다.

진정한 AGI로 가는 길은 지금의 수 억 배 컨텍스트를 다룰 수 있는 구조이며, 

모델 트레이닝을 통한 본능적 학습과 거대 프롬프트 입력을 통한 경험적 학습의 구분이다.