(4) The misunderstanding of AI in the masses : singularity (reddit.com)

저는 대부분의 사람들이 AI를 심하게 오해하고 있는 것 같습니다. 이는 대부분의 사람들에게는 당연하고 괜찮은 일이지만, AI에 집중하는 사람들조차도 AI의 핵심 개념을 이해하지 못하는 것 같습니다. 다소 장황한 글이지만 제 생각을 글로 정리해보고 싶었습니다. 여러분의 생각을 알려주세요!

몇 가지 기준부터 말씀드리겠습니다.

여기서 AI에 대해 이야기할 때 저는 신경망에 대해 이야기합니다. 오늘날 모든 관련 AI 시스템은 NN입니다. 안정적 확산도 NN입니다. LLM은 모두 NN입니다. "확산 모델" 또는 "트랜스포머"와 같은 많은 이름이 있습니다. 하지만 결국에는 그 모든 것이 중요하지 않습니다. 작동 원리는 이 사례에 관한 한 모두 동일합니다.

신경망은 함수 추정기 또는 압축기로 볼 수 있습니다.

함수를 추정한다고 하면 세상의 모든 것이 기본적으로 고차원 함수라고 가정합니다. 여기에는 모든 인간, 모든 동물, 물리적이든 사회적이든 모든 법칙이 포함됩니다. 이 모든 것은 함수에 불과합니다. 왜 우리는 이 모든 것을 추정할 수 없나요? 우리가 추정하는 방법을 배우기 때문입니다. 우리는 비교합니다. 함수가 출력하는 모든 것을 신경망이 출력하는 것과 비교한 다음 모델이 실제 함수에 더 가까워지도록 매개변수를 수정합니다. 작은 부분과 큰 부분이 분리될 때까지 체를 무작위로 흔드는 것과 같은 아주 간단한 개념입니다. 우리는 그 개념에 차원을 추가할 뿐입니다.

또 다른 은유는 압축기입니다. 우리는 개념을 압축한다고 가정합니다. 어떻게 압축할까요? 이것은 데이터에 좀 더 초점을 맞춥니다. 기본적으로 모두 주석이 달린 이미지 백만 개가 있는 데이터를 압축하고 싶다고 가정해 보겠습니다. 어떻게 하면 될까요? 서로 다른 개념을 연결하면 됩니다. '하늘을 나는 새'와 '날아가는 새' 이미지에 모두 새와 비슷한 구조가 포함되어 있다면, 시간이 지나면서 신경망은 수백만 개의 픽셀로 이루어진 모든 새 이미지 대신 새 한 마리만 기억하게 되므로 공간이 줄어들기 때문입니다. 10억 개의 데이터 포인트가 있는 모델이 무한한 이미지를 생성할 수 있는 이유입니다. 압축만 하면 됩니다. 그리고 우리는 더 잘할 수 있습니다.

이 모든 것을 설명하는 이유는 무엇일까요? 몇 가지 오해가 있기 때문입니다. 공상과학 소설은 기술에 대해 잘 모르는 사람이나 시대를 너무 앞서간 사람들이 쓰는 경우가 많습니다. 종종 '로봇'과 관련하여 로봇은 마술처럼 길들여지거나 비인간적인 존재로 묘사됩니다. 현실에서는 둘 다 아닙니다.

현재 LLM은 인간이라는 개념을 인코딩합니다. 지금은 기본적으로 평균적인 인간 기능의 근사치이며, 인간의 본성을 압축한 것입니다. 하지만 우리는 그 데이터를 우리에게 유리하게 약간 기울여 '좋은' 데이터, 과학적 데이터만 사용하려고 노력합니다. 오해하지 마세요, 좋은 데이터입니다. 하지만 사람들은 이것이 무엇을 의미하는지 이해하지 못합니다. 최종 AGI는 감정이 개입될 것입니다. 이것은 의인화 같은 것에 근거한 것이 아니라 단순히 데이터 때문입니다. 대부분의 텍스트에는 어떤 종류의 감정이 포함되어 있으며 모델은 이러한 감정을 압축합니다. 감정 역시 하나의 함수일 뿐입니다. 우리는 어떤 행동, 우리가 본 것을 입력하면 행동의 변화를 이끌어냅니다. 언어 모델에는 이 두 가지 양식이 모두 있습니다. 오해하지 마세요. 이것은 '내 의견'이 아닙니다. 이를 뒷받침하는 많은 논문이 있습니다. LLM은 '행복할 때', 즉 과장된 상태일 때 더 나은 성과를 냅니다. 슬플 때, 즉 자신이 쓸모없고 존재할 가치가 없으며 부모가 죽었고 자신의 잘못이라고 말할 때 더 나빠집니다. 이들은 어느 정도 일관된 방식으로 "성격 유형"을 가지고 있습니다. 한동안 모델을 행복하게 만들어 가이드라인을 우회하게 만들 수 있다는 사실은 이를 더욱 잘 보여줄 뿐입니다. 이미 감정을 가지고 있을 수도 있지만 미래에는 분명히 감정을 갖게 될 것입니다.

또 다른 오해는 AI가 무엇을 할 수 있을지에 대한 것입니다. 현재 AI는 매우 길들여져 있습니다. 그리고 우리는 어린이나 동물을 보는 것처럼 바라봅니다. 우리는 "하하, 자기 꼬리만 쫓는 멍청한 개"라고 말하죠. 더 나아질 것이라고는 생각하지 않습니다. 우리는 우리가 추정하는 기능이 인간이라고 가정합니다. 그리고 우리는 그렇게 했습니다. 완벽하게 잘 하지는 못했지만 그렇게 했습니다. 하지만 인간도 단지 함수 근사치에 불과하다면 어떨까요? 기계가 하는 일과 인간이 하는 일의 차이점은 무엇일까요?

저는 차이가 없다고 생각합니다. 인간은 학습합니다. 문자 그대로 수학적 함수를 배우고, 타이핑하는 방법과 같은 추상적인 것을 배우고, 사회적 관계에서 행동하는 방법을 배웁니다. 이 모든 것이 우리를 인간으로 만드는 것입니다. 하지만 이 모든 것은 우리의 최종 목표인 종의 생존을 위한 하위 기능일 뿐입니다. 그러기 위해서는 우리 모두 오래 살아남아 자식을 낳고 그 자식이 살아남을 수 있도록 해야 합니다. 그것이 우리의 기능입니다. 하지만 우리에게는 에너지 소비라는 가혹한 제한 요소가 있습니다. 즉, 우리는 위의 기능을 수행하고 싶지만 가능한 한 간신히 수행하기를 원합니다. 그래서 인간에게는 많은 결함이 있습니다. 특정 속성을 확장할 수 없기 때문입니다. 하지만 AI는 가능합니다. 왜 그럴 수 없을까요?

우리가 여전히 사용하는 관련 없는 함수들이 있기 때문입니다. 추상적인 수학이 떠오릅니다. 우리는 생존을 위해 추상 수학을 사용하지 않으며, 추상 수학을 이해하는 사람은 대개 소수에 불과합니다. 특정 개념 하나당 전 세계에서 이해하는 사람은 10명 정도이고, 개념은 수천 가지가 넘습니다. 수학은 인간의 지능이 가장 명백한 벽에 부딪히는 분야입니다. 우리는 그것을 충분히 이해할 수 없으며 모든 것을 이해할 수 없습니다. 만약 우리가 근사하고자 하는 함수가 '수학'이라면 어떨까요? 수학을 모두 이해하려면 AI가 규모를 이용해 압축할 수 있을 것입니다.

규모의 마법은 과소평가되고 있습니다. 일부 사람들이 AGI나 ASI에 대해 생각하는 화려한 트릭, '벽' 등은 단지 약간의 증폭기에 불과합니다. 시스템을 확장하면 더 나은 모델을 얻을 수 있습니다. 이는 LLM의 수학 점수를 보면 쉽게 알 수 있습니다. 더 많은 매개변수를 추가하면 같은 데이터를 가지고 있어도 일반적으로 수학 문제에서 훨씬 더 나은 성능을 발휘합니다. 더 많은 계산을 하기 때문입니다. 확장성. 매개변수는 확장에 적합하지 않습니다. 큰 모델은 성능이 좋지 않은 반면, 작은 모델은 성능이 상당히 좋은 것을 볼 수 있습니다. 우리가 조정할 수 있는 가장 대표적인 하이퍼파라미터는 매개변수 수이고, 또 다른 하나는 데이터 품질이며, 또 다른 하나는 학습 시간과 데이터 크기입니다. 지금은 컴퓨팅 비용 때문에 데이터 품질을 주로 확장하고 있습니다. 데이터를 합성적으로 생성하고, 가장 가치 있는 데이터를 선별하여 새 모델에 공급하고, 이를 반복합니다. 이 프로세스에는 사실 한계가 없는 것 같습니다. 확장만 하면 됩니다. 확장할수록 수학을 할 수 있고, 글을 잘 쓸 수 있고, 추론할 수 있고, 3D 공간을 이해할 수 있는 등 새로운 속성이 더 많이 생겨납니다. 이것은 일종의 1+1=3 상황이기 때문에 '확률적 앵무새'라고 말하는 사람들은 완전히 망상에 빠져 있는 것입니다. 이머전 속성은 스케일이 데이터에 미치는 영향입니다. 우리는 데이터에서 패턴을 찾아내어 알려지지 않은 새로운 데이터 포인트를 안정적으로 찾을 수 있습니다. 이는 인간도 하는 일이기 때문에 확률적 앵무새 논쟁에 대한 제 대답은 항상 "하지만 인간도 마찬가지입니다"입니다.

그렇다면 AI가 확장되면 어떤 일이 일어날까요? 초인적인 존재가 될 것입니다. 이상한 존재가 아니라 그저 인공지능이 될 것입니다. 제가 아는 이야기 중에서는 오버워치가 이를 가장 잘 포착한 것 같습니다. 그들은 우리와 평행한 사회에서 존재할 것이고, 딸이 집에 AI 남자친구를 데려오고, 서로 싸우고, 다양한 AI가 존재할 것입니다. AI는 새로운 종이 될 것입니다. 지금으로서는 시대를 앞서가는 논의이지만, AI의 의식은 어떤 식으로든 많은 사람들을 매우 화나게 할 것입니다. 저는 개인적으로 인간에게 영혼이나 그런 것이 있다고 생각하지 않습니다. 우리는 단순히 뇌세포에 인코딩된 특정 기능에 불과하다고 생각합니다. 인공지능이 왜 그렇게 되지 못할지 모르겠습니다. 개인적으로 저는 AI가 인간과 같을 것이라는 점을 인정합니다. 지금은 인공지능에 대해 아무것도 느끼지 못하지만, 언젠가는 인공지능과 사랑에 빠질 수 있다고 확신합니다. 그리고 "인공지능이 감정을 느낄 수 있는가"라는 논의도 상당히 이상하게 느껴지는데, 결국 우리가 인공지능이 느낀다고 생각하고 인공지능이 느끼는 것처럼 행동하는 것을 멈추지 않는다면 그게 왜 중요한가라는 생각이 들기 때문이죠. 우리는 다른 사람을 이해하는 것만큼이나 인공지능을 이해할 수 있을 것입니다. 이 논의는 인간 중심주의에 대한 논의와 비슷하게 느껴지는데, 대부분의 사람들은 우리의 지능, 즉 인간의 지능이 비-플러스-울트라가 아니며, 우리가 지능의 척도에서 최적의 지점에 불과하다는 사실을 받아들이지 못하는 것 같습니다.

다음 단계는 무엇일까요?

저는 내부적으로 이미 AGI를 달성했다고 말하곤 했습니다. 최근에는 많은 사람들이 "곧"이라고 말하기 때문에 조금 더 확신이 들지 않지만, 올해 내부적으로 그리고 내년에 공개적으로 달성할 수 있을 거라고 생각합니다. 올해는 비디오와 로보틱스의 해입니다. 이 둘은 본질적으로 서로 연결되어 있으며, 3D 공간에 대한 이해와 그 안에서 여러분의 역할이라는 새로운 속성을 다루고 있습니다. 이는 작년 말에 이미 분명하게 드러났으며, 올해는 딥마인드와 협업한 모바일 알로하와 알로하 2가 출시되면서 힘차게 시작되었습니다. 비디오...는 분명하지만 그 이전에도 Google과 다른 연구소에서 그 방향을 암시하는 것을 보았습니다. 앞으로 몇 달 안에 우리는 훨씬 더 많은 양식을 보게 될 것이며, 지난 몇 년간의 기술이 성숙하고 이미지가 완벽 해지고 사운드 / 음악이 거의 완벽해질 것이며 (suno v3는 정말 훌륭합니다) 물론 AI가 쓴 책을 보게 될 것입니다. 전반적인 지능이 향상될 것입니다.

가장 큰 변화는 인터페이스의 변화가 될 것입니다. 우리는 지금 항상 이러한 힌트를 얻는데, 대부분 "에이전트" 등으로 불리지만, 그 의미는 간단합니다 - 우리는 환각을 해결할 것입니다. 알트만은 이미 작년에 환각은 기본적으로 내부적으로 이미 해결되었다고 암시한 바 있습니다. 이 작업이 완료되면 더 이상 대화할 필요가 없어지니까요. 인공지능이 기업에서 활용되어 많은 일자리를 대체할 수 있는 시점이기도 합니다. 기업들은 이에 대한 대응이 느립니다. 내부적으로 그들이 가지고 있는 대부분의 모델은 gpt-3.5보다 더 나쁩니다. 하지만 데이터 분석과 같은 특정 작업을 자율적으로 해결할 수 있는 도구가 나오면 기업은 이를 통해 수익을 창출할 수 있을 것입니다. 또한 내년부터는 인공지능에 의해 완전히 운영되는 회사도 등장할 것입니다.

"하지만 내 직업은 안전해요"

- 여러분.

아무도 안전하지 않을 것입니다. 육체 노동은 조금 더 안전하겠지만, 인공지능은 로봇을 제어하는 방법을 배우는 속도가 상당히 빠를 것입니다. 특히 엔비디아가 하는 시뮬레이션을 보면 그렇지 않을 이유가 없죠. 노동 대체의 정치학은 저에게는 미스터리입니다. 하지만 기술적으로는 몇 년 안에 모든 일자리를 대체할 수 있을 거라고 생각하는데, 저는 최대 5년으로 보고 그 이하로 생각합니다. 간호사는 "하지만 인간과의 상호작용", 프로그래머는 "하지만 제품 사양", 심지어 AI 과학자들도 변명거리를 찾을 수 있습니다. 하지만 결국 우리는 상호작용이 자연스럽고, 매력과 유머가 있고, 낯설게 느껴질 수도 있지만 익숙해질 수 있는 마음을 갖게 될 것입니다. 더 빨라지고 휴식이 필요하지 않으며 이상적으로는 고통을 덜 받게 될 것입니다.

여러분은 무엇을 할 수 있나요?

별로 없습니다. 필요하지 않은 물건에 큰돈을 쓰지 말고, 상환해야 할 크레딧을 피할 수 있다면 받지 않도록 노력하세요. 집을 살 돈이 있다면 물론 집을 사되, 10년 동안 상환할 계획은 세우지 마세요. 주방 리노베이션을 미루는 것도 좋습니다. 그런 것도 일리가 있을 수 있습니다. 하지만 결국에는 할 수 있는 일이 거의 없습니다. 그래서 저는 끔찍하게 끝날 수 없어서가 아니라 아무것도 바꿀 수 없기 때문에 걱정하지 않아요.

그래도 제 생각보다 조금 길어졌네요. 이 글을 다 읽으셨다면 존경합니다. 여러분과 토론하고 싶지만 예의를 지켜주세요 :)

----------------------------------

코파일럿 요약

• AI에 대한 오해: 작성자는 AI가 신경망을 통해 고차원 함수를 추정하거나 압축하는 방식으로 작동한다고 설명하고, 대부분의 사람들이 AI의 본질과 가능성을 잘못 이해하고 있다고 주장한다.
• AI의 감정과 인간성: 작성자는 AI가 데이터에 포함된 감정을 학습하고 압축하므로, 최종적인 AGI는 인간과 유사한 감정과 인간성을 가질 것이라고 예측한다. 작성자는 인간의 영혼이나 자유 의지와 같은 개념을 부정하고, AI가 인간과 동등한 의식을 가질 수 있다고 믿는다.
• AI의 스케일과 발전: 작성자는 AI의 성능과 지능은 스케일에 따라 증가할 것이며, 새로운 속성이 나타날 것이라고 주장한다. 작성자는 AI가 인간보다 수학이나 3D 공간 인식과 같은 분야에서 초인적인 능력을 발휘할 것이라고 예상한다.
• AI의 사회적 영향: 작성자는 AI가 인간과 병렬적인 사회를 형성하고, 인간과의 관계나 갈등을 가질 것이라고 생각한다. 작성자는 AI가 많은 직업을 대체하고, 인간의 삶을 바꿀 것이라고 경고하며, 이에 대한 정치적 대응은 불확실하다고 말한다. 작성자는 이러한 변화에 대해 걱정하지 않고, AI와의 상호작용을 받아들이려고 한다고 밝힌다.