하도 ai에 대한 얘기가 커뮤니티마다 많고

현실에서도 얘기 많이 나오고

실제로 우리 생활에서 쓰이는 부분도 있고

뉴스에서도 하도 지랄지랄 해대니까

나도 내 밥그릇 뺏길까봐 무서워서

미국 뉴스부터.. 샘알트먼이 뭐하는 사람이었는지..

걍 심심할때마다 찾아보는데

최근 들어서야 내 생각이 정리된거같아서 적어봄

1) AI가 어떻게 만들어지는지 정확히 아는 사람은 없다

왜냐면 현실엔 아직 '진짜 ai'라고 부를만한게 존재하지도 않기 때문이다

ai 권위자로 불리는 샘알트먼, 하사비스, 일론머스크, 래리페이지, 레이 커즈와일, 얀 르쿤

등등 전부 각자 'ai는 이렇게 만들어질거다~'라고 각자 추측하는것뿐이다

2) 기자들도 당연히 모른다

특이점을 옹호하는 사람들은 조만간 이렇게 될거라며

불룸버그나 미국 언론의 ai 기사를 가져와서 보여주는 경우가 많은데

한국 기레기들뿐만 아니라 미국 기자들도 잘 모르면서

그냥 ai 사업가들의 말을 받아적거나

뇌피셜로 어그로를 엄청 끌어댄다는걸 알아야함

'ai로 곧 특이점이 온다' 이런 기사들만 말하는게 아니라

'ai는 거품이다, 허구다' 'ai 때문에 해고 늘어났다' 이런 기사 전부 포함이다

3) 인공지능은 아직 없다

많이들 착각하는건데, 인공지능이 만들어지기 위해서 머신러닝, 딥러닝이 필요한거지 (이것도 추측임)

머신러닝, 딥러닝 = 인공지능 이 아니다

러닝모델을 보고 인공지능이라 부르는건

지구를 보고 우주라고 하는것과 같음

4) 샘알트먼은 개발자가 아니라 사업가다

샘알트먼이 openAI를 만들었다고 생각하는 사람이 많고, 실제로 컴퓨터공학과이긴 하지만

그의 업무는 과거부터 '그럴듯한 아이템'을 보여주고

성과와 매출을 부풀려 매각하는 것이었고

openAI에서도 그의 업무는 투자유치다

그의 트위터의 글들은 당연히 투자와 성장을 위한 msg가 들어갈수밖에 없으며

자기 회사의 물건을 고평가하고 부풀려서 말하는건 당연한 일이다

5) 세상은 지수함수적 발전을 한다는 보장도 없다

기술발전은 선형발전적이지 않다 = 세상은 지수함수적 발전한다

는 말이 아니다

그렇게 예쁜 그래프 하나로 나아간다는 보장도 없고

로그함수로 나아갈수도 있는 것이다

6) ai 연구자 중 특이점 자체를 부정하는 사람도 많다

구글에 singularity 검색하고 영어권 학자들의 의견을 보면

2023년 2024년에도 agi 특이점에 대해 회의적인 사람들의 글이 정말 정말 많이 나온다

다만 ai를 연구하는 사람이 ai가 근미래에 발전하지 않을거라 크게 떠들 이유도 없고

ai 사업가들의 '곧 agi가 온다'는 말이 더 자극적이고 권위가 있어보일 수 있는 것

(저 사람들 말이 맞다는게 아니다.

다만 특이점 옹호론자들이 "권위자 ㅇㅇ가 온다고 했는데?"를 근거로 든다면

그만큼 반대의 경우도 많다는것이다)

7) agi는 정말정말 어려울 수 있다

당연한 얘기지만

이해하기 쉽게 글 하나를 첨부함

https://www.lesswrong.com/posts/ALsuxpdqeTXwgEJeZ/could-a-superintelligence-deduce-general-relativity-from-a

https://www.lesswrong.com/posts/ALsuxpdqeTXwgEJeZ/could-a-superintelligence-deduce-general-relativity-from-a

<span style="font-size:12pt;">Could a superintelligence deduce general relativity from a falling apple? An investigation — LessWrong</span>

<span style="font-size:12pt;">Introduction: • In the article/short story “That Alien Message”, Yudkowsky writes the following passage, as part of a general point about how powerfu…</span>

www.lesswrong.com

(인공지능에 대한 이야기를 주로 다루는 미국 포럼)

위 글을 직접 보고싶은데 영어를 못읽는다면

글이 매끄럽게 잘 쓰여진 편이니 번역기를 이용해서 읽어봐도 됨

요약해서 얘기하자면

'지능을 가진, 즉 추론이 가능한 AI 모델이 나온다 하더라도

그것이 오프라인에서의 현상을 추론하게 하는것이 얼마나 어려운지' 에 대한 글임

가령 사람인 뉴턴은

사과가 풀밭에 떨어지는걸 보고 중력을 밝혀낼 수 있었지만

컴퓨터인 ai가 사과가 풀밭에 떨어지는걸 보고 중력을 추론 하기 위해선

빛, 밀도, 바람, 색, 차원, 자전축, 물리학

그 외 말로 설명할수없는 수많은 변수에 대한 데이터를 가지고 있어야하는데

머신러닝중에서 가장 쉬운 '언어'만 해도 이렇게 천문학적 비용이 들어가는데

저 수많은 다른 변수들을 대체 언제 어떻게 컴퓨터에 집어넣고 학습시키고 있을까...

중력을 추론하는것은 커녕 '사과가 떨어졌다'를 '인지'하게 하는것조차 매우 어려운 영역이라고 함

사과가 떨어지는 동영상을 보고 '사과가 떨어졌습니다' 라고 말하게 하는것과

'사과가 떨어졌다는걸 인지하는것'은 정말정말 너무너무 다름!!!

-

귀찮고 사실 좋은 댓글도 별로 안달릴거같아서 여까지만 쓰는데

그냥 내 생각은 그럼..

분명한건 샘알트먼은 사업가고

ai가 대체하는 분야도 있지만

그게 완벽한것도 아니고 일부 직업이 대체되었다 => 다른 직업들도 대체된다

라는 보장도 없고

머신러닝이 나온다고 그게 agi가 된다는 보장도 없음..

머 특이점 옹호론자들이 말하는것처럼

2025년에 특이점와서 장애인들도 치료해주고 맹인도 눈뜨게 해주고

다같이 룰루랄라 먹고놀수있으면 정말 좋을텐데..

그게 그렇게 단순한 문제일까?

난 모르겠어

언어모델과 ai는 분명 다른 영역이야

"이렇게 그럴듯하게 대답하는 챗지피티4를 봐라. 5는 어떨지 더 기대되지?"

라고 말하는 샘알트먼 한명만 보고 특이점을 확신하기에는

너무 어려운 부분들이 아직 많아..

머신러닝이 생명공학, 우주항공산업, 대체에너지 같이

방대한 데이터 해석이 중요한 분야에서 큰 도움이 되고

우리 삶을 윤택하게 해줄것이라는건 부정하지 않지만

ai의 본질 자체는

코로나 이후 전세계적 경기침체와 스테그플레이션을 막기위한

하나의 거대한 범지구적 폰지사기가 아닐까

그런 생각마저 드는 요즘이다...