https://gall.dcinside.com/mgallery/board/view/?id=thesingularity&no=139275&exception_mode=recommend&page=1

샘 알트만 인터뷰 전체 요약 - 특이점이 온다 마이너 갤러리

https://youtu.be/L_Guz73e6fw Sam Altman: OpenAI CEO on GPT-4, ChatGPT, and the Future of AI | Lex Fridman Podcas

gall.dcinside.com

추론의 정의에 따라 조금씩 의견이 다르겠지만 GPT-4는 약간의 추론을 하기 시작했다고 생각함

빌 게이츠: "2년 안에 AI가 수학적 실수하거나 추상적인 추론 못하던게 아주 크게 개선될 것"

인간이 현재 수준의 과학적 발전을 이룰 수 있던 건 '추상적 추론'이 가능했기 때문인데 

최근 빌 게이츠 블로그에서 2년 안에 추상적 추론 부분이 아주 크게 향상될 거라고 함. 

추상적 추론이 가능해지고 아주 크게 개선됨에 따라 GPT-5부턴 유의미한 과학적 발견을 할 수 있을 가능성이 높음.

LLM (대규모 언어 모델)은 AGI를 만들기 위해 필요한 일부일 것임. 우리는 무언가 다른 엄청나게 중요한 것이 필요함.

GPT를 확장하는 방식으로 AGI가 충분히 나올 수 있을거라고 생각함. ( 대규모 언어모델이 아닌 다른 아키텍쳐로의 확장 )

AGI는 얼마 안남았지만 특이점은 좀 더 오래 걸릴것이라고 생각하는 편임. 근데 특이점 (fast take off) 너무 빨리오면 ㅈ됨.

LLM만으론 AGI로 가기엔 부족하다고 생각하고 그 부족한 부분은 GPT를 확장하는 방식으로 해결 가능하다고 생각하는듯.

그리고 그 방식은 GPT 플러그인 스토어에 GPT(언어 모델)이 잘 하지 못 하는 부분들을 대신 해 줄

다른 분야에 특화 된 인공지능들의 API가 앱스토어처럼 방대하게 쌓여서 GPT의 부족한 부분을 채워주는 것일 가능성이 높음.

나는 GPT-4가 AGI는 아직 아니라고 생각함. 만약 공상과학소설을 보는데 GPT-4가 AGI라고 했으면 난 ㅈㄴ 실망했을듯.

'아직' 아니라고 생각하는 것도 현재 플러그인 스토어의 규모가 만족할만큼 커지지 않았기 때문이고

만약 규모를 만족하고 GPT 시리즈가 모듈식 AGI로서 작동하고 못 하는 일이 없다고 해도

그건 우리들이 생각하고 있던 재귀개선 하는 AGI가 아닌 그저 도구로서 사용 가능한 AGI라서 실망 이야기가 나오는듯.

AGI가 나온다고 해도 사람들이 곧장 알 수는 없을 것. 

GPT 플러그인 스토어의 규모가 커지는 것은 점진적이기에 사람들이 곧장 알 수 없다는 것일듯.

갑자기 인공지능이 며칠만에 재귀발전 해서 컨트롤 할 수 없어질 수도 있음. 근데 개인적으로는 그럴 가능성보단 좀 더 천천히 초지능으로 발전할 것이라고 생각함.

GPT 플러그인 스토어가 만족할만한 수준의 규모까지 성장하고 빌 게이츠 말대로 2년 후 추상적 추론이 엄청나게 향상된 GPT가

스토어에 등록된 다른 분야에 특화된 인공지능들의 입출력을 추론하고 피드백하고 학습하면 재귀개선 해서 진정한 AGI로 발전할 거고

그 과정이 엄청 빠른 것은 아니고 좀 더 천천히 이 과정이 진행되어 초지능이 된다고 생각하는듯.

https://gall.dcinside.com/mgallery/board/view/?id=thesingularity&no=138450&exception_mode=recommend&page=1

님들아 개쩌는 거 나옴 - 특이점이 온다 마이너 갤러리

https://www.databricks.com/blog/2023/03/24/hello-dolly-democratizing-magic-chatgpt-open-models.html Hello Dolly:

gall.dcinside.com

이 부분은 윗 링크 참고하면 이해 가능함.

옛날 구식 AI를 GPT 입출력으로 재학습 시켰더니 성능이 미친듯이 향상 됨.

마찬가지로 GPT도 스토어에 등록된 다른 분야에 특화된 AI들의 입출력을 학습하면서 재귀개선 가능할듯.

즉 진정한 AGI는 GPT-5가 출시되고 몇 년이 지난 후에 점진적으로 두각을 나타낼 가능성이 높음.

커즈와일의 2029년 AGI가 맞을 가능성이 높을듯.

AGI가 굳이 실제 세계를 탐구할 하드웨어가 필요할 것이라고 생각하지는 않지만 내 생각이 틀릴 수도 바뀔 수도 있음.

오픈AI 공동창립자이면서 수석 개발자인 일리야 서츠키버가 말한 

"GPT가 텍스트들의 상관관계만 배우는 것으로 보일 수 있지만 사실은 세상을 이해하고 나타내는 월드 모델을 형성하고 있음" 과 관련있는듯.

마소 GPT-4 프로토 타입 AGI 논문 보면 알겠지만 이미 언어 모델이 단순 빈깡통이 아닌

인간의 인식 체계를 축약해논 언어를 대규모로 스케일업 하니 세상을 이해하고 나타내는 월드 모델이 됐고

텍스트 모델만으로도 다른 일까지 범용적으로 할 수 있게 됨, 언어 모델이 세상에 대한 이해를 가지고 있다는 증거.

이미 텍스트 모델만으로도 월드 모델 구축에 성공했기에 실제 세계를 탐구할 하드웨어가 필요할 거라고 생각은 안 하지만 

나중에 벽에 부딪힐 가능성 때문에 말을 아끼는듯.

인공지능에게 자아 의식과는 전혀 상관없는 데이터를 줬는데 인공지능이 자아 의식에 대해 공감을 하는 순간 자아 의식이 있다고 봐야 할 수도 있음

디트로이트 비컴 휴먼 마지막 엔딩 장면에 나오는 대사임.

우리는 근미래에 인간의 정의에 대해서 고민해야 될 것임.

인간의 정의가 영혼이나 의식을 가진 특별한 무언가인지

아니면 단순 입출력 기계라도 '인간다움'을 보여주면 인간인 건지

이미 GPT-4 가지고 의식 드립치는 전문가들도 나오고 있으니 GPT-5에 가면 이 문제가 더 심화될 거임.

우린 인간의 정의에 대해서 아주 심도있게 논의하게 될 것임.

어쩌면 디트로이트 비컴 휴먼 엔딩처럼 그들을 인간으로 인정하고 어느정도의 권리를 인정해야 될 수도 있음.

안 그러면 인간이 전뇌화 하거나 마인드 업로딩 했을 때 입장이 난처해짐.

(UBI) 기본 소득제는 해결책 중 하나일 뿐 모든 것을 해결하지는 않는다. 그것은 사람들이 먹고 살게 해주는 요구를 채워줄 뿐 노동의 욕구도 분명히 존재한다.

분명 일을 하면서 삶의 보람을 느끼는 사람도 있을 것임.

그리고 이 해결책은 아주 재밌는 형태로 나올 가능성이 높음.

https://www.tokenpost.kr/article-57417

마이크로소프트, '뇌파' 이용한 암호화폐 채굴 시스템 개발 중…현실화될까? - 토큰포스트

마이크로소프트가 신체 활동과 암호화폐 채굴을 연결하는 시스템을 개발 중이라고 2021년 4월 4일(이하 현지시간) 크립토포테이토가 보도했다.세계지적재산권기구(WIPO)의 특허 자료에 따르면 마이크로소프트는 2020년 3월 특허 출원서...

www.tokenpost.kr

AI가 더 정교해지기 위해선 분명 인간 뇌의 활동  패턴이 필요할 것임.

하지만 이 부분에 대해서 사람들은 매우 부정적임 자신의 뇌 정보를 기업에게 주는 것이니.

미래엔 단순히 BCI를 착용하고 숨만 쉬면서 자기가 하고 싶은 일을 하는 것 = 다양한 분야의 뇌 활성 패턴을 기업에 주는 것.

이것 자체가 일이 될 가능성이 높음.

https://galea.co/#home

Galea

Galea: Bringing next generation neurotechnology to mixed reality

galea.co

스팀의 차세대 VR 헤드셋에는 재밌게도 EEG가 달려있어 뇌파를 측정할 수 있음.

어쩌면 메타버스에서 노동하는 노동 3.0이 올 수 있을듯, 그리고 이게 일자리 문제를 해결할듯.

게임하면서 돈까지 벌 수 있다니 개꿀인듯 ㄹㅇ

올해 안에 월드 코인 및 기본 소득제 관련한 연구 결과를 발표할 것

AGI를 먼저 선점하게 되면 말도 안 되는 생산성으로 인하여 다른 나라의 경제가 좆되버림.

결국 월드 코인이란 것은 기술주의로 다른 나라의 경제를 민주화 시켜 세계단일통화에 종속시키는 과정이 될듯.

그리고 각 국의 화폐는 IMF SDR 통화바스켓의 구성 비율에 따라 환전될듯.

결국 세계정부가 나온다는 소리임.

https://www.etoday.co.kr/news/view/1548948

라가르드 “IMF 특별인출권에 가상화폐 활용할 수도”

🔼크리스틴 라가르드 국제통화기금(IMF) 총재. AFP/연합뉴스크리스틴 라가르드 국제통화기금(IMF) 총재가 전 세계의 중앙은행과 규제 당국자들이 가상

www.etoday.co.kr

초인공지능 하나가 중앙집권 하는 미래가 있을 수도 있지만 여러 초인공지능들이 민주적으로 정치하는 시나리오가 더 나을수도 있음.

현재 각 국이 가지고 있는 위험한 핵미사일이 서로 견제하게 만들어 평화를 이루듯

다른 나라와 오픈AI의 기술 격차는 그리 크지 않다고 생각하나 봄.

결국 다른 나라에서도 오픈AI 같은 기업이 나올 거고 같은 방식으로 초인공지능 구축에 성공할 것이고

초지능끼리 현재 핵 미사일처럼 견제하여 평화를 이룰 듯.

글 끝까지 읽어줘서 고맙고 다들 즐겜 모드로 살자.

미래가 그리 나쁘지 않을듯 싶다.