https://dorori.club/gpt4-is-a-reasoning-engine/

[번역] GPT-4는 추론 엔진이다.

아래의 글을 DeepL을 사용하여 번역한 게시물입니다. GPT-4 Is a Reasoning EngineReason is only as good as the information we give itChain of ThoughtDan Shipper In 1894, a Boston-based astronomer named Percivel Lowell found intelligent life on Mars. 1894년, 보스턴의 천문학자 퍼시벨 로웰은 화성에서 지적 생명체를 발견했습니다. Looking through a telescope

dorori.club

https://gall.dcinside.com/m/thesingularity/161150

망상글) Voyager보고 느낀점 - 특이점이 온다 마이너 갤러리

https://gall.dcinside.com/m/thesingularity/160555 Voyager: 대규모 언어모델을 사용하는 개방형 구현 에이전트 - 특이점이 온다 마이너 갤러리1. 'Voya

gall.dcinside.com

https://gall.dcinside.com/m/thesingularity/162438

올해안으로 [자율연구시스템] 기대해볼만할듯? - 특이점이 온다 마이너 갤러리

샘알트만이 올해안에 도입된다고하는 GPT-4 API 한계용량 10만~100만토큰이면 한페이지당 500토큰(GPT-4 피셜 arxiv 표준가이드라인 따랐을시의 페이지당 토큰수)정도 있다고할때 200~2000페이지 분량이

gall.dcinside.com

지난 주 샌프란시스코에서 열린 세쿼이아 행사에서 샘 알트먼이 연설하는 것을 봤는데, 그는 바로 이 점을 강조했습니다: GPT 모델은 사실 지식 데이터베이스가 아니라 추론 엔진입니다.

오픈ai나 딥마인드 같은 회사가 하는 일은 일반화된 'reasoning engine'을 개발하고 경쟁력 있게 서비스 하는 것.

저들이 신경망에게 부여하는건 단지, 하나의 월드 모델로써 최소한의 'reasoning'을 할 수 있는 능력. 사람의 의도를 알아챌 수 있는 능력.

일리야 수츠케버의 말대로 언젠가 미래의 모델들을 우리가 점점 더 신뢰하게 되고,

모델의 기억력이 좋아진다면 우리가 지금 자연어로 챗봇을 조교하는 것처럼,

개인과 기업, 연구실까지 적용되어, 그들만의 데이터셋을 활용해 in-context learning으로 GPT라는 '추론 엔진'을, Voyager와 같이 다양한 분야에 접목하여,

autonomous agent(자율적 에이전트)화 시켜, 결과물을 낼 수 있게 될거야.

그리고 GPT-4는 이미 미약하지만, 그 가능성을 보여주었어.

멀티모달이 아닌 텍스트 모델(사람으로 치면 장님)이 텍스트 데이터로만 학습한 정보를 토대로 유니콘을 직접 그려내기도 했고,

마찬가지로 위의 글처럼, vision 없이 마인크래프트의 세계와 상호작용하고, 자가개선 하는 모습을 보여주기도 했지.

이를 보고, 제프리 힌튼은 "GPT-4는 사람으로 치면 iq 80~90 정도의 지능을 갖고 있는것 같다."라고 평가하기도 했음.(보고있나 얀버지?)

그리고 이 범용적 '추론 엔진'은 때로는 사람처럼, 인터넷에 연결하여 잘 모르는 정보를 외부에서 직접 긁어오거나, 그 과정에서 하사비스의 말대로 다른 프로그램이나 전문화된 약인공지능 같은 '도구'를 사용할 수도 있을거임.(알트만이 언젠가 달리와 챗gpt를 통합하겠다고 했는데, 그렇게 gpt를 일종의 컨트롤넷으로 사용하여 현 ai 그림에서 공통적으로 지적되는 '디테일'을 사람이 원하는대로 세세하게 잡아낼 수 있게만 되면 정말 상업미술계에 칼바람이 불거임.)

나는 이것이 그들이 말하는 '범용인공지능'의 진정한 정의라 생각함.

당연히 그 이상의 것은 '초지능'이라는 또 다른 정의로 선 그어놨고.

그렇기에 난 특갤러들이 'AGI'라는 이 실속없는 용어에 너무 연연하지 않았으면 좋겠음.

난 몇년 내로 LLM이 사회와 산업 전반에 스며들고, 그 결과물들이 인간과 같아질수록, 이것이 AGI인지 아닌지 묻는 것은 더 이상 무의미한 질문이 될거라 봄.

앞으로의 개발에 있어 그 비용이 너무 커진 모델의 파라미터 확장보단, 이제 막 시작된 토큰(프롬프트 입력길이)과 멀티모달의 확장이 훨씬 더 큰 경쟁력을 가질 것임.

제미나이와 GPT-5가 기대됨.