1. 이제 바깥 돌아다닐 때 알아보는게 신기하다. 이젠 저녁먹으러 외식하러 갈 수 없게 됐다.

2. gpt-4o(옴니)를 나도 1주일 써봤다. 그동안 있던 음성제어 컴퓨터들보다 훨씬 자연스럽다.

로건 : 그걸 가능케한게 컴퓨팅 파워인가? 아님 아키텍처의 변화였나?

샘 : 갑자기 엄청난 하나를 발견한 게 아니고, 그동안의 그 모든 조각들을 모은거다.

3. 로건: 앞으로는 "GPT-5"입니다!! 식으로 크게 발표하지 않고 작게 발표하신다고?

샘 : ㅇㅇ, 기술발전은 점진적이기 때문에 한번의 큰 도약이 아니라 여러번의 작은 발전을 통해 이루어지게 할 것

4. 다음버전은 GPT-5로 이름짓지 않을 수도 있다. GPT-5라 부르고 다른 방식으로 출시할수도 있다. gpt-4도 계속해서 개선되고 있다. 이 모든 것들을 어떻게 제품화하고 시장에 내놓을지 고민중

5. chatgpt는 세계 gdp를 유의미하게 바꾸진 못했다. 하지만 사람들의 기대치를 바꿨다. 앞으로의 '특정' 모델이 세계 gdp를 딱 바꾼다기보다, 몇십년 후 그래프를 보면 '어? 뭔가 바꼈나봐' 할거같다.

6. 로건: AI와의 대화방법은 뭐가 제일 좋다고 생각하나? 다른 언어?

샘: 아니, 그냥 지금 쓰는 자연어가 젤 좋다. 같은 관점에서 난 휴머노이드 로봇에 관심이 많다. 이미 이 세상은 '인간'에게 맞춰져서 만들어졌다. AI를 위해 새롭게 재설계하기보다 AI가 인간형이 되는 것이 효율적이다.

7. 로건: 오픈소스에게 몇몇 벤치마크에서 따라잡힌걸 어떻게 생각하나?

샘: 좋은 일이다. 오픈소스에도 자리는 있을 거다. 좋은 일이다.

8. 로건: TSMC나 Nvidia가 공격적으로 투자하고 있다. 얘네만으론 부족한가?

샘: 이 하드웨어 인프라 비용 자체가 더 크게 떨어질 수 있다(이거 짐 켈러가 난 싸게 만들 수 있다고 말하는거랑 같은 맥락인듯). 더 싸지면 (AI 칩)수요가 크게 늘거고, 그러면 지능비용이 매우 싸지게 된다. 그럼 지능이 매우 풍부해져서 사람들이 이를 누릴 수 있도록 충분한 인프라를 갖출 수 있게 된다.

9. 로건: gpt-4 기반으로 비즈니스 구축하면 나중에 망한다는데 뭔말?

샘: 두가지 프레임워크가 있다. 첫번째, 다음모델 거기서 거기일거임 하고 비즈니스 만들거나 두번째, 다음 모델이 훌륭해질거라 생각하고 그에 맞게 베팅하거나.

예전 기억나나? 앱스토어에 손전등 앱이 있었다. 사람들이 그거 다운해서 썼지. 근데 지금봐라 ios에 그냥 탑재되지? 다음 모델 구릴거라 생각하고 틈새시장 노리지마라. 후자가 맞다.

뿐만아니라 mayo clinic같은 큰 병원이 AI 의사 만들거라 생각하고 다들 쫄고 도전안하는거같은데 그러지마라. 난 오히려 새로운 회사들이 그런 일을 할 거 같다.

10. 샘: 매년 지능이 싸진다는것에 베팅해라. 근데 AI 도입만으론 부족하다. 장기적으로 방어력을 갖춰라.

11. 샘: 작년 쿠데타 이야길 다시하고싶진 않지만, OpenAI 구조는 좀 변화가 필요한 거 같다. 올해 내로 구조변화에 대해 이야기할 준비가 될 것 같다.

12. 샘: 난 법이 정밀하고 복잡한 카테고리라 이렇게 빨리 AI가 잘할 줄 몰랐다. 나도 놀랐다.

13. 로건: AGI 라는 용어를 되게 싫어한다는데, 왜임?

샘: 특정 순간을 가리키는 것 같기 때문임. 실제로는 점진적이고 꾸준히 발전하는 거. 난 나중에도 어떤 달이나, 어떤 해에 AGI 달성 이런식으로 생각하진 않을거다. gpt-4는 그 어떤 방면으로도 agi가 아니다. 다음모델도 마찬가지일거다. 하지만 몇가지 아이디어가 더해지고, 스케일링업되면 어? 뭔가 다르네 싶어질거다.

14. 로건: 스케일링 법칙이 유지된다고 하셨잖? 그럼 머가 가장 큰 문제임?

샘: 연구임. 근데 예전에 중성자를 '감지'는 하되 뭔지는 이해못한 상태에서 원자폭탄 만들엇잖음. 이론적으로 예측한거랑 실제는 많이 다르긴함. 무튼, 아키텍처 등의 연구쪽은 엔지니어링처럼 딱딱 스케쥴이 맞아떨어지진 않음

15. 샘: 규제는 필요함. 사람들은 agi를 과소평가함. 규제하면 (특이점이 늦어진다는) 기술적 지연이 있지 않을까 하는 우려의 목소리도 이해함. 유럽처럼 말임. 근데 우리가 도달할 임계점을 감안하면 규제는 필요할거임.

로건: 오픈소스 모델도 규제해야됨? 위험해질거같음?

샘: 지금은 아니지만 언젠간 그런 모델이 나올수도 있음.

16. 로건: 만약 ai칩 인프라가 해결되고 획기적인 아키텍처를 어떤 연구자가 개발해버리면 fast take-off(빠른 이륙, AGI가 금새 ASI가 되는 것)이 가능해질거라고봄?

샘: 그 가능성이 가장 높은 시나리오라고 생각하진 않지만, 배제하진 않음. 하지만 하룻밤새에 빠른 이륙이 일어날거라고 생각하진 않음. 이 역시도 1년이나 몇년에 걸쳐 점진적일거라봄.

AGI가 나온다해도 그날 딱 세상이 변하진 않음. 10년에 걸쳐 많이 변화하는 식일거임.

17. 로건: 일론, 보유주, 쿠데타 어떤 질문이 가장 싫냐

샘: 다 싫진않음. 다만 새로 할 말이 없을 뿐임

로건: 지금 매일 출근하면서 가장 동기부여되는게 머임?

샘: 지금은 가장 흥미롭고, 가장 중요하고, 제가할 인생에서 가장 멋진 일을 하고 있음. 정말 미친 것 같음. 근데 이게 길진 않을 것 같아서 다행임. 언젠간 은퇴해서 농장에서 이 시기를 추억하는 때가 오겠지만 동시에 "아.. 그때 진짜 개빡셌어" 할거같음

18. 로건: 그중에서 가장 초현실적인 순간이 있었다면 언제?

샘: 작년 11월(쿠데타) 사건 이후 그 담날인가 그 다다음날쯤 세계 주요 인물들, 대통령, 총리에게서 문자가 10~20개쯤 옴. 근데 '그게 이상하게' 느껴진 게 아니고, 그렇게 연락이 오는게 정상적으로 느껴진게 이상했음. 4일 반 동안 정말 미친듯이 바빴음. 잠도 거의 못자고 밥도 거의 못먹음. 근데도 에너지레벨은 높고 정신이 아주 맑고 집중력이 높았고 아드레날린이 샘솟았음. 그러다가 며칠동안 밥 안먹은게 깨닫고 음식점에 갔음. 메인디쉬 4개에 밀크쉐이크 2개 시킴. 헤비한 튀긴 요리였는데 혼자 다먹음. 완전 맛있었음. 그러고있는데 어떤 나라 대통령이 "모든 일이 잘 해결되서 다행이다"고 문자하고 많은 사람들이 연락함. 근데 이런 일들이 이상하다고 느껴지지 않았음.

로건: 흥미롭네

샘: 맞음. 인간은 적응의 동물임

19. 로건: 모델이 점점 더 똑똑해지면서 인간에게 남는게 뭐라고 생각하시는지

샘: 앞으로도 인간은 인간을 중요시할거라고 생각함. 인터넷보니까 다들 chatgpt랑 사랑할거라고 그러는데 전 그렇게 안봄. 우린 다른 사람에게 계속 집착할것

20. 샘: 저는 외부에서 경영진 데려오기보다 내부에서 승진시키는 편을 선호함. 단일 사내문화를 강화시킬수도 있지만 자체적으로 키운 인재를 승진시키는게 우리 독특함과 맞다고 생각.

21. 샘: 미래 대학교육은 AI를 도구로 '허용'하는 것이 아니라 반드시 사용하도록 해야할 것. 과제에도 AI 를 쓰게 해서 미래 기술이나 역량을 키우게 해야함. 마치 과거 학부때 계산기 못쓰게 했던게 말이 안되는 것처럼

22. 샘: 미래에는 한사람이 수백, 수천명의 일을 하게 될 것. 우리가 과학의 모든 것을 발견할지는 모르지만 과학의 모든 것을 발견할 수 있는거 아냐? 싶은 느낌이 들 것 같음. 그건 멋질거