https://www.youtube.com/watch?v=jvqFAi7vkBc

렉스 프리드만: 네. 당신과 인류가 언제쯤 AGI를 만들 것이라고 생각하나요?

샘 알트먼: 예전에는 그 질문에 대해 추측하는 걸 좋아했어요. 하지만 그 질문이 매우 잘못 만들어졌다는 걸 깨달았죠. 사람들이 AGI가 무엇인지에 대해 매우 다른 정의를 사용하거든요. 그래서 우리가 언제 이 모호한 이정표를 지나갈 것인지에 대해 이야기하는 것보다, 우리가 언제 X, Y, Z 능력을 가진 시스템을 만들 수 있을지에 대해 이야기하는 게 더 의미 있다고 생각해요. AGI는 끝이 아니에요. 그것은 오히려 시작에 가깝죠. 하지만 그것은 이 둘 중 어느 것보다도 이정표에 가깝습니다. 하지만 질문을 회피하려는 게 아니라는 점을 말씀드리고 싶네요. 제 생각에는 이번 10년이 끝나기 전, 아마도 그보다 조금 더 빨리 우리는 꽤 유능한 시스템을 갖게 될 거예요. 우리가 보고 "와, 정말 놀랍군." 하고 말할 만한 시스템 말이에요. 만약 우리가 지금 그것을 볼 수 있다면요. 우리가 거기에 도달할 때쯤이면 적응했을지도 모르겠네요.

렉스 프리드만: 하지만 ChatGPT 3.5만 봐도, 앨런 튜링에게 보여주면, 아니 앨런 튜링은 둘째치고 90년대 사람들에게 보여주면 "이건 분명히 AGI야." 라고 할 거예요. 음, 확실히는 아니겠지만, 이것이 AGI라고 말할 전문가들이 많을 거예요.

샘 알트먼: 그렇죠. 하지만 3.5가 세상을 바꾸지는 않았다고 봅니다. 그것은 아마도 미래에 대한 세계의 기대를 바꿨을 거예요. 그리고 그건 사실 정말 중요하죠. 그리고 그것은 더 많은 사람들이 이것을 진지하게 받아들이고 우리를 이 새로운 궤도에 올려놓았어요. 그것도 정말 중요합니다. 그래서 다시 말하지만, 저는 그것을 과소평가하고 싶지 않아요. 저는 그 성과 후에 은퇴해도 제 경력에 꽤 만족할 수 있을 것 같아요. 하지만 결과물로서 우리는 그것을 돌아보며 "저것이 세계 자체를 진정으로 바꾼 전환점이었어." 라고 말하지는 않을 것 같아요.

렉스 프리드문: 그래서 당신은 세계가 어떻게 크게 변화하는지를 찾고 있는 건가요?

샘 알트먼: 제게는 그것이 AGI가 의미하는 바의 일부입니다.

렉스 프리드만: 특이점 수준의 전환인가요?

샘 알트먼: 아뇨, 절대 아니에요.

렉스 프리드만: 하지만 인터넷처럼 아주 큰, 구글 검색과 같은 전환점이 있을까요? 지금 어떤 전환점이 있다고 생각하나요?

샘 알트먼: GPT-4를 발표하기 전과 비교했을 때 세계 경제가 당신에게 실질적으로 다르게 느껴지나요? 저는 아니라고 말할 것 같네요.

렉스 프리드만: 아니요, 아니에요. 그냥 많은 사람들이 사용하기에 정말 좋은 도구일 수는 있겠죠. 많은 일에 도움이 될 테니까요. 하지만 크게 달라 보이지는 않아요. 당신이 말하는 건...

샘 알트먼: 사람들이 AGI를 다양한 방식으로 정의하잖아요. 그래서 당신은 저와 다른 정의를 가지고 계실지도 모르겠어요. 하지만 제게는 그것이 그 정의의 일부여야 한다고 봅니다.

렉스 프리드만: 극적인 순간들도 있을 수 있겠죠. AGI가 하면 인상적일 만한 일이 뭐라고 생각하세요? 당신이 시스템과 단둘이 있는 상황이라면요.

샘 알트먼: 이건 제게 개인적으로 중요한 부분이에요. 이게 옳은 정의인지는 모르겠어요. 하지만 어떤 시스템이 세상의 과학적 발견 속도를 크게 높일 수 있을 때, 그건 엄청난 일이라고 봅니다. 저는 진정한 경제 성장의 대부분이 과학적, 기술적 진보에서 온다고 믿거든요.

렉스 프리드만: 동의합니다. 그래서 최근 몇 년 동안 과학에 대한 회의론을 좋아하지 않아요.

샘 알트먼: 맞아요.

렉스 프리드만: 하지만 실제로 측정 가능한 과학적 발견의 속도 말이에요. 하지만 그냥 시스템이 정말 참신한 직관, 과학적 직관을 갖는 것만으로도 놀라울 거예요.

샘 알트먼: 그렇죠.

렉스 프리드만: 아마도 당신이 다른 사람보다 먼저 AGI와 상호작용할 수 있는 AGI를 만들 사람일 가능성이 높아요. AGI와 어떤 주제에 대해 이야기 나누고 싶나요?

샘 알트먼: 음, 여기 연구원들이 저보다 먼저 그럴 거예요. 하지만 사실 저도 이 질문에 대해 많이 생각해봤어요. 우리가 앞서 이야기했듯이 이것은 나쁜 프레임워크라고 생각하지만, 누군가 "좋아, 샘, 우리 끝냈어. 여기 노트북 있어. 이게 AGI야. 가서 이야기 나눠봐." 라고 한다면, 제가 처음의 그 AGI가 대답할 수 있을 거라 기대하는 것이 무엇일지 말하기가 의외로 어려워요. 첫 AGI에 "물리학의 대통일 이론, 모든 것의 이론을 설명해봐." 라고 해서 할 수 있을 거라고는 생각하지 않아요. 저는 그 질문을 묻고 싶어요. 그 질문에 대한 답을 알고 싶거든요.

렉스 프리드만: "그런 이론이 존재하나요? 존재할 수 있을까요?" 와 같은 예/아니오 질문을 할 수 있겠죠.

샘 알트먼: 그럼 그게 제가 먼저 물어볼 질문이겠네요.

렉스 프리드만: 예/아니오로요. 그리고 그에 따라 "다른 외계 문명이 있을까요? 예/아니오? 직관이 뭔가요?" 라고 물어보고요. 그냥 그렇게 물어보면 되겠네요.

샘 알트먼: 글쎄요, 저는 이 첫 번째 AGI가 그런 질문들에 예/아니오로도 답할 수 있으리라고는 기대하지 않아요. 하지만 그럴 수 있다면 그것들이 제 목록에서 아주 높은 순위에 있을 거예요.

렉스 프리드만: 아마 확률을 부여하기 시작할 수 있겠죠?

샘 알트먼: 어쩌면요. 어쩌면 우리는 먼저 더 많은 기술을 발명하고 더 많은 것들을 측정해야 할지도 모르죠.

렉스 프리드만: 아, 그렇군요. 그냥 충분한 데이터가 없다는 거네요. 계속 하다 보면...

샘 알트먼: 글쎄요, 아마 이런 말을 할지도 몰라요. "이 물리학 질문에 대한 답을 알고 싶다면, 이 기계를 만들고 이 5가지 측정을 해서 그 결과를 알려줘."

렉스 프리드만: 네, "대체 나한테 뭘 바라는 거야? 먼저 기계가 필요해. 그러면 그 기계에서 나오는 데이터를 처리하는 걸 도와줄게." 어쩌면 기계를 만드는 것도 도와줄지 몰라요.

샘 알트먼: 어쩌면요. 어쩌면요.

렉스 프리드만: 수학적인 측면에서는 어떤 것들을 증명해줄 수도 있겠죠. 그쪽에도 관심 있나요? 아이디어를 형식화해서 탐구하는 것 말이에요.

샘 알트먼: 음...

렉스 프리드만: 누구든 AGI를 가장 먼저 만드는 사람은 엄청난 권력을 갖게 될 거예요. 당신은 권력을 가진 자신을 신뢰하나요?

샘 알트먼: 이 질문에는 솔직하게 대답하죠. 저나 다른 그 어떤 사람도 OpenAI나 AGI에 대해 완전한 통제권을 가져서는 안 된다고 말하려고 했고, 저는 여전히 그렇게 믿고 있어요. 견고한 거버넌스 시스템이 필요하다고 봅니다. 작년에 있었던 이사회 극에 대해 제가 처음에는 싸우지 않았고, 그냥 "그래, 그게 이사회의 의지야. 내 생각엔 정말 나쁜 결정이지만." 이라고 했던 것을 지적할 수 있어요. 그리고 나중에는 분명히 싸웠죠. 그리고 제가 나중에 싸운 게 괜찮았다고 생각하는 이유와 뉘앙스를 설명할 수 있어요. 하지만 많은 사람들이 지적했듯이 이사회가 법적으로 저를 해고할 능력이 있었음에도 실제로는 그렇게 하지 않았어요. 그리고 그것 자체가 일종의 거버넌스 실패죠.

이제 다시 말하지만, 여기서 세부사항에 대해서는 완전히 변호할 수 있다고 느끼고, 대부분의 사람들도 그에 동의할 거라고 생각해요. 하지만 그것 때문에 제가 당신을 똑바로 쳐다보며 "이사회가 그냥 저를 해고할 수 있어요." 라고 말하기가 더 어려워졌어요. 저는 계속해서 OpenAI에 대한 초강력 의결권 통제를 원하지 않아요. 한 번도 그런 적이 없었고, 원하지도 않았죠. 이 모든 미친 짓 후에도 저는 여전히 그걸 원하지 않아요. 어떤 회사도 이런 결정을 내려서는 안 된다고 계속 생각하고 있고, 정부가 정말로 길을 갈 수 있는 규칙을 마련해야 한다고 봅니다.

그리고 그 말은 마크 앤드리슨 같은 사람들이 제가 규제 포획을 하려 한다고 주장할 거란 걸 알아요. 그리고 전 그렇게 오해받을 각오가 되어 있어요. 그건 사실이 아니에요. 그리고 시간이 지나면 왜 이것이 중요한지가 입증될 거라고 봅니다. 하지만 저는 OpenAI를 위해 수많은 나쁜 결정을 내렸고, 많은 좋은 결정도 내렸어요. 그리고 전반적인 성과에 대해 자부심을 느껴요. 하지만 그 어떤 한 사람도 AGI를 통제해서는 안 된다고 생각하고, 그 어떤 한 사람도 AGI로 향하는 이 모든 움직임을 통제해서는 안 된다고 봅니다. 그리고 그런 일은 일어나지 않을 거예요. 이제 그건 너무 큰 일이 되었고, 사회 전반에 걸쳐 좋고 건강한 방식으로 일어나고 있거든요. 하지만 그 어떤 한 사람도 AGI를 통제하고 있지 않다고 봅니다. 그런 일은 일어나고 있지 않아요.

렉스 프리드만: 그 말씀 감사드려요. 정말 강력했고, 통찰력 있는 말씀이었어요. 이사회가 당신을 해고할 수 있다는 생각은 법적으로는 사실이에요. 하지만 인간은 대중을 조종해 이사회를 무시할 수 있고요. 하지만 저는 그보다 훨씬 더 긍정적인 버전이 있다고 봐요. 사람들에겐 여전히 힘이 있으니까요. 그러니 이사회도 너무 강력해서는 안 돼요. 이 모든 것의 균형이 있어야 해요.

샘 알트먼: 힘의 균형은 분명 좋은 거예요.

렉스 프리드만: AGI 자체에 대한 통제력을 잃는 게 두렵진 않나요? 많은 사람들이 국가 행위자들 때문이 아니라, 보안 문제 때문도 아니라, AI 자체 때문에 실존적 위험을 우려하고 있어요.

샘 알트먼: 그건 제가 현재 상황을 보는 데 있어 가장 큰 걱정거리는 아니에요. 그것에 대해 더 걱정했던 때도 있었죠. 앞으로 그게 제 최대 걱정거리가 될 때가 다시 올지도 몰라요. 하지만 지금 당장은 아니에요.

렉스 프리드만: 그게 당신의 걱정거리가 아닌 이유에 대한 직감이 뭔가요? 본질적으로 걱정할 다른 것들이 많이 있어서 그런가요? 놀랄 수도 있다고 생각하시나요? 우리는...

샘 알트먼: 물론이죠.

렉스 프리드만: 놀랄 수 있겠죠?

샘 알트먼: 당연하죠. 그게 제 최대 걱정거리가 아니라고 해서 우리가 그것에 대해 고민할 필요가 없다는 뜻은 아니에요. 우리가 그것에 대해 노력해야 한다고 생각해요. 그건 매우 어렵고, 우리에겐 그 분야에서 일하는 훌륭한 사람들이 있죠. 우리가 제대로 해내야 할 다른 많은 것들도 있다고 봅니다.

렉스 프리드만: 당신에게는 지금 당장 상자에서 빠져나가 인터넷에 연결하는 게 그렇게 쉽지 않은 거군요.

샘 알트먼: 우리는 앞서 연극적인 위험에 대해 이야기했죠. 그건 연극적인 위험이에요. 그건 사람들이 이 문제에 대해 생각하는 방식을 정말 장악할 수 있는 것이죠. 그리고 매우 똑똑하고 선의를 가진 AI 안전 연구자들의 큰 무리가 있는데, 아마도 그다지 진척은 없었겠지만 이 하나의 문제에 매우 사로잡혀 있어요. 사실 그들이 그렇게 하는 걸 기쁘게 생각해요. 우리가 이에 대해 더 생각해봐야 한다고 보거든요. 하지만 그것이 AI 관련 다른 매우 중대한 위험들에 대한 담론의 공간을 밀어냈다고 봅니다.

렉스 프리드만: Sora가 시뮬레이션 세계를 만들어낼 수 있다는 걸 생각하면, 약간 약빤 질문 하나 해도 될까요? 우리가 시뮬레이션, 아마도 AI 시스템이 만들어낸 시뮬레이션 세계에 살고 있다는 당신의 믿음이 더 강해졌나요? 그런 적이 있다면 말이에요.

샘 알트먼: 어느 정도는요. 그게 가장 강력한 증거는 아니라고 봅니다. 우리가 세계를 만들어낼 수 있다는 사실이 모든 사람의 가능성을 어느 정도는 높여줘야 한다고 생각해요. 적어도 그것에 대해 어느 정도 열린 자세를 가지게 해줘야 하죠. 하지만 언젠가는 우리가 Sora 같은 걸 할 수 있으리라고 확신했어요. 제가 생각했던 것보다 더 빨리 일어났지만, 그건 큰 변화는 아니었던 것 같아요.

렉스 프리드만: 그렇죠. 하지만 우리가 참신하고, 어느 정도는 학습 데이터에 기반하지만 보면 새로운 세계를 만들어낼 수 있다는 사실이, 이런 일을 하는 게 얼마나 쉬운지 생각하게 만들어요. 전체 비디오 게임 세계를 만드는 게 얼마나 쉬운지요. 그 세계들은 초현실적이고 사진같이 실제 같아 보이죠. 그리고 VR 헤드셋으로 먼저, 그 다음엔 물리 기반 수준에서 그 세계에 빠져드는 게 얼마나 쉬운지요.

샘 알트먼: 최근에 누군가 제게 말했는데, 저는 그게 엄청나게 심오한 통찰이라고 생각했어요. 때로는 단순해 보이지만 아주 환각적인 통찰들이 존재한다는 거죠. 제곱근 함수, 4의 제곱근은 문제없어요. 2의 제곱근은, 좋아요, 이제 이 새로운 종류의 숫자에 대해 생각해봐야겠네요. 하지만 일단 어린아이에게도 설명할 수 있고 간단한 기하학으로도 존재하는 이 쉬운 제곱근 함수 아이디어를 생각해내고 나면, "음수 1의 제곱근은 뭘까?" 라는 질문을 던질 수 있게 되죠. 그리고 이게 바로 환각적인 이유예요. 그건 당신을 어떤 다른 종류의 현실로 빠뜨리거든요.

그리고 많은 다른 예시들도 생각해볼 수 있겠지만, 이 초라한 제곱근 연산자가 그렇게 심오한 통찰과 새로운 지식의 영역을 제공할 수 있다는 생각이 많은 면에서 적용된다고 봅니다. 그리고 저는 사람들이 시뮬레이션 가설의 어떤 버전이 전에 생각했던 것보다 더 그럴듯할 수 있다고 생각하게 만드는 그런 연산자들이 많이 있다고 봅니다. 하지만 제게는 Sora가 작동했다는 사실이 상위 5개 안에 들지는 않네요.