4월 12일 진행된 팟캐스트

-

에즈라 클라인: 대략적으로 A.S.L. 3이 몇 년 후이고 A.S.L. 4가 몇 년 후인지 상상해보면 이 지수 확장 곡선에 대해 많은 생각을 해보셨을 겁니다. 추측을 해보자면 어떤 곡선인가요?

다리오 아모데이: 네, A.S.L. 3은 올해나 내년에 쉽게 일어날 수 있다고 생각합니다. 제 생각에는 A.S.L. 4가-

에즈라 클라인: 오, 맙소사.

다리오 아모데이: 아니, 아니, 말했잖아요. 전 기하급수적이라고 믿어요. 저는 2025년에서 2028년 사이에 A.S.L. 4가 발생할 수 있다고 생각해요.

에즈라 클라인: 빠르네요.

다리오 아모데이: 네, 아니요, 저는 정말 가까운 미래에 대해 이야기하고 있습니다. 50년 후를 말하는 게 아닙니다. "신이시여 순결함을 주소서. 지금은 아니지만". 하지만 '지금은 아니'라는 말은 제가 늙고 백발이 된 후를 의미하는 게 아닙니다. 가까운 미래일 수도 있죠. 모르겠어요. 제가 틀릴 수도 있죠. 하지만 가까운 시일 내에 가능할 것 같아요.

-

* ASL이란? 

 엔트로픽 사가 지정한 AI 안전 수준.

- ASL-1은 의미 있는 치명적인 위험을 초래하지 않는 시스템(예: 2018 LLM 또는 체스만 두는 AI 시스템)을 말합니다.

- ASL-2는 생물무기를 만드는 방법에 대한 지침을 제공하는 능력과 같이 위험한 능력의 초기 징후를 보이지만 신뢰성이 충분하지 않거나 검색 엔진이 제공할 수 없는 정보를 제공하지 않아 아직 유용하지 않은 시스템을 말합니다. Claude를 포함한 현재의 LLM은 ASL-2로 보입니다.

- ASL-3은 AI가 아닌 기준선(예: 검색 엔진이나 교과서)에 비해 치명적인 오용의 위험이 크게 증가하거나 낮은 수준의 자율 기능을 보이는 시스템을 말합니다.

- ASL-4 이상(ASL-5+)은 현재 시스템과 너무 차이가 나기 때문에 아직 정의되지 않았지만, 치명적인 오용 가능성과 자율성의 질적 상승을 수반할 가능성이 높습니다.

전문: https://www.nytimes.com/2024/04/12/podcasts/transcript-ezra-klein-interviews-dario-amodei.html