https://youtu.be/Gi_t3v53XRU?si=2PBA1SrPqxpPZylb

What if Dario Amodei Is Right About A.I.?

Back in 2018, Dario Amodei worked at OpenAI. And looking at one of its first A.I. models, he wondered: What would happen as you fed an artificial intelligenc...

youtu.be

AI 기술은 지수적으로 발전하고 있으며, 그 속도는 사회가 인지하는 것보다 훨씬 빠름

2-5년 내에 SF 영화에서나 볼 법한 수준의 AI가 출현할 것으로 예상됨

AI의 설득력이 인간 수준에 근접하고 있어, 정치적 선동 등에 악용될 위험이 있음

AI 개발에는 막대한 비용이 들어 대기업이나 국가만 개발 가능해질 전망

AI로 인해 기존 산업과 일자리에 큰 변화가 올 것이며, 새로운 경제 구조가 필요해질 것임

AI로 인한 에너지 소비 급증도 우려되는 부분

AI의 발전 속도를 고려할 때 정부 차원의 적극적인 규제와 거버넌스가 시급함

--

Dario Amodei는 Anthropic에서 개발 중인 AI 시스템의 발전 속도를 바탕으로 AGI(Artificial General Intelligence)의 도래 시기에 대해 다음과 같은 예측을 내놓았습니다.

현재 Anthropic에서는 AI 시스템의 위험도를 4단계(ASL1~4)로 구분하고 있습니다. ASL3 단계는 생물학이나 사이버 기술의 오용 위험과 관련되어 있고, ASL4 단계는 자율성이나 설득력 등 AGI에 근접한 수준의 위험 요인과 연관되어 있습니다.

Amodei는 ASL3 단계의 AI는 올해나 내년 중 출현할 것이며, ASL4 단계의 AI는 2025년에서 2028년 사이에 나타날 것으로 전망했습니다. 특히 그는 2027년경이 되면 AI로 인해 심각한 사회적 혼란이 야기될 수 있다고 우려했습니다.

하지만 그는 이러한 예측이 불확실성을 내포하고 있으며, 실제로는 AI의 발전 속도가 더 빠르거나 느릴 수 있다는 점도 강조했습니다. 다만 현재의 추세라면 10년 내에는 AGI 수준의 AI가 출현할 것이라는 점은 분명해 보인다고 말했습니다.

이처럼 Amodei는 AGI의 도래를 2020년대 후반으로 보는 비교적 빠른 시기를 전망하고 있습니다. 다만 그는 AGI의 개념 자체에 대해서는 유보적인 입장을 보였는데, 그는 인간 수준의 지능을 보유한 AI가 하나의 형태로 갑자기 출현하기보다는 특정 분야의 AI 시스템들이 발전하면서 사회 전반에 걸쳐 광범위한 영향을 미치게 될 것이라고 내다봤습니다.

* ASL 레벨

현재 클로드3 포함 LLM은 ASL-2 수준

https://www.anthropic.com/news/anthropics-responsible-scaling-policy