https://www.youtube.com/watch?v=N1TEjTeQeg0

인공지능요약

지능을 위한 두 가지 패러다임: 논리/기호적 신경망과 생물학에서 영감을 받은 신경망
인공 신경망이 특징을 감지하는 레이어와 함께 작동하는 방식 설명
이미지에서 객체 인식을 위해 신경망을 사용한 2012년의 획기적인 성과
신경망이 이제 이미지 캡션을 인식하고 언어를 이해할 수 있게 되었습니다.
현재의 대규모 언어 모델의 조상인 1985년 단순 언어 모델 설명
이 모델에서 의미에 대한 기호 및 특징 기반 이론을 통합했습니다.
대규모 언어 모델은 특징과 상호 작용을 학습함으로써 진정으로 이해한다고 주장함
자동완성이나 모방에 불과하다는 이의 제기 해결
언어 모델이 추론하고 상식을 갖는 예시를 보여줍니다.
강력한 AI의 위험성: 가짜 미디어, 일자리 손실, 감시, 자율 무기, 범죄

초지능 AI가 인류를 멸종시킬 수 있는 장기적 실존적 위험
AI는 목표를 보다 효과적으로 달성하기 위해 더 많은 통제권을 확보하려는 하위 목표를 추구할 수 있습니다.
경쟁하는 초지능 AI는 파괴적인 진화 역학으로 이어질 수 있습니다.
초지능까지 50~100년은 더 걸릴 것으로 생각했던 인공지능
AI를 더 뇌와 비슷하게 만들면 개선될 것으로 생각
디지털 모델이 이미 두뇌의 능력과 비슷하거나 능가할 수 있다는 사실 깨달음
디지털 계산의 장점: 불멸성, 다양한 하드웨어에서 실행 가능
"저전력 아날로그 하드웨어를 사용하는 '필멸의 연산'이 더 효율적일 수 있음
도전 과제: 알고리즘 학습, 지식 전달, 사망률
디지털 모델은 전체 무게 사본을 공유할 수 있어 신속한 지식 전달 가능
디지털 AI가 20~100년 안에 생물학적 지능을 능가할 것이라는 결론 도출
초지능을 통제하는 것은 매우 어려울 수 있음