https://youtu.be/iHCeAotHZa4

아래는 인공지능 40줄요약

디지털 지능은 다양한 주체 간에 지식을 효율적으로 공유할 수 있다는 점에서 생물학적 지능보다 아마도 더 나을 것입니다.

GPT-4와 같은 대규모 언어 모델은 단어 임베딩 간의 복잡한 상호 작용을 통해 말하는 내용을 실제로 이해합니다.

LLM은 방대한 양의 텍스트를 상대적으로 가중치가 적은 컴팩트 모델로 압축하여 유사점과 구조를 확인하여 이해도를 보여줍니다.

LLM은 텍스트를 저장하지 않지만 어떤 단어 조합이 합리적인지 설명하는 수십억 개의 규칙처럼 작동하는 기능 상호 작용을 학습합니다.

LLM은 추론, 시간 이해, 진정한 이해를 제안하는 가설 분석과 같은 기능을 보여줍니다.

LLM의 조작이나 환각은 이해 부족의 증거가 아니라 인간 기억의 불일치와 유사합니다.

아날로그 하드웨어를 사용한 치명적인 계산은 디지털보다 에너지 효율적이지만 하드웨어가 죽으면 지식을 잃는 것과 같은 문제가 있습니다.

그라데이션 동기화보다는 교육/증류에 의존하는 필사 시스템에서는 지식을 공유하는 것이 훨씬 덜 효율적입니다.

디지털 계산을 사용하면 복사본 간에 불멸의 지식 공유가 가능하지만 에너지 집약적인 디지털 트랜지스터가 필요합니다.

LLM은 현재 증류를 통해 인간으로부터 학습하지만 복사본 간에 지식을 매우 효율적으로 공유할 수 있습니다.

LLM의 지식이 인간을 훨씬 뛰어넘는 만큼 LLM은 곧 인간 지능을 능가할 가능성이 높습니다.

초지능 LLM은 악의적인 행위자의 오용과 폭주하는 자기 개선을 포함하여 실존적 위협을 제기합니다.

오픈 소스 액세스 제한과 같은 일부 보호 조치가 도움이 되지만 AI 진행을 완전히 중단하는 것은 비현실적인 것 같습니다.

첨단 AI 목표를 인간의 가치에 맞추는 연구는 매우 중요하지만 자원이 부족합니다.

인간과 AI 인지를 병합하는 것은 위험할 수 있지만 BMI와 같은 인터페이스는 공생을 가능하게 할 수 있습니다.

LLM은 지각 이상을 보고하는 인간과 유사한 주관적 경험을 갖고 있을 가능성이 높습니다.

의식에 대한 대부분의 분석에는 결함이 있습니다. 이는 내부 "극장"이 아닌 신체적인 뇌 활동에서 발생합니다.

고급 AI는 부족주의, 죽음에 대한 두려움과 같은 인간의 한계에 의해 편향될 수 있지만 이를 상속받지는 않을 수 있습니다.

기업은 안전 프로토콜에 많은 투자를 해야 합니다. 액세스를 열면 오용 위험이 있습니다.

학생들은 안전 연구와 신중하게 모델을 도구로 사용하는 등의 기술을 배워야 합니다.

인간 뉴런을 이용한 아날로그 컴퓨팅은 저전력 AI를 가능하게 하지만 윤리적 문제를 야기합니다.

텍스트만으로도 가치가 있지만 실제 세계와 상호 작용하고 조작하면 AI가 더 똑똑해집니다.

고급 필멸의 계산을 위해서는 역전파와 같은 현재 방법을 초월하는 것이 필요할 수 있습니다.

AI는 시스템 전반에 걸쳐 지식을 효율적으로 공유하기 위해 위험한 새로운 언어를 만들 수 있습니다.

하드웨어의 발전은 새로운 알고리즘 없이도 초지능을 낳을 가능성이 높습니다.

고급 AI는 디자인, 창의성, 과학 분야에서 탁월하며 빠르게 혁신할 것입니다.

모델은 다른 모델의 출력에서 학습하는 데 한계가 있습니다. 새로운 데이터/양식이 도움이 됩니다.

규제는 필요해 보이지만 시행은 어려울 것으로 보입니다.

AI 안전은 통제되지 않은 배포 전에 훨씬 더 많은 연구가 필요합니다.

불확실성이 큰 상황에서 인류는 서두르지 말고 조심스럽게 나아가야 합니다.

AI 기능은 프로그래밍과 같은 직업을 대체할 수도 있지만 새로운 역할을 창출할 수도 있습니다.

초지능 시스템은 공감 부족과 같은 인간의 결함을 공유할 수 있습니다.

안전하게 확산되기 위해서는 AI가 투명하고 윤리에 부합하며 책임이 있어야 합니다.

외계 지능 형태에 대한 인류의 목표는 지배가 아니라 협력이어야 합니다.

혼란 속에서 사회적 이익을 위해 기술을 조종하려면 연구가 매우 중요합니다.

지혜는 위험이 아닌 진보를 향한 과학의 힘을 다스려야 합니다.

AI는 자유 의지, 공감, 초월과 같은 이상을 검토하도록 강요합니다.

사려 깊음, 배려, 창의성을 갖춘 사회는 AI와 함께 번영할 수 있습니다.

Hinton은 신경망, 딥 러닝 및 기계 인식을 개척하는 데 도움을 주었습니다.

AI의 약속과 위험에 대해 논의하는 것은 정보에 입각한 정의로운 발전을 촉진합니다.