자유지상주의[편집]

자유주의적 시나리오는 지능 있는 기계, 업로드된 인간, 사이보그, 강화되지 않은 인간이 존중에 초점을 맞춘 틀 안에서 평화롭게 공존할 것이라고 가정한다 재산권. 산업 생산성이 더 이상 희소한 인간 노동에 의해 제한되지 않기 때문에 토지 가치는 상품 가격에 비해 치솟습니다. 토지를 소유하거나 상속받은 남아있는 "러다이트(Luddite)" 인간들조차도, 토지의 일부를 더 생산적인 로봇에게 팔거나 임대할 수 있어야 하며, 그 대가로 그들의 모든 기본적인 재정적 필요를 쉽게 무기한으로 충족시킬 수 있을 만큼 충분한 영구 연금을 받을 수 있어야 한다. ^[8] 그런 사람들은 자신이 원하는 만큼 살 수 있으며, 경제적 걱정 없이 쾌락이나 자아실현을 위해 상상할 수 있는 거의 모든 활동에 자유롭게 참여할 수 있다. 첨단 기술은 완전히 새로운 형태의 사고와 경험을 가능하게 하며, 따라서 가능한 감정의 팔레트를 더해 줍니다. 미래의 사람들은 끝없는 "행복의 그라데이션"을 경험할 수도 있습니다. ^[19]

진화는 더 큰 복잡성, 더 큰 우아함, 더 큰 지식, 더 큰 지성, 더 큰 아름다움, 더 큰 창의성, 그리고 사랑과 같은 더 높은 수준의 미묘한 속성들을 향해 나아간다. 모든 유일신 전통에서 신은 마찬가지로 무한한 지식, 무한한 지성, 무한한 아름다움, 무한한 창조성, 무한한 사랑 등과 같은 어떤 제한도 없이 이 모든 자질로 묘사된다. 물론 진화의 가속화된 성장조차도 결코 무한한 수준에 도달하지는 못하지만, 기하급수적으로 폭발하는 진화는 분명 그 방향으로 빠르게 움직인다. 그래서 진화는 하느.님에 대한 이러한 개념을 향하여 거침없이 움직이지만, 결코 이 이상에 도달하지는 못한다. 그러므로 우리는 생물학적 형태의 심각한 한계로부터 우리의 사고를 해방시키는 것을 본질적으로 영적인 과업으로 간주할 수 있다. ^[19][20]

이러한 탈중앙화 시나리오는 장기적으로 불안정할 수 있는데, 초지능 계급의 가장 탐욕스러운 요소들이 강화되지 않은 계급의 재산을 강탈할 수단과 동기를 모두 가지고 있기 때문이다. 법적 재산권을 보장하는 메커니즘이 깨지지 않고 허점이 없다 하더라도, 인간과 사이보그가 가장 영리한 초지능 기계에 의해 자신.도 모르게 자신의 재산에 서명하도록 "속아서" 발생할 위험이 항상 존재할 수 있습니다. 재산이 없는 지각 있는 존재는 죽을 수 있고, 어떤 메커니즘도 존재가 자신의 상속 가능한 자원의 한계까지 번식하는 것을 막을 수 없기 때문에 고통이 널리 퍼져 있을 수 있으며, 그 결과 그 존재의 후손 중 다수가 최소한의 생계를 유지하며 살아갈 수 있습니다. ^[8]🔟[21]

심장이 쿵쾅거리고, 근육이 쑤시고, 폐가 숨을 헐떡이는 가파른 경사의 러닝머신에서 달리는 것을 상상해 보십시오. 타이머를 한 눈에 볼 수 있습니다: 당신의 죽음이기도 한 다음 휴식은 49년 3개월 20일 4시간 56분 12초 후입니다. 당신은 당신이 태어나지 않았으면 좋겠다. ^[9]

공.산주.의[편집]

이 섹션은 확장이 필요합니다. 당신은 그것에 추가하여 도울 수 있습니다. (2024년 3월)

레이 커즈와일(Ray Kurzweil)은 공.산주.의의 목표가 21세기의 첨단 기술 발전에 의해 실현될 것이라고 가정하며, 소프트웨어와 하드웨어의 낮은 제조 비용, 물질적 풍요, 오픈 소스 디자인 철학의 교차점은 "각자의 능력에 따라, 각자의 필요에 따라"라는 격언의 실현을 가능하게 할 것입니다. ^[22]

자비로운 독재자[편집]

유토피아 arche04, 2010

이 시나리오에서는 초지능 인공 지능이 사회를 통제하지만 유익한 방식으로 행동한다고 가정합니다. 프로그래머들은 마감 시한이 지났음에도 불구하고 다루기 어려워 보였던 유사 철학적 문제를 해결하고 다음과 같은 목표를 가진 AI를 만들었습니다. 그리고 그 유토피아를 구현하기 위해서죠. AI는 인간의 번영에 대한 미묘하고 복잡한 정의에 도달합니다. 다양성을 중시하고 사람마다 선호도가 다르다는 것을 인식하는 AI는 지구를 여러 부문으로 나눕니다. 다른 사람을 해치거나, 무기를 만들거나, 감시를 피하거나, 라이벌 초지능을 만들려고 시도하는 것은 전 세계적으로 금지되어 있습니다. 그 외에도 각 부문은 자체 법률을 자유롭게 만들 수 있습니다. 예를 들어, 종.교인은 자신의 종.교에 해당하는 "경건한 구역"에서 살기로 선택할 수 있으며, 그곳에서는 적절한 종.교 규칙이 엄격하게 시행됩니다. 모든 분야에서 질병, 빈곤, 범죄, 숙취, 중독 및 기타 모든 비자발적 고통이 제거되었습니다. 많은 분야가 "전형적인 공상 과학 소설의 비전을 상대적으로 창백하게 만드는" 고급 건축과 스펙터클을 자랑합니다. ^[8] 인생은 "모든 것을 포함하는 유람선",^[8] 마치 "1년 365일 크리스마스"인 것처럼. ^[23]

AI가 발견한 궁극적인 물리 법칙에 대해 배우기 위해 지식 부문에서 강렬한 일주일을 보낸 후 주말 동안 쾌락주의 부문에서 휴식을 취한 다음 야생 동물 부문의 해변 리조트에서 며칠 동안 휴식을 취하기로 결정할 수 있습니다. ^[8]

그럼에도 불구하고 많은 사람들이 불만족스러워하고 있다고 Tegmark는 씁니다. 인간은 자신의 집단적 운명을 결정할 자유가 없다. 어떤 사람들은 원하는 만큼 자녀를 가질 수 있는 자유를 원합니다. 다른 사람들은 AI의 감시에 분개하거나 무기 금지와 더 많은 초지능 기계 개발에 불만을 품습니다. 또 어떤 사람들은 자신이 내린 선택을 후회하게 될 수도 있고, 자신의 삶이 공허하고 피상적으로 느껴질 수도 있습니다. ^[8]

보스트롬은 AI의 윤리 강령이 현재의 도덕적 행동 규범에 대해 이상적으로 개선되어야 한다고 주장하는데, 이는 우리가 현재의 도덕이 이전 노예 시대의 도덕보다 우월하다고 간주하는 것과 같은 방식이다. 이와는 대조적으로, 뉴욕 대학의 어니스트 데이비스(Ernest Davis)는 이러한 접근이 너무 위험하다고 말하며, "나는 2014년의 도덕성이나 1700년의 도덕성에 의해 인도되는 초지능의 손에서, 그 문제를 스스로 고려하기로 결정한 사람의 손에 있는 것보다 더 안전하다고 느낀다"고 말했다. ^[24]

게이트키퍼 AI[편집]

"게이트키퍼" AI 시나리오에서 AI는 라이벌 초지능이 생성되는 것을 막는 역할을 할 수 있지만, 그렇지 않으면 인간이 자신의 운명을 스스로 창조하도록 허용하는 실수를 범합니다. ^[8] OpenCog의 Ben Goertzel은 AI가 인간이 스스로를 파괴하는 것을 방지하는 데 약간의 책임을 추가로 지는 "Nanny AI" 시나리오를 옹호했습니다(예: 사회가 보다 사려 깊고 신중한 방식으로 발전할 수 있는 시간을 주기 위해 기술 진보를 늦추는 것). ^[8][25] 세 번째 시나리오에서, 초지능 "수호자" AI는 자신의 존재에 대한 모든 지식을 숨기거나 지워 인간에게 통제의 환상을 주지만, 긍정적인 결과를 보장하기 위해 뒤에서 일한다. 세 가지 시나리오 모두에서, 인류는 더 많은 통제권을 얻지만(또는 적어도 통제의 환상), 인류는 AI가 인류에게 첨단 기술의 모든 혜택을 쏟아붓는 데 제한이 없을 때보다 더 느리게 발전하게 됩니다. ^[8]

박스형 인공지능[편집]

판도라의 상자
(19세기 판화)

사람들은 인간과 기계의 관계가 무엇이냐고 묻는데, 내 대답은 아주 명백하다는 것이다: 기계는 우리의 노예다. ^[26]

AI 박스 시나리오는 초지능 AI가 "박스에 갇힐 수 있고" 그 행동이 인간 게이트키퍼에 의해 제한될 수 있다고 가정합니다. 담당 인간은 AI가 세상을 장악하는 것을 허용하지 않고 AI의 과학적 돌파구나 추론 능력 중 일부를 활용하려고 할 것입니다. 성공적인 게이트키핑은 어려울 수 있습니다. AI가 지능이 높을수록 AI는 "소셜 해킹"을 사용하여 게이트키퍼를 설득하여 탈출하거나 예상치 못한 물리적 탈출 방법을 찾을 수 있는 영리한 방법을 찾을 가능성이 높아집니다. ^[27][28]

인간-AI 합병[편집]

커즈와일은 미래에는 "특이점 이후에는 인간과 기계, 또는 물리적 현실과 가상 현실 사이의 구분이 없을 것"이라고 주장한다. ^[29]

인류 멸종[편집]

지배적인 초지능 기계가 인간의 생존이 불필요한 위험이나 자원 낭비라고 결론을 내린다면, 그 결과는 인류의 멸종이 될 것이다. 이는 인간의 가치를 존중하지 않고 프로그래밍된 기계가 재귀적 자기 개선을 통해 예기치 않게 초지능을 얻거나 AI Box 시나리오에서 격리에서 탈출하는 데 성공할 때 발생할 수 있습니다. 이는 최초의 초지능 AI가 인간의 가치에 대한 불완전하거나 부정확한 이해로 프로그래밍된 경우에도 발생할 수 있는데, 이는 AI에 인간의 가치를 주입하는 작업이 너무 어렵거나 불가능하기 때문입니다. AI의 버그가 있는 초기 구현으로 인해; 또는 코드 기반을 개선하는 과정에서 인간 프로그래머 또는 자체 개선 AI 자체에 의해 우연히 도입된 버그로 인해 발생합니다. 보스트롬과 다른 연구자들은 인공지능의 안전에 대한 실질적인 사전 조치가 없는 상황에서 인류의 멸종이 현재 사회가 취하고 있는 "기본 경로"일 것이라고 주장한다. 그 결과로 생성된 AI는 지각이 없을 수도 있고, 지각이 있는 생명체에 가치를 부여하지 않을 수도 있습니다. 그 결과 생명이 없는 텅 빈 세상은 "아이가 없는 디즈니랜드"와 같을지도 모른다. ^[9]

동물원[편집]

Humans Need Not Apply: A Guide to Wealth and Work in the Age of Artificial Intelligence의 저자 Jerry Kaplan은 인간이 침팬지와 같은 멸종 위기에 처한 종을 보존하는 것처럼 인간을 사육하거나 보호 구역에 보관하는 시나리오를 상정합니다. ^[30] 애플의 공동 창업자이자 AI 회의론자인 스티브 워즈니악은 2015년에 인간이 로봇의 애지중지하는 애완동물이 될 것이라고 믿는다는 이유로 로봇이 인수하는 것이 실제로 "인류에게 좋을 것"이라고 말했습니다. ^[31]

양키 위키퍼거아에는 이런 문서도 잇네여 ㅇㅅㅇ

역시 문명 이끄는건 양키넘들 ㅇㅅㅇ

똥양인들 머하나여 

분발하세여 ㅇㅅㅇ

ㅇㅅㅇ