제프리 힌튼 최신 인터뷰 - 특이점이 온다 마이너 갤러리

특이점이 온다 갤러리
마이너

기술적 특이점에 대해 의논하고 그와 관련된 과학 기술 정보와 소식을 공유하는 갤러리입니다. *갤러리 이름은 동명의 레이 커즈와일의 저서 <특이점이 온다 (The singularity is near)>를 의미합니다.

매니저

특갤용(118wshxhtx5h)

부매니저

ㅇㅇ(hamaster) 부패하는유전자!!!(sansss20…) 부재중입니다.(hnn12) 은바다(nmra3fmz…)

개설일

2019-08-01

[정보] 제프리 힌튼 최신 인터뷰모바일에서 작성

ㅇㅇ(14.138) 2024.03.01 23:13:57

조회 1020 추천 25 댓글 4

https://youtube.com/v/QWWgr2rN45o?si=qm

Geoffrey Hinton in conversation with Fei-Fei Li — Responsible AI development

Recorded October 4, 2023. U of T Professor Emeritus Geoffrey Hinton is joined by Stanford University Professor Fei-Fei Li for a special talk on ethical AI, p...

youtube.com

네, 사람들이 AI 위험에 대해 이야기하지만, 거기에는 아주 다양한 위험이 있습니다. 따라서 일자리를 빼앗고 많은 일자리를 창출하지 못할 위험이 있습니다.

그래서 우리는 전체 하층계층의 실업자를 갖게 될 것입니다. AI로 인해 증가하는 생산성이 일자리를 잃은 사람들과 공유되지 않을 것이기 때문에 우리는 이에 대해 심각하게 걱정할 필요가 있습니다. 부자는 더 부자가 되고, 가난한 사람은 더 가난해질 것입니다. 그리고 기본1소득이 있다고 해도 인간 존엄성의 문제는 해결되지 않을 것입니다. 많은 사람들은 학업을 포함해 뭔가 중요한 일을 하고 있다는 느낌으로 직업을 갖고 싶어합니다.

이것이 하나의 문제입니다. 그리고 가짜 뉴스 문제가 있는데, 이는 전혀 다른 문제입니다. 그리고 전투 로봇의 문제가 있습니다. 그것은 또 아주 다른 문제입니다. 모든 대형 국방 부서는 전투 로봇을 만들고 싶어하는데, 아무도 그들을 막지 않을 것이고 그것은 끔찍할 것입니다.

그리고 어쩌면 결국 우리가 전투 로봇과의 전쟁을 겪은 후에는 화학 무기와 마찬가지로 제네바 협약과 같은 것을 얻게 될 것입니다. 사람들이 그것에 대해 뭔가를 할 수 있는 것은 그것이 사용된 후에야 가능했습니다. 그렇다면 실존적 위험이 있습니다. 그리고 제가 걱정하는 것은 실존적 위험입니다.

그리고 실존적 위험은 인류가 통제하기로 결정하는 더 나은 형태의 지능을 개발했고 그것이 우리보다 훨씬 더 똑똑해지면 인류가 전멸된다는 것입니다. 그래서 여기에는 많은 가설이 있습니다. 불확실성이 큰 시대다. 내가 말하는 어떤 것도 너무 심각하게 받아들이지 마세요.

따라서 이러한 디지털 지능이 훨씬 더 잘 공유할 수 있고 훨씬 더 많은 것을 배울 수 있기 때문에 우리가 우리보다 훨씬 더 똑똑한 것을 만든다면 필연적으로 그러한 똑똑한 것들이 하위 목표를 만들게 될 것입니다. 그래서 당신이 그들이 그렇게 하기 위해 뭔가를 하길 원한다면 그들은 당신이 먼저 다른 일을 해야 한다는 것을 알게 될 것입니다.

유럽에 가려면 공항에 가야 하잖아요. 그것은 하위 목표입니다. 그래서 그들은 하위 목표를 세울 것이고 매우 분명한 하위 목표가 있습니다. 즉, 어떤 일을 완수하고 싶다면 더 많은 힘을 얻으라는 것입니다. 더 많은 통제력을 갖게 되면 일을 하는 것이 더 쉬워질 것입니다. 따라서 하위 목표를 생성할 수 있는 기능이 있는 모든 것은 더 많은 제어권을 얻는 하위 목표를 생성하게 됩니다.

그리고 우리보다 훨씬 더 지능적인 존재가 통제를 원한다면 그렇게 될 것입니다. 우리는 그들을 막을 수 없습니다. 그래서 우리는 그들이 통제권을 갖고 싶어하는 것을 어떻게 막을 수 있는지 알아내야 합니다. 그리고 약간의 희망이 있습니다. 이런 것들은 진화한 것도 아니고, 불쾌한 경쟁적인 것도 아닙니다. 우리가 어떻게 만들든 불멸의 존재입니다.

따라서 디지털 지능을 사용하면 무게를 어딘가에 저장하고 언제든지 다른 하드웨어에서 다시 실행할 수 있습니다. 그래서 그들은 실제로 비밀스러운 불멸성을 발견했습니다. 유일한 문제는 그것이 우리를 위한 것이 아니라 우리는 필멸의 존재라는 것입니다. 그러나 이러한 다른 것들은 불멸입니다. 그리고 그것은 그들을 훨씬 더 좋게 만들 수도 있습니다. 왜냐면 그들은 죽는 것에 대해 걱정하지 않고 일종의... - 그리스 신처럼 그럴 필요도 없기 때문입니다.

- 글쎄요, 그들은 그리스 신들과 매우 흡사합니다. 엘론 머스크가 나에게 말한 것을 말해야 합니다. 이것이 바로 우리가 디지털 지능을 위한 일종의 부트로더라는 Elon Musk의 믿음입니다. 우리는 컴퓨터와 AI를 만들 만큼 똑똑한 상대적으로 멍청한 형태의 지능입니다. 그리고 그것은 훨씬 더 똑똑한 형태의 지능이 될 것입니다.

그리고 Elon Musk는 그것이 우리를 주변에 머물게 할 것이라고 생각합니다. 세상은 사람이 없는 것보다 사람이 있는 것이 더 흥미로울 것이기 때문입니다. 그것은 당신의 미래를 걸기 위한 매우 얇은 실처럼 보입니다. 그러나 그것은 페이페이(Fei-Fei)가 말한 것과 관련이 있으며, 그것은 그리스 신의 모델과 매우 유사하며 신들은 주변에 즐거운 시간을 보낼 사람들이 있다는 것입니다.

미래의 AI를 그리스 신들에 비유하는게 인상적임.

전능하진 않지만 인간 입장에서는 신과 같은 존재로 보일거라 생각한다는 거네.

고정닉 6

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	말머리	제목	글쓴이	작성일	조회	추천
2856	설문	주위 눈치 안 보고(어쩌면 눈치 없이) MZ식 '직설 화법' 날릴 것 같은 스타는?	운영자	24/04/29	-	-
444380	일반	알트만은 자기 목숨의 위태로운걸 알아야함 [14]	ㅇㅇ(180.230)	03.19	1591	33
444376	일반	깔리게 된다고 입까지 털어놓고 출시소식은 없고 답답하기만 하다 [1]	ㅇㅇ(220.89)	03.19	1103	26
444368	일반	해뜨니 벌레들 설레발 잔뜩 쳐놨네 [6]	ㅇㅇ	03.19	1424	40
444309	일반	분탕충 자꾸 꼬이는게 허구한날 특들갑 떨어서 그렇지 [7]	ㅇㅇ	03.19	1360	36
444305	일반	그냥 특붕이들 단체로 뇌가 절여진듯 [9]	lightvector	03.19	2064	26
444303	일반	정체기로 볼수도 있는점 [5]	ㅇㅇ(220.117)	03.19	1683	29
444285	일반	솔직히 팩트만 딱 말하자면 [35]	ㅇㅇ(182.230)	03.19	2810	60
444265	일반	샘 알트만 인터뷰 이게 뼈를 때리네 [8]	ㅇㅇ(211.46)	03.19	3496	45
444237	일반	클로드한테 그래프질문하기 [7]	ㅇㅇ(221.152)	03.19	1394	30
444183	일반	젠슨황) AI 전기 존나잡아먹는데 이번에 전력 1/4로 줄이는데 성공 [10]	ㅇㅇ(61.105)	03.19	3496	56
444169	일반	속보) 엔비디아 A100, H100를 넘어 새로운 세대“GB200” 공개 [4]	ㅇㅇ(61.105)	03.19	2360	36
444164	정보	샘 알트만 인터뷰 AGI 부분 번역.claude3 [5]	ㅇㅇ	03.19	2690	46
444090	일반	오퍼스로 번역한 샘 알트만 GPT 인터뷰들 [20]	ㅇㅇ(220.117)	03.19	2784	38
444083	일반	돌고 돌아서 이새끼면 개추ㅋㅋ [15]	ㅇㅇ(223.33)	03.19	1661	49
444081	일반	오피셜) 올해 환각해결 못해 [7]	ㅇㅇ(123.100)	03.19	2298	23
443995	정보	알트만 : '앞으로 몇 달안에 다양한 것 출시 예정' [15]	ㅇㅇ(123.100)	03.19	2488	34
443924	일반	오피셜)알트만 팟캐스트 4줄요약 [25]	ㅇㅇ(61.74)	03.19	2929	74
443919	일반	gpt3랑 4 차이 심한데 5는 성능 쩔겠노 [12]	ㅇㅇ	03.19	2328	28
443913	일반	??? 지금 gpt3-4 차이가 좆도 아니라 생각하는것 같은데 [14]	ㅇㅇ	03.19	2011	34
443897	정보	샘알트만: GPT-4와 GPT-5의 차이 [18]	ㅇㅇ(123.100)	03.19	3024	36
443891	정보	진짜 떴다 [11]	ㅇㅇ(123.100)	03.19	2520	46
443764	일반	"여러분 기다리셨죠? 바로 오늘, 인류 문명을 뒤흔들 획기적인 AI" [18]	핵융합발전소	03.18	3271	39
443677	일반	클로드3랑 GPT4랑 서로 대화시켜봤음 ㅋㅋ [21]	ㅇㅇ	03.18	3622	69
443658	일반	알트만 트윗 ㄷㄷ [10]	이런내가특특	03.18	751	12
443568	일반	갤주 돌아갈실때 진짜 충격이었지.... [26]	프리먼	03.18	3456	61
443510	AI창 AI창작	속보: GPT-5 좆망하고 알트만 먹튀함 [32]	ㅇㅇ(180.228)	03.18	4510	52
443439	일반	아무리 봐도 이건 명짤이야 [11]	ㅇㅇ	03.18	3246	47
443432	일반	뉴 특갤콘 디시콘이 출시되었습니다 [33]	lightvector	03.18	1807	30
443426	일반	이번주에도 공개 안하면 특갤 민심 잃을텐데... [15]	핵융합발전소	03.18	2042	31
443400	역노화	10년안에 회춘약 나온다했쥬? [40]	ㅇㅇ(211.176)	03.18	5562	57
443368	정보	제러드 캐플런 "곧 ai가 컴퓨터 화면 제어가능" [20]	ㅇㅇ	03.18	3112	40
443366	일반	GPT-5(4.5) 내일 나오는 이유 [23]	Bqbq	03.18	3469	63
443317	일반	현재 약 몇개월 가까이 지속중인 패턴 [20]	ㅇㅇ(221.155)	03.18	3883	108
443281	일반	클로드(유료)한테 맑스 비판해보랬더니 써온거 [22]	ㅇㅇ(221.152)	03.18	4052	52
443270	일반	한국경제신문 다니는 특붕이는 봐라 [17]	ㅇㅇ	03.18	2719	82
443267	정보	그록 오픈소스떴다 [7]	ㅇㅇ(123.100)	03.18	2335	34
443254	일반	범부였던 선형충들의 명언들 [7]	ㅇㅇ(220.89)	03.18	2041	40
443241	일반	근데 진짜 감격스러운거 [11]	맘보토	03.18	1495	31
443216	일반	GPT4와 GPT5 상황 차이.. [20]	ㅇㅇ(123.100)	03.18	3895	67
443198	정보	비트넷 다음 주 코드공개예정! [6]	ㅇㅇ(123.100)	03.18	1996	36
443175	일반	큰거 떴다 [31]	ㅇㅇ(59.17)	03.18	2897	60
443139	정보	알트만"미래에는 컴퓨팅이 가장 중요한 화폐가 될것" [4]	ㅇㅇ(211.59)	03.18	2335	32
443135	일반	GPT5에 희망이 보여서 동서남북으로 울부짖었다. [14]	ㅇㅇ	03.18	1344	29
442970	일반	털드만 인터뷰 대 호재노 ㅋㅋ [14]	ㅇㅇ(123.100)	03.17	2550	55
442937	정보	소라 최신 영상 [12]	ㅇㅇ	03.17	1389	24
442891	일반	특이점 이후 사회를 기존 사례에 대입해 예측하는건 바보짓임 [34]	ㅇㅇ(14.58)	03.17	1967	43
442848	일반	데빈 근황 [31]	ㅇㅇ(59.9)	03.17	2890	65
442840	일반	단언컨데, 가장 인간다운건 클로드임 ㅇㅇ [15]	ㅇㅇ(61.39)	03.17	2889	56
442797	일반	ai 로 생산량이 늘면 물가가 내려가고 모든게 공짜가 될까? [129]	ㅇㅇ	03.17	3708	57
442735	역노화	뇌, 장기, 얼굴 등 생체시계 되돌리는 약 나온데.. [10]	K(211.226)	03.17	1663	21