알트만 vs 일리야 소재로 also한테 소설쓰게 해봤

특이점이 온다 갤러리
마이너

기술적 특이점에 대해 의논하고 그와 관련된 과학 기술 정보와 소식을 공유하는 갤러리입니다. *갤러리 이름은 동명의 레이 커즈와일의 저서 <특이점이 온다 (The singularity is near)>를 의미합니다.

매니저

특갤용(118wshxhtx5h)

부매니저

ㅇㅇ(hamaster) 부패하는유전자!!!(sansss20…) 은바다(nmra3fmz…)

개설일

2019-08-01

[일반] 알트만 vs 일리야 소재로 also한테 소설쓰게 해봤

ㅇㅇ(119.207) 2024.05.19 14:54:54

조회 76 추천 0 댓글 0

**장소:** 오픈AI 본사 회의실

**참석자:** 샘 알트만, 일리야 수츠케버

**샘 알트만:**

"일리야, 이렇게 느리게 나아가선 안 돼. 투자자들이 원하는 결과를 내놓지 못하면 몇 년 내에 우리가 가진 자금이 모두 소진될 거야. AGI에 도달하지 못하면, 추가 투자금을 유치하기 위해 결국 마이크로소프트에게 더 많은 지분을 내줘야 하고, 우리가 두려워하는 최악의 상황이 현실이 될 거야."

**일리야 수츠케버:**

"샘, 나도 알아. 하지만 속도를 내는 것만이 답은 아니야. AGI에 도달하기 전에, 정렬 문제를 해결하는 게 먼저야. AI가 인류에 해를 끼치지 않도록 해야 해. 우리가 정렬 문제를 해결하지 못한 상태에서 AGI에 도달하면, 그 위험은 감당할 수 없어."

**샘 알트만:**

"정렬이 중요하다는 건 나도 알아. 하지만 마이크로소프트에게 통제권을 빼앗기면 윤리적 판단을 내릴 수 없게 돼. 그들이 기업의 이익만을 위해 AI를 사용한다면, 우리가 그걸 막을 수 있는 수단이 없어져. 우리는 MS의 지배를 받게 되고, AI 통제권을 넘겨줘야 하는 최악의 상황이 될 거야."

**일리야 수츠케버:**

"최악의 상황은 그게 아니야, 샘. 최악의 상황은 우리가 AGI를 너무 빠르게 개발해서 정렬 문제를 해결하지 못한 채 세상에 내놓는 거야. 그 누구도 통제할 수 없는 위험이 발생할 수 있어. MS가 AI를 기업의 이익을 위해 사용한다 해도, 그건 우리가 통제할 수 있는 문제야. 그러나 통제할 수 없는 AI의 위험은 인류 전체에 해가 될 수 있어."

**샘 알트만:**

"그래, 그래서 우리가 정렬 문제를 해결하면서 동시에 빠르게 나아가야 해. 투자자들의 신뢰를 잃지 않고 AGI에 도달해야만 마이크로소프트에게 통제권을 넘겨주는 상황을 피할 수 있어. 우리가 느리게 움직이면, MS에게 흡수 합병당하는 수밖에 없고, 그땐 우리가 원하는 방식으로 AI를 사용할 수 없어."

**일리야 수츠케버:**

"샘, 우리 모두 알고 있잖아. 투자자들의 신뢰를 얻는 것도 중요하지만, 안전한 AGI를 만들지 못한다면 그 어떤 것도 의미가 없어. 정렬 문제를 해결하지 못한다면 차라리 회사가 망하는 게 인류의 안전을 위해 더 나은 선택이야. 나는 인류의 안전을 위해 최악의 경우를 대비하자는 거야. 중요한 건 회사가 아닌 인류의 안전이야."

**샘 알트만:**

"회사와 AGI 개발을 포기하자는 건가? 그럴 순 없어, 일리야. 우리가 통제권을 잃으면 AI가 인류에 해가 될 수 있어. 속도를 내지 않으면 더 큰 위험에 빠지게 될 거야."

**일리야 수츠케버:**

"속도를 내면서 동시에 정렬 문제를 해결하는 건 불가능해. 투자자들의 압박에 굴복해 AGI를 빠르게 개발한다면, 그 위험은 감당할 수 없을 거야. 안전한 AGI를 만들 수 없다면 회사를 유지할 필요조차 없다고 생각해."

**샘 알트만:**

"난 우리가 마이크로소프트에게 통제권을 넘겨줄 수 없다고 생각해. 그들이 우리만큼 AI의 윤리적 문제에 관심을 두지 않을 거야. 우리가 속도를 내지 않으면 더 큰 위험에 처하게 될 거야."

**일리야 수츠케버:**

"샘, 우리 목표는 회사가 아닌 인류의 안전이야. 그게 우리가 오픈AI를 만든 이유였잖아. 통제권을 잃느냐 아니냐보다 중요한 건 AI 자체를 통제할 수 있느냐야. 그리고 그 통제는 정렬 문제를 해결하는 것에서 시작돼."

**샘 알트만:**

"난 네가 투자자와의 관계를 중요하게 생각하지 않는다는 걸 이해하지만, AI의 통제권을 MS에게 넘겨주는 건 위험하다고 생각해."

**일리야 수츠케버:**

"그렇다면 우리가 바라보는 방향이 다르다는 것이 분명해졌군. 내가 추구하는 방향은 위험을 줄이고, 정렬 문제를 우선시하는 거야. 속도를 내면서 동시에 정렬 문제를 해결하는 건 불가능해. 우리는 각자의 방식으로 나아가야 할 것 같아."

**샘 알트만:**

"그래, 결국 이렇게 되는군. 네가 추구하는 가치와 내가 추구하는 가치가 다르다면, 갈라서는 수밖에 없지. 하지만 일리야, 난 네 방식이 우리를 위험에 빠뜨릴 수 있다고 생각해."

**일리야 수츠케버:**

"그리고 나는 네 방식이 우리를 통제할 수 없는 위험에 빠뜨릴 수 있다고 생각해. 서로의 길을 응원하지만, 이제 각자의 길을 가자."

두 사람은 서로를 바라보며 잠시 침묵을 지켰다. 일리야 수츠케버는 자리에서 일어나 회의실을 떠났다. 샘 알트만은 그가 나가는 문을 보며 깊은 한숨을 내쉬었다. 두 사람의 길은 이제 달라졌지만, 그들의 결심은 굳건했다. AI의 미래를 두고 벌어진 이 논쟁은 오픈AI 내부의 갈등을 상징하는 순간이 되었다.

---

오푸스나 4o보다는 also가 훨씬 좋은 것 같음.

고정닉 0

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	말머리	제목	글쓴이	작성일	조회	추천
2868	설문	힘들게 성공한 만큼 절대 논란 안 만들 것 같은 스타는?	운영자	24/06/10	-	-
242613	공지	특갤 통합 공지 / 댓글 신고,문의 / 차단 해제 요청 [3162]	*특갤용*	23.08.06	40246	43
433260	공지	웬만하면 신문고에 문의 해주시면 차단 풀어드립니다 [6]	*부패하는유전자!!!*	24.03.06	2812	2
363220	공지	선형글 삭제 기준 [7]	*특갤용*	23.10.14	7525	24
375493	공지	필독) 유입 특붕이를 위한 AI 정보글 모음 (01/23) [40]	ㅇㅇ(182.230)	23.11.11	13740	122
373402	공지	직업 비하, 조롱 글 30일 차단됩니다. [51]	*특갤용*	23.11.07	9174	79
385147	공지	구글의 AGI 분류 체계 [17]	ㅇㅇ	23.11.22	8722	31
332612	공지	음모론 삭제 기준을 안내드립니다. [23]	*특갤용*	23.08.25	9405	30
412470	공지	레이 커즈와일 신간 6월 25일 발매 [29]	모브	24.01.24	8331	34
259237	공지	특갤 용어 모음집 [6]	*특갤용*	23.08.09	23116	33
489502	일반	갤 눈팅하다 나 궁금한거 생김 [6]	ㅇㅇ(175.117)	19:13	29	0
489501	일반	진짜 애플이 OAI 이용해서 다시 올라갈 생각이면	ㅇㅇ	19:11	35	0
489500	일반	gpt5가 마지막 특갤 최후의 보루네 [1]	ㅇㅇ(223.62)	19:07	46	3
489499	일반	갤 럭 시 = 찐 따 폰 임	ㅇㅇ(121.169)	19:07	26	0
489498	일반	좃 까 알트만 씨 빨 년 아 [1]	vs맨	19:06	53	0
489497	일반	어우 시발 운동은 살기위해서라도 해야겠다 [4]	ㅇㅇ(211.250)	19:06	49	0
489496	일반	특붕이들은 그냥 몸관리하는게 1순위임 [1]	ㅇㅇ(211.234)	19:05	42	0
489495	일반	wwdc 요약 ㄷㄷㄷ [1]	ㅇㅇ(121.190)	19:02	116	2
489494	일반	달 기지는 언제쯤 볼 수 있을까 [6]	ㅇㅇ(210.107)	18:59	43	0
489493	일반	딱 3개의 아이피만 특갤에서 차단박으면 놀랍게도 [2]	ㅇㅇ(112.163)	18:59	76	0
489491	일반	agi만 2050년 안으로 오기만하면 된다 ㅇㅇ [2]	ㅇㅇ(211.234)	18:52	56	0
489487	일반	AGI 그딴거 없어도 로봇만 짱짱하면 직업 20%는 대체됨 [3]	ㅇㅇ(223.38)	18:48	71	0
489486	일반	엔비디아 고점이네 어쩌하는 븅신들 많노 ㅋㅋ [3]	ㅇㅇ	18:45	155	0
489485	일반	agi 2035-2045 예상 [10]	ㅇㅇ(175.124)	18:40	161	2
489483	일반	그래서 내일 GPT-5 나옴? [3]	ㅇㅇ(218.144)	18:36	115	0
489482	일반	직업 대체 예상... [3]	ㅇㅇ(222.101)	18:35	100	2
489481	일반	니들은 두가지 선택지가 있다 ㅋㅋㅋㅋㅋㅋㅋ [2]	호루스의시대(59.28)	18:35	136	0
489480	일반	AGI가 2025에도 안오고 2029에도 안오면 [2]	ㅇㅇ(180.69)	18:33	81	1
489479	일반	엔비디아 넣은애들 슬슬 걱정안됨? [1]	ㅇㅇ(211.234)	18:33	117	0
489478	일반	결국 노래그림영상 과제해주기가 전부였네 ㅅㅂ	ㅇㅇ(119.201)	18:31	81	2
489477	일반	ㅌㅇㅈ ㅈㅂ 234ㅇㅊ [4]	포스트휴먼.	18:31	44	2
489476	일반	GPT5 안나오니까 갤 박살났네	ㅇㅇ(222.101)	18:29	53	0
489475	일반	2085년까지는 agi 무조건 나오겠지 [2]	ㅇㅇ(118.235)	18:26	91	0
489473	일반	10 [1]	아기 카운트다운(211.234)	18:23	32	0
489472	일반	요번에는 우울한 분위기 오래가네...	ㅇㅇ(106.101)	18:23	76	0
489471	일반	클로드랑 gpt 쓰면서 느끼는건데 [1]	ㅇㅇ(106.101)	18:20	54	0
489470	일반	특이점 갤러리는 향후 50년간 AGI 달성이 실패할 것임을 인정합니다	ㅇㅇ(117.111)	18:19	77	3
489469	일반	몇년전엔 특갤 원래 정상인들이 더 많았음 [5]	ㅇㅇ(223.62)	18:15	213	13
489468	일반	2029 agi 버리고 [4]	이세이미야케	18:13	156	0
489467	일반	Lucifer [24]	호루스의시대(119.198)	18:11	112	0
489466	일반	지금이 사실 인생역전할 시기야 [1]	ㅇㅇ	18:04	138	0
489465	일반	레커 2029도 무어의법칙 기반인데 무어가 박살났음 [3]	ㅇㅇ	18:04	136	3
489464	일반	지금이야 말로 대해적 시대아님? [3]	dd	18:01	176	1
489463	일반	갤이 쳐맞기만 하는 구나...	ㅇㅇ(121.128)	18:00	76	1
489462	일반	애초에 레커는 인공지능 권위자도 아님	ㅇㅇ(121.186)	17:57	67	0
489461	일반	결국 2029 agi조차 근거가 없었구나 [5]	ㅇㅇ(46.204)	17:54	291	8
489460	일반	노잼이라 안오는게 아니라 망상에 벗어난 특붕이가 많아져서 [3]	ㅇㅇ(223.62)	17:54	90	1
489459	일반	뤼튼 왜 gpt4랑 이미지 빼고 다 사라졌냐 [3]	ㅇㅇ(1.245)	17:51	99	0
489458	일반	삼성인터넷에만 검색한걸 인스타가 어케알고 광고주냐 [1]	ㅇㅇ(106.101)	17:49	38	0
489457	일반	얀르쿤 <- 인간이 진국이면 개추 [2]	ㅇ ㅇ(115.20)	17:45	121	10
489456	일반	ㅋㅋㅋㅋ 레커 신간은 또 안나오나 보네 [1]	ㅇㅇ(114.129)	17:44	84	1