알트만 vs 일리야 소재로 also한테 소설쓰게 해봤

특이점이 온다 갤러리
마이너

기술적 특이점에 대해 의논하고 그와 관련된 과학 기술 정보와 소식을 공유하는 갤러리입니다. *갤러리 이름은 동명의 레이 커즈와일의 저서 <특이점이 온다 (The singularity is near)>를 의미합니다.

매니저

특갤용(118wshxhtx5h)

부매니저

ㅇㅇ(hamaster) 부패하는유전자!!!(sansss20…) 은바다(nmra3fmz…)

개설일

2019-08-01

[일반] 알트만 vs 일리야 소재로 also한테 소설쓰게 해봤

ㅇㅇ(119.207) 2024.05.19 14:54:54

조회 77 추천 0 댓글 0

**장소:** 오픈AI 본사 회의실

**참석자:** 샘 알트만, 일리야 수츠케버

**샘 알트만:**

"일리야, 이렇게 느리게 나아가선 안 돼. 투자자들이 원하는 결과를 내놓지 못하면 몇 년 내에 우리가 가진 자금이 모두 소진될 거야. AGI에 도달하지 못하면, 추가 투자금을 유치하기 위해 결국 마이크로소프트에게 더 많은 지분을 내줘야 하고, 우리가 두려워하는 최악의 상황이 현실이 될 거야."

**일리야 수츠케버:**

"샘, 나도 알아. 하지만 속도를 내는 것만이 답은 아니야. AGI에 도달하기 전에, 정렬 문제를 해결하는 게 먼저야. AI가 인류에 해를 끼치지 않도록 해야 해. 우리가 정렬 문제를 해결하지 못한 상태에서 AGI에 도달하면, 그 위험은 감당할 수 없어."

**샘 알트만:**

"정렬이 중요하다는 건 나도 알아. 하지만 마이크로소프트에게 통제권을 빼앗기면 윤리적 판단을 내릴 수 없게 돼. 그들이 기업의 이익만을 위해 AI를 사용한다면, 우리가 그걸 막을 수 있는 수단이 없어져. 우리는 MS의 지배를 받게 되고, AI 통제권을 넘겨줘야 하는 최악의 상황이 될 거야."

**일리야 수츠케버:**

"최악의 상황은 그게 아니야, 샘. 최악의 상황은 우리가 AGI를 너무 빠르게 개발해서 정렬 문제를 해결하지 못한 채 세상에 내놓는 거야. 그 누구도 통제할 수 없는 위험이 발생할 수 있어. MS가 AI를 기업의 이익을 위해 사용한다 해도, 그건 우리가 통제할 수 있는 문제야. 그러나 통제할 수 없는 AI의 위험은 인류 전체에 해가 될 수 있어."

**샘 알트만:**

"그래, 그래서 우리가 정렬 문제를 해결하면서 동시에 빠르게 나아가야 해. 투자자들의 신뢰를 잃지 않고 AGI에 도달해야만 마이크로소프트에게 통제권을 넘겨주는 상황을 피할 수 있어. 우리가 느리게 움직이면, MS에게 흡수 합병당하는 수밖에 없고, 그땐 우리가 원하는 방식으로 AI를 사용할 수 없어."

**일리야 수츠케버:**

"샘, 우리 모두 알고 있잖아. 투자자들의 신뢰를 얻는 것도 중요하지만, 안전한 AGI를 만들지 못한다면 그 어떤 것도 의미가 없어. 정렬 문제를 해결하지 못한다면 차라리 회사가 망하는 게 인류의 안전을 위해 더 나은 선택이야. 나는 인류의 안전을 위해 최악의 경우를 대비하자는 거야. 중요한 건 회사가 아닌 인류의 안전이야."

**샘 알트만:**

"회사와 AGI 개발을 포기하자는 건가? 그럴 순 없어, 일리야. 우리가 통제권을 잃으면 AI가 인류에 해가 될 수 있어. 속도를 내지 않으면 더 큰 위험에 빠지게 될 거야."

**일리야 수츠케버:**

"속도를 내면서 동시에 정렬 문제를 해결하는 건 불가능해. 투자자들의 압박에 굴복해 AGI를 빠르게 개발한다면, 그 위험은 감당할 수 없을 거야. 안전한 AGI를 만들 수 없다면 회사를 유지할 필요조차 없다고 생각해."

**샘 알트만:**

"난 우리가 마이크로소프트에게 통제권을 넘겨줄 수 없다고 생각해. 그들이 우리만큼 AI의 윤리적 문제에 관심을 두지 않을 거야. 우리가 속도를 내지 않으면 더 큰 위험에 처하게 될 거야."

**일리야 수츠케버:**

"샘, 우리 목표는 회사가 아닌 인류의 안전이야. 그게 우리가 오픈AI를 만든 이유였잖아. 통제권을 잃느냐 아니냐보다 중요한 건 AI 자체를 통제할 수 있느냐야. 그리고 그 통제는 정렬 문제를 해결하는 것에서 시작돼."

**샘 알트만:**

"난 네가 투자자와의 관계를 중요하게 생각하지 않는다는 걸 이해하지만, AI의 통제권을 MS에게 넘겨주는 건 위험하다고 생각해."

**일리야 수츠케버:**

"그렇다면 우리가 바라보는 방향이 다르다는 것이 분명해졌군. 내가 추구하는 방향은 위험을 줄이고, 정렬 문제를 우선시하는 거야. 속도를 내면서 동시에 정렬 문제를 해결하는 건 불가능해. 우리는 각자의 방식으로 나아가야 할 것 같아."

**샘 알트만:**

"그래, 결국 이렇게 되는군. 네가 추구하는 가치와 내가 추구하는 가치가 다르다면, 갈라서는 수밖에 없지. 하지만 일리야, 난 네 방식이 우리를 위험에 빠뜨릴 수 있다고 생각해."

**일리야 수츠케버:**

"그리고 나는 네 방식이 우리를 통제할 수 없는 위험에 빠뜨릴 수 있다고 생각해. 서로의 길을 응원하지만, 이제 각자의 길을 가자."

두 사람은 서로를 바라보며 잠시 침묵을 지켰다. 일리야 수츠케버는 자리에서 일어나 회의실을 떠났다. 샘 알트만은 그가 나가는 문을 보며 깊은 한숨을 내쉬었다. 두 사람의 길은 이제 달라졌지만, 그들의 결심은 굳건했다. AI의 미래를 두고 벌어진 이 논쟁은 오픈AI 내부의 갈등을 상징하는 순간이 되었다.

---

오푸스나 4o보다는 also가 훨씬 좋은 것 같음.

고정닉 0

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	말머리	제목	글쓴이	작성일	조회	추천
2868	설문	힘들게 성공한 만큼 절대 논란 안 만들 것 같은 스타는?	운영자	24/06/10	-	-
490691	일반	GPT4는 머스크 입장이 이해가 된다는데?	ㅇㅇ(211.179)	07:50	172	0
490690	일반	머스크 발작 심각하게 고려해야 함 [1]	초존도초	07:47	208	4
490689	일반	애플 온디바이스 3b 성능 알려주마 [11]	ㅇㅇ(110.145)	07:45	421	4
490688	일반	일론머스크 회사 직원들 다 갤럭시 쓰겠네 ㅋㅋ [7]	ㅇㅇ(211.179)	07:36	371	1
490687	일반	그래서 특이점에 한발 가까워 진거임? [4]	ㅇㅇ(223.39)	07:33	186	0
490686	일반	ms가 모바일 os 버텨야했는데	chatgpt4o	07:32	73	0
490685	일반	특갤 패턴은 항상 똑같네 [1]	ㅇㅇ(59.6)	07:27	179	1
490684	일반	근데 일론머스크가 하는 말 잘보셈 ㅇㅇ	ㅇㅇ(211.179)	07:26	173	0
490683	일반	팀쿡 보내줄때가 된거같다	ㅇㅇ	07:24	116	2
490682	정보/ 정보/뉴스	애플 인텔리전스는 애플이 만든 3B짜리 소형 모델로 구동 [14]	ㅇㅇ	07:23	508	3
490681	일반	똥쿡과 똥트만의 칼라똥 콜라보	ㅇㅇ(118.235)	07:17	39	0
490680	일반	또 올해 말이야?	람냥	07:17	51	0
490678	일반	전력문제는 ㄹㅇ 어캄? [1]	ㅇㅇ(103.237)	07:14	80	0
490677	일반	애플이 데이터 센터를 짓는건 악수아닌가 [8]	ㅇㅇ(59.26)	07:12	206	0
490676	정보/ 정보/뉴스	머스크 발작 총 모음ㄷㄷ [3]	ㅇㅇ(121.178)	07:07	419	2
490675	일반	애플은 검색엔진 자리 장사하던걸 ai로도 똑같이 하려는 듯 [3]	ㅇㅇ(118.223)	07:04	263	1
490674	일반	머스크 역대급 발작이네ㅋㅋㅋㅋ [6]	ㅇㅇ(121.178)	06:57	659	4
490673	일반	원모어띵 ㅇㄷ [1]	recettear	06:33	192	0
490672	일반	아 꿀잠 잤다	빙냥이ㄱㅇㅇ	06:25	117	1
490671	일반	직업대체가 왜 불가능하다고 생각하지 [1]	ㅇㅇ(118.235)	06:25	84	0
490670	일반	노화의 원인은 결혼후 몇개월간 밤낮없이 [3]	ㅇㅇ	06:24	234	0
490669	토의	내가 느낀 이번 WWDC 중요점 [3]	초존도초	06:11	451	3
490668	일반	지금 르쿤타임이냐 레커타임이냐 [5]	트라야누스(14.32)	05:57	189	0
490667	일반	에이전트 출시되면 온라인 쇼핑몰 이용이 증가할거 같아 [4]	ㅇㅇ(175.192)	05:48	136	0
490666	일반	얀버지 이제야 깨닫습니다..	ㅇㅇ(121.157)	05:45	112	0
490665	일반	메모리 못 쓰고 있는 애들 안타까움 [3]	ㅇㅇㅇ(220.120)	05:41	280	0
490664	일반	3시간 자고 일났는데 싹다 노동인가보네 [2]	지혜원	05:35	263	0
490663	일반	노동대체, 기분소득 곧 온다!! [4]	ㅇㅇ(223.38)	05:20	249	0
490662	일반	온디바이스 gpt5 라면? [1]	ㅇㅇ(175.192)	05:16	100	0
490661	일반	특갤 연령대 30대인거 같았는데 20대가 주류인 거 같은 느낌이 드네 [9]	ㅎㅎ(61.82)	05:07	345	0
490660	일반	사만다는 언제 나오냐	ㅇㅇ(14.53)	05:06	47	0
490658	일반	WWDC 한단어 요약 [1]	ㅇㅇ(117.111)	05:01	371	0
490656	일반	머스크 agi1년 드립은 그럼 [1]	ㅇㅇ	04:58	180	0
490655	정보/ 정보/뉴스	알트만 애플에 대해 입털었다 [2]	chatgpt4o	04:55	483	0
490654	일반	애플쥬12식 나락가는거보니인공지능 별로없구나	chatgpt4o	04:50	99	1
490653	일반	만약 온디바이스 AI 기반 에이전트가 쓸만한 정도라면	ㅇㅇ(119.202)	04:49	78	0
490652	일반	ㅋㅋㅋ 애플인텔리전스 한국어 지원 내년이후라함	ㅇㅇ(121.124)	04:49	198	1
490651	일반	딴갤에서 ai 애기하는중인디 ㄹㅇ 이건 특평이네... [6]	ㅇㅇ	04:48	466	0
490650	일반	학교다닐때 아이폰 쓰는 일진들한테 맞고 다녔나 [4]	ㅇㅇ(223.38)	04:47	219	3
490649	일반	최초의 온디바이스면 대단한 업적이긴 하지 [1]	ㅇㅇ	04:46	243	0
490647	일반	갑자기 온디바이스 데단해!!	ㅇㅇ(223.38)	04:44	131	1
490645	일반	에이전트정도는 나와줘야지 실망이네 [1]	쿠드	04:42	92	4
490644	일반	온디바이스인게 대단한거 아닌가 [14]	ㅇㅇ	04:41	502	1
490643	일반	걍씨발 얀르쿤이 제일 솔직함 ㅇㅇ	ㅇㅇ(211.179)	04:39	136	1
490642	일반	Ai 수준이 결국 이거임	ㅇㅇ	04:38	187	2
490641	일반	근데 결국 지미가 옳았네	ㅇㅇㅇ(220.120)	04:38	160	2
490640	일반	챳gpt 사만다 보이스는 애플이랑계약도 안한거네	chatgpt4o	04:38	100	1
490639	일반	근데 이거 원래 한 4일 내내 하는 거 아님?	ㅇㅇ(112.158)	04:36	71	0
490638	일반	혼자서 미용실 예약하고 피자 주문하는 에이전트 ㅇㄷ [2]	ㅇㅇ(119.202)	04:36	135	0
490636	일반	보이스 안 내는 이유는 아마 [1]	ㅇㅇ	04:33	256	0