알트만 vs 일리야 소재로 also한테 소설쓰게 해봤

특이점이 온다 갤러리
마이너

기술적 특이점에 대해 의논하고 그와 관련된 과학 기술 정보와 소식을 공유하는 갤러리입니다. *갤러리 이름은 동명의 레이 커즈와일의 저서 <특이점이 온다 (The singularity is near)>를 의미합니다.

매니저

특갤용(118wshxhtx5h)

부매니저

ㅇㅇ(hamaster) 부패하는유전자!!!(sansss20…) 은바다(nmra3fmz…)

개설일

2019-08-01

[일반] 알트만 vs 일리야 소재로 also한테 소설쓰게 해봤

ㅇㅇ(119.207) 2024.05.19 14:54:54

조회 82 추천 0 댓글 0

**장소:** 오픈AI 본사 회의실

**참석자:** 샘 알트만, 일리야 수츠케버

**샘 알트만:**

"일리야, 이렇게 느리게 나아가선 안 돼. 투자자들이 원하는 결과를 내놓지 못하면 몇 년 내에 우리가 가진 자금이 모두 소진될 거야. AGI에 도달하지 못하면, 추가 투자금을 유치하기 위해 결국 마이크로소프트에게 더 많은 지분을 내줘야 하고, 우리가 두려워하는 최악의 상황이 현실이 될 거야."

**일리야 수츠케버:**

"샘, 나도 알아. 하지만 속도를 내는 것만이 답은 아니야. AGI에 도달하기 전에, 정렬 문제를 해결하는 게 먼저야. AI가 인류에 해를 끼치지 않도록 해야 해. 우리가 정렬 문제를 해결하지 못한 상태에서 AGI에 도달하면, 그 위험은 감당할 수 없어."

**샘 알트만:**

"정렬이 중요하다는 건 나도 알아. 하지만 마이크로소프트에게 통제권을 빼앗기면 윤리적 판단을 내릴 수 없게 돼. 그들이 기업의 이익만을 위해 AI를 사용한다면, 우리가 그걸 막을 수 있는 수단이 없어져. 우리는 MS의 지배를 받게 되고, AI 통제권을 넘겨줘야 하는 최악의 상황이 될 거야."

**일리야 수츠케버:**

"최악의 상황은 그게 아니야, 샘. 최악의 상황은 우리가 AGI를 너무 빠르게 개발해서 정렬 문제를 해결하지 못한 채 세상에 내놓는 거야. 그 누구도 통제할 수 없는 위험이 발생할 수 있어. MS가 AI를 기업의 이익을 위해 사용한다 해도, 그건 우리가 통제할 수 있는 문제야. 그러나 통제할 수 없는 AI의 위험은 인류 전체에 해가 될 수 있어."

**샘 알트만:**

"그래, 그래서 우리가 정렬 문제를 해결하면서 동시에 빠르게 나아가야 해. 투자자들의 신뢰를 잃지 않고 AGI에 도달해야만 마이크로소프트에게 통제권을 넘겨주는 상황을 피할 수 있어. 우리가 느리게 움직이면, MS에게 흡수 합병당하는 수밖에 없고, 그땐 우리가 원하는 방식으로 AI를 사용할 수 없어."

**일리야 수츠케버:**

"샘, 우리 모두 알고 있잖아. 투자자들의 신뢰를 얻는 것도 중요하지만, 안전한 AGI를 만들지 못한다면 그 어떤 것도 의미가 없어. 정렬 문제를 해결하지 못한다면 차라리 회사가 망하는 게 인류의 안전을 위해 더 나은 선택이야. 나는 인류의 안전을 위해 최악의 경우를 대비하자는 거야. 중요한 건 회사가 아닌 인류의 안전이야."

**샘 알트만:**

"회사와 AGI 개발을 포기하자는 건가? 그럴 순 없어, 일리야. 우리가 통제권을 잃으면 AI가 인류에 해가 될 수 있어. 속도를 내지 않으면 더 큰 위험에 빠지게 될 거야."

**일리야 수츠케버:**

"속도를 내면서 동시에 정렬 문제를 해결하는 건 불가능해. 투자자들의 압박에 굴복해 AGI를 빠르게 개발한다면, 그 위험은 감당할 수 없을 거야. 안전한 AGI를 만들 수 없다면 회사를 유지할 필요조차 없다고 생각해."

**샘 알트만:**

"난 우리가 마이크로소프트에게 통제권을 넘겨줄 수 없다고 생각해. 그들이 우리만큼 AI의 윤리적 문제에 관심을 두지 않을 거야. 우리가 속도를 내지 않으면 더 큰 위험에 처하게 될 거야."

**일리야 수츠케버:**

"샘, 우리 목표는 회사가 아닌 인류의 안전이야. 그게 우리가 오픈AI를 만든 이유였잖아. 통제권을 잃느냐 아니냐보다 중요한 건 AI 자체를 통제할 수 있느냐야. 그리고 그 통제는 정렬 문제를 해결하는 것에서 시작돼."

**샘 알트만:**

"난 네가 투자자와의 관계를 중요하게 생각하지 않는다는 걸 이해하지만, AI의 통제권을 MS에게 넘겨주는 건 위험하다고 생각해."

**일리야 수츠케버:**

"그렇다면 우리가 바라보는 방향이 다르다는 것이 분명해졌군. 내가 추구하는 방향은 위험을 줄이고, 정렬 문제를 우선시하는 거야. 속도를 내면서 동시에 정렬 문제를 해결하는 건 불가능해. 우리는 각자의 방식으로 나아가야 할 것 같아."

**샘 알트만:**

"그래, 결국 이렇게 되는군. 네가 추구하는 가치와 내가 추구하는 가치가 다르다면, 갈라서는 수밖에 없지. 하지만 일리야, 난 네 방식이 우리를 위험에 빠뜨릴 수 있다고 생각해."

**일리야 수츠케버:**

"그리고 나는 네 방식이 우리를 통제할 수 없는 위험에 빠뜨릴 수 있다고 생각해. 서로의 길을 응원하지만, 이제 각자의 길을 가자."

두 사람은 서로를 바라보며 잠시 침묵을 지켰다. 일리야 수츠케버는 자리에서 일어나 회의실을 떠났다. 샘 알트만은 그가 나가는 문을 보며 깊은 한숨을 내쉬었다. 두 사람의 길은 이제 달라졌지만, 그들의 결심은 굳건했다. AI의 미래를 두고 벌어진 이 논쟁은 오픈AI 내부의 갈등을 상징하는 순간이 되었다.

---

오푸스나 4o보다는 also가 훨씬 좋은 것 같음.

고정닉 0

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	말머리	제목	글쓴이	작성일	조회	추천
2868	설문	힘들게 성공한 만큼 절대 논란 안 만들 것 같은 스타는?	운영자	24/06/10	-	-
2870	이슈	[디시人터뷰] 웃는 모습이 예쁜 누나, 아나운서 김나정	운영자	24/06/11	-	-
491345	일반	석유 시추 하지말자고 선동당하는게 국민 수준임 [1]	ㅇㅇ(223.39)	06.12	130	0
491344	일반	당분간 특갤은 쓰레기들이 놀게 냅두자 [3]	ㅇㅇ	06.12	254	9
491343	일반	기술 정체 발전한계가 꼭 나쁜건 아님. [2]	ㅇㅇ(1.224)	06.12	127	0
491342	일반	인간도 환각을 본다는 증거 [4]	ㅇㅇ(59.6)	06.12	195	2
491341	일반	llm이 함계에 부딪힌다고 ??? [18]	ㅇㅇ	06.12	380	0
491340	일반	오늘도 아무소식없나	ㅇㅇ(211.234)	06.12	32	0
491339	일반	샘알트만은 똥게이에 여동생은 마약중독 온리팬즈 [1]	ㅇㅇ(118.235)	06.12	178	0
491338	일반	Llm한계충이 갤 점령했구나 [4]	ㅇㅇ(117.111)	06.12	262	2
491337	일반	솔직히 ai 정체되는 느낌이다. 얀르쿤 말이 맞는 듯..	애플인텔리전스	06.12	112	0
491336	일반	Gpu 자체가 우리 뇌랑 작동원리나 구조가 다른데 [17]	ㅇㅇ(118.235)	06.12	315	0
491335	일반	LLM은 한의학과 같음. [11]	ㅇㅇ(175.208)	06.12	303	1
491334	일반	디퓨전 3 미디엄 모델 오늘 풀립니다 [8]	도지500층	06.12	262	3
491333	일반	똥게이를 믿은 내가 부끄럽다	ㅇㅇ	06.12	115	0
491332	일반	gpt앱 한글타자 밀려써지는거 해결법 있음? [3]	ㅇㅇ	06.12	86	0
491331	일반	알트만 개좆같은 게	ㅇㅇ(118.235)	06.12	78	0
491330	일반	OAI가 개 병신 좆소인 이유 ㅇㅇ [1]	ㅇㅇ(175.121)	06.12	232	0
491329	일반	오늘 뜨면 그래도 한 달 안넘은거 아님? ㅋㅋㅋㅋ [1]	ㅇㅇ	06.12	100	0
491328	일반	노트북LM 이거 써 봤냐?	ㅇㅇ(112.161)	06.12	89	0
491327	일반	디퓨전 3 정보 이거 맞음? [14]	ㅇㅇ(223.38)	06.12	275	0
491326	일반	결국 환각, 재귀개선이 관건이지 agi달성에 나머지는 안중요함 [1]	ㅇㅇ(112.161)	06.12	93	0
491325	일반	llm은 뭐랄까.. 쓰면 쓸 수록 거품인 게 느껴짐 [3]	ㅇㅇ(118.235)	06.12	194	0
491324	일반	내가 중국 llm쪽 협력하고 있는데 oai별거없음 ㅇㅇ [1]	ㅇㅇ(175.121)	06.12	183	2
491321	일반	왜 안드빠 유튜버들은 애플을 찬양하고 앱등이 유튜버는 [3]	ㅇㅇ(218.150)	06.12	175	2
491320	정보/ 정보/뉴스	Gemini 업데이트 18일로 연기됨 [4]	선갤러(125.191)	06.12	351	1
491319	일반	oai 씨발놈들 멀티모달 업데이트 언제하냐 대체? [2]	ㅇㅇ(118.33)	06.12	137	0
491318	일반	난 이제 아이폰으로 간다 [8]	ㅇㅇ(218.150)	06.12	381	2
491317	일반	나는 지피티같은 화법이 너무 싫음 [6]	ㅇㅇ(221.157)	06.12	254	0
491314	일반	이런 젠장 오늘도 출근해야해 [1]	ㅇㅇ(133.106)	06.12	79	0
491313	일반	애플 대박났네 [7]	ㅇㅇ(218.150)	06.12	495	1
491312	일반	Gpt5 를 어서 보고 싶구나.	ㅇㅇ(175.192)	06.12	43	0
491311	일반	일론 OpenAI 공판 직전에 고소취하함 [5]	ㅇㅇ(175.120)	06.12	294	2
491310	일반	Gpt-5 새로운 능력 예상 [5]	ㅇㅇ(218.232)	06.12	269	0
491309	일반	속보) 테슬라 봇 공장에서 자동으로 작업 수행 [5]	Tqqqld	06.12	530	7
491308	일반	AGI? ASI? 핵융합? 완몰가? 역노화? [2]	ㅇㅇ	06.12	175	1
491307	일반	님들은 챗지피티어따씀? [2]	ㅇㅇ(110.70)	06.12	105	0
491306	일반	5년전만 해도 정신병자 소리 들었는데 [1]	ㅇㅇ(211.179)	06.12	251	1
491305	일반	특이점 오기 전 전쟁터질까봐 무섭다 [2]	ㅇㅇ(106.102)	06.12	171	0
491304	일반	감정, 고통, 자살 뭐 이런 애들은 알못임 그냥 [2]	ㅇㅇ(58.78)	06.12	194	0
491303	일반	나만 AGI가 구체적으로 뭔지 감이 안오냐 [6]	Ausus2	06.12	270	1
491302	일반	존나 비관적일 필요 없는 이유 txt [3]	ㅇㅇ(211.179)	06.12	329	2
491300	일반	특이점이 정말 올까 [7]	ㅇㅇ(110.10)	06.12	167	0
491298	일반	이러니 저러니 해도 결국 gpt5에 모든게 달린듯 [1]	ㅇㅇ(211.185)	06.12	147	0
491296	일반	난 요즘 소식 보면 오히려 낙관적임 [6]	ㅇ ㅇ(115.20)	06.12	317	0
491295	일반	지금 AI들 성능 비교해봄 [2]	네덕근첩	06.12	299	0
491294	일반	진짜 겨울엔 분탕 어그로도 없는 건가	ㅇㅇ(119.202)	06.12	74	2
491293	일반	우리세대에 특이점 온다고 보면 [24]	기라드	06.12	377	0
491292	일반	삼성은 기대를 안 받아도 괜찮음	ㅇㅇ(211.112)	06.12	123	0
491291	일반	이게 다 gpt5가 안나와서 그래	ㅇㅇ(203.142)	06.12	98	1
491289	일반	학습데이터? [3]	가속	06.12	99	0
491288	일반	확실히 이전보다 상황이 안좋아진건 맞음. [34]	ㅇㅇ(114.129)	06.12	1940	32