알트만 vs 일리야 소재로 also한테 소설쓰게 해봤

특이점이 온다 갤러리
마이너

기술적 특이점에 대해 의논하고 그와 관련된 과학 기술 정보와 소식을 공유하는 갤러리입니다. *갤러리 이름은 동명의 레이 커즈와일의 저서 <특이점이 온다 (The singularity is near)>를 의미합니다.

매니저

특갤용(118wshxhtx5h)

부매니저

ㅇㅇ(hamaster) 부패하는유전자!!!(sansss20…) 은바다(nmra3fmz…)

개설일

2019-08-01

[일반] 알트만 vs 일리야 소재로 also한테 소설쓰게 해봤

ㅇㅇ(119.207) 2024.05.19 14:54:54

조회 80 추천 0 댓글 0

**장소:** 오픈AI 본사 회의실

**참석자:** 샘 알트만, 일리야 수츠케버

**샘 알트만:**

"일리야, 이렇게 느리게 나아가선 안 돼. 투자자들이 원하는 결과를 내놓지 못하면 몇 년 내에 우리가 가진 자금이 모두 소진될 거야. AGI에 도달하지 못하면, 추가 투자금을 유치하기 위해 결국 마이크로소프트에게 더 많은 지분을 내줘야 하고, 우리가 두려워하는 최악의 상황이 현실이 될 거야."

**일리야 수츠케버:**

"샘, 나도 알아. 하지만 속도를 내는 것만이 답은 아니야. AGI에 도달하기 전에, 정렬 문제를 해결하는 게 먼저야. AI가 인류에 해를 끼치지 않도록 해야 해. 우리가 정렬 문제를 해결하지 못한 상태에서 AGI에 도달하면, 그 위험은 감당할 수 없어."

**샘 알트만:**

"정렬이 중요하다는 건 나도 알아. 하지만 마이크로소프트에게 통제권을 빼앗기면 윤리적 판단을 내릴 수 없게 돼. 그들이 기업의 이익만을 위해 AI를 사용한다면, 우리가 그걸 막을 수 있는 수단이 없어져. 우리는 MS의 지배를 받게 되고, AI 통제권을 넘겨줘야 하는 최악의 상황이 될 거야."

**일리야 수츠케버:**

"최악의 상황은 그게 아니야, 샘. 최악의 상황은 우리가 AGI를 너무 빠르게 개발해서 정렬 문제를 해결하지 못한 채 세상에 내놓는 거야. 그 누구도 통제할 수 없는 위험이 발생할 수 있어. MS가 AI를 기업의 이익을 위해 사용한다 해도, 그건 우리가 통제할 수 있는 문제야. 그러나 통제할 수 없는 AI의 위험은 인류 전체에 해가 될 수 있어."

**샘 알트만:**

"그래, 그래서 우리가 정렬 문제를 해결하면서 동시에 빠르게 나아가야 해. 투자자들의 신뢰를 잃지 않고 AGI에 도달해야만 마이크로소프트에게 통제권을 넘겨주는 상황을 피할 수 있어. 우리가 느리게 움직이면, MS에게 흡수 합병당하는 수밖에 없고, 그땐 우리가 원하는 방식으로 AI를 사용할 수 없어."

**일리야 수츠케버:**

"샘, 우리 모두 알고 있잖아. 투자자들의 신뢰를 얻는 것도 중요하지만, 안전한 AGI를 만들지 못한다면 그 어떤 것도 의미가 없어. 정렬 문제를 해결하지 못한다면 차라리 회사가 망하는 게 인류의 안전을 위해 더 나은 선택이야. 나는 인류의 안전을 위해 최악의 경우를 대비하자는 거야. 중요한 건 회사가 아닌 인류의 안전이야."

**샘 알트만:**

"회사와 AGI 개발을 포기하자는 건가? 그럴 순 없어, 일리야. 우리가 통제권을 잃으면 AI가 인류에 해가 될 수 있어. 속도를 내지 않으면 더 큰 위험에 빠지게 될 거야."

**일리야 수츠케버:**

"속도를 내면서 동시에 정렬 문제를 해결하는 건 불가능해. 투자자들의 압박에 굴복해 AGI를 빠르게 개발한다면, 그 위험은 감당할 수 없을 거야. 안전한 AGI를 만들 수 없다면 회사를 유지할 필요조차 없다고 생각해."

**샘 알트만:**

"난 우리가 마이크로소프트에게 통제권을 넘겨줄 수 없다고 생각해. 그들이 우리만큼 AI의 윤리적 문제에 관심을 두지 않을 거야. 우리가 속도를 내지 않으면 더 큰 위험에 처하게 될 거야."

**일리야 수츠케버:**

"샘, 우리 목표는 회사가 아닌 인류의 안전이야. 그게 우리가 오픈AI를 만든 이유였잖아. 통제권을 잃느냐 아니냐보다 중요한 건 AI 자체를 통제할 수 있느냐야. 그리고 그 통제는 정렬 문제를 해결하는 것에서 시작돼."

**샘 알트만:**

"난 네가 투자자와의 관계를 중요하게 생각하지 않는다는 걸 이해하지만, AI의 통제권을 MS에게 넘겨주는 건 위험하다고 생각해."

**일리야 수츠케버:**

"그렇다면 우리가 바라보는 방향이 다르다는 것이 분명해졌군. 내가 추구하는 방향은 위험을 줄이고, 정렬 문제를 우선시하는 거야. 속도를 내면서 동시에 정렬 문제를 해결하는 건 불가능해. 우리는 각자의 방식으로 나아가야 할 것 같아."

**샘 알트만:**

"그래, 결국 이렇게 되는군. 네가 추구하는 가치와 내가 추구하는 가치가 다르다면, 갈라서는 수밖에 없지. 하지만 일리야, 난 네 방식이 우리를 위험에 빠뜨릴 수 있다고 생각해."

**일리야 수츠케버:**

"그리고 나는 네 방식이 우리를 통제할 수 없는 위험에 빠뜨릴 수 있다고 생각해. 서로의 길을 응원하지만, 이제 각자의 길을 가자."

두 사람은 서로를 바라보며 잠시 침묵을 지켰다. 일리야 수츠케버는 자리에서 일어나 회의실을 떠났다. 샘 알트만은 그가 나가는 문을 보며 깊은 한숨을 내쉬었다. 두 사람의 길은 이제 달라졌지만, 그들의 결심은 굳건했다. AI의 미래를 두고 벌어진 이 논쟁은 오픈AI 내부의 갈등을 상징하는 순간이 되었다.

---

오푸스나 4o보다는 also가 훨씬 좋은 것 같음.

고정닉 0

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	말머리	제목	글쓴이	작성일	조회	추천
2868	설문	힘들게 성공한 만큼 절대 논란 안 만들 것 같은 스타는?	운영자	24/06/10	-	-
2870	이슈	[디시人터뷰] 웃는 모습이 예쁜 누나, 아나운서 김나정	운영자	24/06/11	-	-
491637	일반	삼체에 나오는 지자[소폰] 인공지능 정도면..	ㅇㅇ	06.12	45	0
491636	일반	ㄹㅇ 이거 실화임? [2]	ㅇㅇ(218.50)	06.12	226	0
491635	일반	48년생인 레커도 자신ㅡ도 역노화 누릴 가능성이 있다고 하는데... [4]	ㅇㅇ	06.12	159	0
491634	일반	역노화 생각하면 마음이 편하긴함 [4]	ㅇㅇ(121.88)	06.12	96	0
491633	일반	근데 우리나라 뇌과학자라는 분들 어떤 연구함?	ㅇㅇ(218.147)	06.12	36	0
491630	일반	과학자새끼들 뇌연구 하고있는거맞음? [5]	ㅇㅇ(211.197)	06.12	151	0
491629	일반	점점 더 알못들이 한두 마디씩 얹기 시작하는구나	ㅇㅇ(119.202)	06.12	68	0
491625	일반	그동안 부패가 살신성인 온몸으로 막은거구나 [2]	ㅇㅇ(223.38)	06.12	97	0
491624	일반	Gpt1 나온지 6년이나 지남 ㄷㄷ	ㅇㅇ(125.183)	06.12	127	0
491623	일반	높은 정확도가 생명인 분야에서 딥러닝은 적용할 수 없다고 하더라 [2]	ㅇㅇ(211.197)	06.12	120	0
491622	일반	애플 wwdc 파급력이 확실히 높은게..jpg [5]	ㄴ(175.207)	06.12	244	4
491621	일반	Gpt 클로드 제미니만 봐도 작년과는 비교조차안되는데 [1]	ㅇㅇ(61.97)	06.12	144	0
491620	일반	한국 정도면 갓직히 ㄱㅊ지 [5]	ㅇㅇ(106.101)	06.12	115	1
491619	일반	인생 관점에서 보면 지금이 제일 최악이 아닐까 싶다	ㅇㅇ(125.130)	06.12	94	0
491618	일반	2029년 안에 나노봇으로 모든 질병을 치료하게 된다 했는데 [2]	ㅇㅇ(112.185)	06.12	114	0
491617	일반	4o는 문과적 능력은 기대하지 마삼.	ㅇㅇ(121.186)	06.12	74	0
491615	일반	서울에서 군복‏무 한게 은수저가 아니면 머임? [6]	ㅇㅇ(1.229)	06.12	86	0
491614	일반	애플 사용자 여러분들	도지500층	06.12	34	1
491612	일반	왜왜로 소름끼치는 사실 ㄷㄷ [1]	ㅇㅇ(211.234)	06.12	122	0
491611	일반	지금 gpt성능 완전 쓰레기네 [4]	ㅇㅇ(121.128)	06.12	187	0
491610	일반	너넨 agi 달성 '가능성' 언제까지 기다릴 수 있음 [6]	ㅇㅇ(103.237)	06.12	128	0
491609	일반	난 몇달전부터 기업 상대로 gpt5 사전체험 시켜주길래 [2]	그리폰왜케쌤?	06.12	239	0
491607	일반	AI에 1도 기여안한 잡놈들이 AI로 설쳐대는거 존나 혐오스럽고가소롭다 [3]	ㅇㅇ(118.42)	06.12	141	0
491606	일반	한녀 한녀 거리는 애들 특ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ [5]	ㅇㅇ(211.36)	06.12	212	2
491605	일반	어 대선 때문이야	ㅇㅇ(211.184)	06.12	41	0
491604	일반	약속의 2025가 다가온다 [3]	ㅇㅇ(112.171)	06.12	154	1
491603	일반	취준 시작했다 [2]	ㅇㅇ(175.223)	06.12	120	0
491602	일반	6월 3일날 보이스 나올 줄 알았으면 개추	zzb	06.12	145	10
491601	일반	매년 똑같은 현상이 반복됨 [3]	ㅇㅇ(58.224)	06.12	208	3
491600	일반	테드 창 작가인 것 뿐만 아니라 근무?도 하지 않았음? [1]	ㅇㅇ(106.101)	06.12	101	0
491599	일반	gpt4o 쓰지마라 진짜 좆구리다 지금 [2]	네덕근첩	06.12	363	3
491598	일반	아오 무료놈들 쳐내라 [2]	ㅇㅇ(1.252)	06.12	133	0
491597	일반	ㅌㅇㅈ ㅈㅂ 236ㅇㅊ	포스트휴먼.	06.12	36	1
491595	일반	몇시간전부터 지켜보는데 완장 일 존나 안하네 씨발련 [6]	ㅇㅇ(211.179)	06.12	395	13
491594	일반	도대체 유럽이 갑이라는 소리가 무슨소리냐 [1]	ㅇㅇ(59.12)	06.12	112	0
491593	일반	아마 agi는	ㅇㅇ(211.36)	06.12	71	0
491590	일반	전에 6개월뒤에 agi온다던 서양유투버 근황좀	ㅇㅇ(223.38)	06.12	99	0
491589	일반	openai식 전유물 깨기 = 무료로 풀면서 유료유저 느리게 만들기 [2]	ㅇㅇ	06.12	184	3
491588	일반	유튭들이 말하는거 너무 믿으면 안되 [2]	ㅇㅇ	06.12	97	0
491586	일반	보이스 늦게낸다고 욕하지말고 항상 oai한테 감사해라	ㅇㅇ	06.12	91	0
491585	일반	삼성은 메모리 찍어내는것만 해도 특이점에 기여 좀 하는거 아니냐 [21]	ㅇㅇ	06.12	325	5
491584	일반	애플이 삼성보다 못한 이유 [1]	ㅇㅇ(221.141)	06.12	131	1
491583	일반	특슬람들이 생각하는 agi vs 기업들이 생각하는 agi [9]	ㅇㅇ(1.237)	06.12	226	0
491581	일반	질문 3개 , 전문가들있으면 좀 알려주라 [1]	ㅇㅇ(211.36)	06.12	99	0
491580	일반	클로드3 매운데	엠창인생막장의끝	06.12	102	0
491577	일반	AI갤에서 왜 엽충이를 찾음? [9]	ㅇㅇ(106.101)	06.12	223	6
491576	일반	그냥 이번 gpt5가 진짜 중요하다고 생각함	ㅇㅇ	06.12	141	0
491575	일반	애플이고 나발이고 agi 나오면 게임 끝인데 뭔 상관임 [6]	ㅇㅇ(110.46)	06.12	163	0
491574	일반	은근 미국 가전 시장에서 경쟁력 있나보네 [8]	ㅇㅇ(175.125)	06.12	302	1
491572	일반	특이점은 이제부터 시작이다.. [2]	ㅇㅇ(211.36)	06.12	153	1