알트만 vs 일리야 소재로 also한테 소설쓰게 해봤

특이점이 온다 갤러리
마이너

기술적 특이점에 대해 의논하고 그와 관련된 과학 기술 정보와 소식을 공유하는 갤러리입니다. *갤러리 이름은 동명의 레이 커즈와일의 저서 <특이점이 온다 (The singularity is near)>를 의미합니다.

매니저

특갤용(118wshxhtx5h)

부매니저

ㅇㅇ(hamaster) 부패하는유전자!!!(sansss20…) 은바다(nmra3fmz…)

개설일

2019-08-01

[일반] 알트만 vs 일리야 소재로 also한테 소설쓰게 해봤

ㅇㅇ(119.207) 2024.05.19 14:54:54

조회 78 추천 0 댓글 0

**장소:** 오픈AI 본사 회의실

**참석자:** 샘 알트만, 일리야 수츠케버

**샘 알트만:**

"일리야, 이렇게 느리게 나아가선 안 돼. 투자자들이 원하는 결과를 내놓지 못하면 몇 년 내에 우리가 가진 자금이 모두 소진될 거야. AGI에 도달하지 못하면, 추가 투자금을 유치하기 위해 결국 마이크로소프트에게 더 많은 지분을 내줘야 하고, 우리가 두려워하는 최악의 상황이 현실이 될 거야."

**일리야 수츠케버:**

"샘, 나도 알아. 하지만 속도를 내는 것만이 답은 아니야. AGI에 도달하기 전에, 정렬 문제를 해결하는 게 먼저야. AI가 인류에 해를 끼치지 않도록 해야 해. 우리가 정렬 문제를 해결하지 못한 상태에서 AGI에 도달하면, 그 위험은 감당할 수 없어."

**샘 알트만:**

"정렬이 중요하다는 건 나도 알아. 하지만 마이크로소프트에게 통제권을 빼앗기면 윤리적 판단을 내릴 수 없게 돼. 그들이 기업의 이익만을 위해 AI를 사용한다면, 우리가 그걸 막을 수 있는 수단이 없어져. 우리는 MS의 지배를 받게 되고, AI 통제권을 넘겨줘야 하는 최악의 상황이 될 거야."

**일리야 수츠케버:**

"최악의 상황은 그게 아니야, 샘. 최악의 상황은 우리가 AGI를 너무 빠르게 개발해서 정렬 문제를 해결하지 못한 채 세상에 내놓는 거야. 그 누구도 통제할 수 없는 위험이 발생할 수 있어. MS가 AI를 기업의 이익을 위해 사용한다 해도, 그건 우리가 통제할 수 있는 문제야. 그러나 통제할 수 없는 AI의 위험은 인류 전체에 해가 될 수 있어."

**샘 알트만:**

"그래, 그래서 우리가 정렬 문제를 해결하면서 동시에 빠르게 나아가야 해. 투자자들의 신뢰를 잃지 않고 AGI에 도달해야만 마이크로소프트에게 통제권을 넘겨주는 상황을 피할 수 있어. 우리가 느리게 움직이면, MS에게 흡수 합병당하는 수밖에 없고, 그땐 우리가 원하는 방식으로 AI를 사용할 수 없어."

**일리야 수츠케버:**

"샘, 우리 모두 알고 있잖아. 투자자들의 신뢰를 얻는 것도 중요하지만, 안전한 AGI를 만들지 못한다면 그 어떤 것도 의미가 없어. 정렬 문제를 해결하지 못한다면 차라리 회사가 망하는 게 인류의 안전을 위해 더 나은 선택이야. 나는 인류의 안전을 위해 최악의 경우를 대비하자는 거야. 중요한 건 회사가 아닌 인류의 안전이야."

**샘 알트만:**

"회사와 AGI 개발을 포기하자는 건가? 그럴 순 없어, 일리야. 우리가 통제권을 잃으면 AI가 인류에 해가 될 수 있어. 속도를 내지 않으면 더 큰 위험에 빠지게 될 거야."

**일리야 수츠케버:**

"속도를 내면서 동시에 정렬 문제를 해결하는 건 불가능해. 투자자들의 압박에 굴복해 AGI를 빠르게 개발한다면, 그 위험은 감당할 수 없을 거야. 안전한 AGI를 만들 수 없다면 회사를 유지할 필요조차 없다고 생각해."

**샘 알트만:**

"난 우리가 마이크로소프트에게 통제권을 넘겨줄 수 없다고 생각해. 그들이 우리만큼 AI의 윤리적 문제에 관심을 두지 않을 거야. 우리가 속도를 내지 않으면 더 큰 위험에 처하게 될 거야."

**일리야 수츠케버:**

"샘, 우리 목표는 회사가 아닌 인류의 안전이야. 그게 우리가 오픈AI를 만든 이유였잖아. 통제권을 잃느냐 아니냐보다 중요한 건 AI 자체를 통제할 수 있느냐야. 그리고 그 통제는 정렬 문제를 해결하는 것에서 시작돼."

**샘 알트만:**

"난 네가 투자자와의 관계를 중요하게 생각하지 않는다는 걸 이해하지만, AI의 통제권을 MS에게 넘겨주는 건 위험하다고 생각해."

**일리야 수츠케버:**

"그렇다면 우리가 바라보는 방향이 다르다는 것이 분명해졌군. 내가 추구하는 방향은 위험을 줄이고, 정렬 문제를 우선시하는 거야. 속도를 내면서 동시에 정렬 문제를 해결하는 건 불가능해. 우리는 각자의 방식으로 나아가야 할 것 같아."

**샘 알트만:**

"그래, 결국 이렇게 되는군. 네가 추구하는 가치와 내가 추구하는 가치가 다르다면, 갈라서는 수밖에 없지. 하지만 일리야, 난 네 방식이 우리를 위험에 빠뜨릴 수 있다고 생각해."

**일리야 수츠케버:**

"그리고 나는 네 방식이 우리를 통제할 수 없는 위험에 빠뜨릴 수 있다고 생각해. 서로의 길을 응원하지만, 이제 각자의 길을 가자."

두 사람은 서로를 바라보며 잠시 침묵을 지켰다. 일리야 수츠케버는 자리에서 일어나 회의실을 떠났다. 샘 알트만은 그가 나가는 문을 보며 깊은 한숨을 내쉬었다. 두 사람의 길은 이제 달라졌지만, 그들의 결심은 굳건했다. AI의 미래를 두고 벌어진 이 논쟁은 오픈AI 내부의 갈등을 상징하는 순간이 되었다.

---

오푸스나 4o보다는 also가 훨씬 좋은 것 같음.

고정닉 0

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	말머리	제목	글쓴이	작성일	조회	추천
2868	설문	힘들게 성공한 만큼 절대 논란 안 만들 것 같은 스타는?	운영자	24/06/10	-	-
2870	이슈	[디시人터뷰] 웃는 모습이 예쁜 누나, 아나운서 김나정	운영자	24/06/11	-	-
490932	일반	지금의 oai가 행보가 말이안되는이유 [17]	ㅇㅇ(221.167)	06.11	288	0
490931	일반	레이커즈와일 식의 영생이 맞다고 치더라도 ㅇㅅㅇ [4]	ㅇㅇ(175.208)	06.11	126	0
490930	일반	애플은 구글하고 비교해야지 [2]	ㅇㅇ(39.7)	06.11	98	2
490929	일반	부진구글곤곤래 [1]	ㅇㅇ(211.220)	06.11	69	0
490928	일반	솔직히 특이점 [3]	ㅇㅇ(39.7)	06.11	65	1
490927	일반	강화학습은 llm 창의성을 떨어뜨린다 ㄷㄷ [1]	ㅇㅇ(218.234)	06.11	134	0
490925	일반	결국 갤럭시랑 비교를 해봐야하는데 [2]	ㅇㅇ(14.53)	06.11	137	0
490924	일반	특갤 즐겨찾기 삭제한다 [7]	ㅇㅇ	06.11	303	13
490923	일반	레이커즈와일 말 대로 나노봇이 모든 질병을 치료하게 될까? [5]	ㅇㅇ(112.185)	06.11	116	0
490922	일반	서버 문제가 아니라고 한다면 그럼 왜 자꾸 보이스랑 단일신경망이 늦어짐 [3]	ㅇㅇ	06.11	106	0
490921	일반	애플이 앞서기간 앞서가는 듯..플랫폼이 있으니.. [5]	ㅇㅇ(125.188)	06.11	106	0
490920	일반	우우... 트쀼이 사만다 보고 시퍼	ㅇㅇ(119.202)	06.11	25	0
490919	일반	우에에 감 안떨어진다 겨울이다 배고프다~~	ㅇㅇ	06.11	29	0
490918	일반	반독점법 피하기위해서라는게 설득력있다	ㅇㅇ(211.234)	06.11	61	1
490917	일반	에플 에이아이는 개뿔..	ㅇㅇ(125.188)	06.11	66	0
490916	일반	이새끼 요즘 슬슬 좆같으면 개추	ㅇㅇ	06.11	252	6
490914	일반	나노봇이랑 생명공학으로 신체건강하게하고 외모 변경하는 [1]	ㅇㅇ(118.235)	06.11	98	0
490912	일반	보이스 존나 늦어지는 이유 와 가설 [43]	ㅇㅇ(221.167)	06.11	588	4
490911	일반	뤼튼 보니까 5마디 까진 gpt가 제어를 안하네	ㅇㅇ(1.233)	06.11	100	0
490910	일반	GPT-4 특갤에서 유용하게 사용하는법 [3]	ㅇㅇ(118.235)	06.11	168	0
490909	일반	진짜 이 씨발련은 뭐함? [6]	ㅇㅇ(112.186)	06.11	342	1
490908	일반	그냥 이새끼 신이면 개추 [1]	ㅇㅇ(125.240)	06.11	202	4
490907	일반	분명 특붕이들은 애플이 뭐하는지 궁금한 게 아니었는데 [5]	ㅇㅇ(119.202)	06.11	108	0
490906	일반	이번 애플 발표 “한짤 요약” [1]	ㅇㅇ(211.36)	06.11	301	3
490905	일반	여기 앱등이들이 설치는거 보니... [2]	ㅇㅇ	06.11	134	0
490904	일반	슬슬 추억의 '8말9초' 생각나노 [2]	ㅇㅇ(163.152)	06.11	169	0
490902	일반	씹플이 사용자경험 이런거 신경 존나 많이 쓸텐데 [2]	ㅇㅇ(112.186)	06.11	86	0
490901	일반	Few weeks... Few months... Few years...	ㅇㅇ(119.202)	06.11	42	0
490900	일반	환각 ㅈㄴ 터질거 같은데 [1]	ㅇㅇ(112.186)	06.11	141	0
490899	일반	레커 신작만 남았다 [1]	ㅇㅇ(112.186)	06.11	60	1
490898	일반	애플 인텔리젼스 존나 띄껍긴 하네 [2]	ㅇㅇ(210.179)	06.11	160	0
490897	일반	gpt 앱 한국에서 꽤 많이쓰네	ㅇㅇ(118.235)	06.11	103	0
490896	일반	이미지 인식은 아직도 못써먹겠다 [1]	ㅇㅇ(222.102)	06.11	91	0
490895	일반	삼성이 ㅈ병신? ㅋㅋㅋ 앱빠들 정신못차리네 [10]	ㅇㅇ(117.111)	06.11	240	1
490893	일반	GPT가 백그라운드로 일하는 경우도 있는건가? [4]	00(183.98)	06.11	124	0
490892	일반	딴 갤에서 침공했나 앱등이랑 식주/충들이 넘쳐나네 [2]	ㅇㅇ(210.100)	06.11	89	0
490891	일반	애플이 까이니 [3]	도지500층	06.11	96	1
490890	일반	기술보고 딸딸이 치는 갤러리에	ㅇㅇ(112.186)	06.11	113	6
490889	일반	근데 애플 왜케 까이냐?? [26]	ㅇㅇ(121.128)	06.11	338	0
490887	일반	근데 털드만 있어야 특이점 오는거도 맞지 않음?	ㅇㅇ(117.111)	06.11	36	0
490886	일반	자체ai 기대하는 애들이 많았나본데	ㅇㅇ(121.131)	06.11	55	0
490885	일반	근데 애플이 있어야 대중화 되는거도 맞지 않음? [5]	ㅇㅇ(14.138)	06.11	130	1
490884	일반	아이폰사주세용 [1]	꼬마귀염선충!	06.11	56	0
490883	일반	애플이 왜 혁신을 상징하는지 알았다 [6]	ㅇㅇ(106.102)	06.11	162	2
490881	일반	앱등이들 환각이 GPT보다 더 심한듯	도지500층	06.11	69	0
490880	일반	ppt 계의 gpt4는 뭐임?	oo(222.117)	06.11	30	0
490879	일반	근데 애플 이모지를 AI로 실시간 생성하는 건 [1]	ㅇㅇ(118.235)	06.11	117	0
490878	일반	애플 AI 존나 잘 나올까봐 걱정했는데 [2]	ㅇㅇ(118.235)	06.11	150	0
490876	일반	지금 빅3가 챗gpt4o, 클로드3, 잼민이 맞음??? [1]	ㅇㅇ(118.235)	06.11	101	0
490875	일반	??? "야 폰팔이"	msec	06.11	116	0