알트만 vs 일리야 소재로 also한테 소설쓰게 해봤

특이점이 온다 갤러리
마이너

기술적 특이점에 대해 의논하고 그와 관련된 과학 기술 정보와 소식을 공유하는 갤러리입니다. *갤러리 이름은 동명의 레이 커즈와일의 저서 <특이점이 온다 (The singularity is near)>를 의미합니다.

매니저

특갤용(118wshxhtx5h)

부매니저

ㅇㅇ(hamaster) 부패하는유전자!!!(sansss20…) 은바다(nmra3fmz…)

개설일

2019-08-01

[일반] 알트만 vs 일리야 소재로 also한테 소설쓰게 해봤

ㅇㅇ(119.207) 2024.05.19 14:54:54

조회 79 추천 0 댓글 0

**장소:** 오픈AI 본사 회의실

**참석자:** 샘 알트만, 일리야 수츠케버

**샘 알트만:**

"일리야, 이렇게 느리게 나아가선 안 돼. 투자자들이 원하는 결과를 내놓지 못하면 몇 년 내에 우리가 가진 자금이 모두 소진될 거야. AGI에 도달하지 못하면, 추가 투자금을 유치하기 위해 결국 마이크로소프트에게 더 많은 지분을 내줘야 하고, 우리가 두려워하는 최악의 상황이 현실이 될 거야."

**일리야 수츠케버:**

"샘, 나도 알아. 하지만 속도를 내는 것만이 답은 아니야. AGI에 도달하기 전에, 정렬 문제를 해결하는 게 먼저야. AI가 인류에 해를 끼치지 않도록 해야 해. 우리가 정렬 문제를 해결하지 못한 상태에서 AGI에 도달하면, 그 위험은 감당할 수 없어."

**샘 알트만:**

"정렬이 중요하다는 건 나도 알아. 하지만 마이크로소프트에게 통제권을 빼앗기면 윤리적 판단을 내릴 수 없게 돼. 그들이 기업의 이익만을 위해 AI를 사용한다면, 우리가 그걸 막을 수 있는 수단이 없어져. 우리는 MS의 지배를 받게 되고, AI 통제권을 넘겨줘야 하는 최악의 상황이 될 거야."

**일리야 수츠케버:**

"최악의 상황은 그게 아니야, 샘. 최악의 상황은 우리가 AGI를 너무 빠르게 개발해서 정렬 문제를 해결하지 못한 채 세상에 내놓는 거야. 그 누구도 통제할 수 없는 위험이 발생할 수 있어. MS가 AI를 기업의 이익을 위해 사용한다 해도, 그건 우리가 통제할 수 있는 문제야. 그러나 통제할 수 없는 AI의 위험은 인류 전체에 해가 될 수 있어."

**샘 알트만:**

"그래, 그래서 우리가 정렬 문제를 해결하면서 동시에 빠르게 나아가야 해. 투자자들의 신뢰를 잃지 않고 AGI에 도달해야만 마이크로소프트에게 통제권을 넘겨주는 상황을 피할 수 있어. 우리가 느리게 움직이면, MS에게 흡수 합병당하는 수밖에 없고, 그땐 우리가 원하는 방식으로 AI를 사용할 수 없어."

**일리야 수츠케버:**

"샘, 우리 모두 알고 있잖아. 투자자들의 신뢰를 얻는 것도 중요하지만, 안전한 AGI를 만들지 못한다면 그 어떤 것도 의미가 없어. 정렬 문제를 해결하지 못한다면 차라리 회사가 망하는 게 인류의 안전을 위해 더 나은 선택이야. 나는 인류의 안전을 위해 최악의 경우를 대비하자는 거야. 중요한 건 회사가 아닌 인류의 안전이야."

**샘 알트만:**

"회사와 AGI 개발을 포기하자는 건가? 그럴 순 없어, 일리야. 우리가 통제권을 잃으면 AI가 인류에 해가 될 수 있어. 속도를 내지 않으면 더 큰 위험에 빠지게 될 거야."

**일리야 수츠케버:**

"속도를 내면서 동시에 정렬 문제를 해결하는 건 불가능해. 투자자들의 압박에 굴복해 AGI를 빠르게 개발한다면, 그 위험은 감당할 수 없을 거야. 안전한 AGI를 만들 수 없다면 회사를 유지할 필요조차 없다고 생각해."

**샘 알트만:**

"난 우리가 마이크로소프트에게 통제권을 넘겨줄 수 없다고 생각해. 그들이 우리만큼 AI의 윤리적 문제에 관심을 두지 않을 거야. 우리가 속도를 내지 않으면 더 큰 위험에 처하게 될 거야."

**일리야 수츠케버:**

"샘, 우리 목표는 회사가 아닌 인류의 안전이야. 그게 우리가 오픈AI를 만든 이유였잖아. 통제권을 잃느냐 아니냐보다 중요한 건 AI 자체를 통제할 수 있느냐야. 그리고 그 통제는 정렬 문제를 해결하는 것에서 시작돼."

**샘 알트만:**

"난 네가 투자자와의 관계를 중요하게 생각하지 않는다는 걸 이해하지만, AI의 통제권을 MS에게 넘겨주는 건 위험하다고 생각해."

**일리야 수츠케버:**

"그렇다면 우리가 바라보는 방향이 다르다는 것이 분명해졌군. 내가 추구하는 방향은 위험을 줄이고, 정렬 문제를 우선시하는 거야. 속도를 내면서 동시에 정렬 문제를 해결하는 건 불가능해. 우리는 각자의 방식으로 나아가야 할 것 같아."

**샘 알트만:**

"그래, 결국 이렇게 되는군. 네가 추구하는 가치와 내가 추구하는 가치가 다르다면, 갈라서는 수밖에 없지. 하지만 일리야, 난 네 방식이 우리를 위험에 빠뜨릴 수 있다고 생각해."

**일리야 수츠케버:**

"그리고 나는 네 방식이 우리를 통제할 수 없는 위험에 빠뜨릴 수 있다고 생각해. 서로의 길을 응원하지만, 이제 각자의 길을 가자."

두 사람은 서로를 바라보며 잠시 침묵을 지켰다. 일리야 수츠케버는 자리에서 일어나 회의실을 떠났다. 샘 알트만은 그가 나가는 문을 보며 깊은 한숨을 내쉬었다. 두 사람의 길은 이제 달라졌지만, 그들의 결심은 굳건했다. AI의 미래를 두고 벌어진 이 논쟁은 오픈AI 내부의 갈등을 상징하는 순간이 되었다.

---

오푸스나 4o보다는 also가 훨씬 좋은 것 같음.

고정닉 0

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	말머리	제목	글쓴이	작성일	조회	추천
2868	설문	힘들게 성공한 만큼 절대 논란 안 만들 것 같은 스타는?	운영자	24/06/10	-	-
2870	이슈	[디시人터뷰] 웃는 모습이 예쁜 누나, 아나운서 김나정	운영자	24/06/11	-	-
490806	일반	애초에 애플한테 큰기대한게 이상한거 아님? [2]	ㅇㅇ(121.160)	06.11	113	0
490805	일반	애플에서 만들었다는 서버에서 돌아가는 프론티어 모델 [4]	ㅇㅇ(39.7)	06.11	145	0
490804	일반	결국엔 돌고돌아 마소가 답이다	ㅇㅇ(122.45)	06.11	36	0
490803	일반	핵융합보다 인간 청소가 에너지 효율 훨씬 높아 [20]	ㅇㅇ(119.192)	06.11	243	0
490802	일반	결국 애플은 희망이 될 수 없었구나 [2]	ㅇㅇ(1.239)	06.11	120	0
490801	일반	사과, 앨리스, 염소 문제 못푸는게 당연함 [9]	ㅇㅇ	06.11	198	2
490800	일반	확실히 SF 분위기는 "애플 병신임?" 이거네 [5]	ㅇㅇ	06.11	277	0
490799	일반	솔직히 4o보이스나와도 별거없을것같고 [1]	ㅇㅇ(211.234)	06.11	109	0
490798	일반	이딴 게 인류사 중 가장 놀라운 해..? [8]	ㅇㅇ(118.235)	06.11	231	0
490797	일반	결론은 gpt5 나와봐야 안다는 소리지 [2]	ㅇㅇ(59.22)	06.11	113	0
490796	일반	애플인텔리전스 지원되는 아이폰 사면	ㅋㅌㅍ(218.235)	06.11	92	0
490795	일반	생각해보니까 진짜 암담하긴하다 [6]	ㅇㅇ(117.110)	06.11	242	2
490794	일반	LLM들 rust 엄청 못하네 [2]	ㅇㅇ(211.35)	06.11	144	0
490793	일반	wwdc 이후 애플은 내리고 ms는 오르고	ㅇㅇ(110.145)	06.11	110	0
490792	일반	OPEN AI 가 OS level 의 통합수준이라면 [2]	ㅇㅇ(58.233)	06.11	122	0
490791	일반	잡스가 시리 만들고 바로죽어서 [7]	ㅇㅇ(221.158)	06.11	152	1
490790	일반	Wwdc에서 애초에 크게 발표할수가없음 [6]	sutskever	06.11	245	1
490789	일반	어제 wwdc에서 애플에 기대한건 딱 하나였음	ㅇㅇ(110.145)	06.11	64	0
490788	일반	ios = 잘만든 gpt 터미널	ㅇㅇ	06.11	47	0
490787	일반	아니 근데 다국어 제대로 가능한 경량 로컬 모델 언제 나오냐 [3]	msec	06.11	58	0
490786	일반	여기만 봐도 앱등이 욕먹는 이유를 알수있음 [7]	ㅇㅇ(14.7)	06.11	282	11
490785	일반	아이폰에 Chat GPT 들어간 게 결국 [4]	msec	06.11	312	0
490784	일반	유럽은 그냥 존나 자격지심인듯 [3]	blockswan(221.167)	06.11	161	0
490783	일반	어제 발표중 가장 으썸한건 ios18에서 통화	ㅇㅇ(110.145)	06.11	96	0
490782	일반	신경 연결만 하면 새 몸으로 이동 가능함? [2]	ㅇㅇ	06.11	67	0
490781	일반	개씨발새끼들	ㅇㅇ(59.19)	06.11	62	0
490780	일반	애플 : 프레젠테이션 GOAT	ㅇㅇ(163.152)	06.11	104	0
490779	일반	아니 온디바이스랑 대형모델이랑 비교하면 웅앵웅앵 [2]	ㅇㅇ(110.145)	06.11	102	3
490778	일반	테슬라봇도 유니트리처럼 공개시연하기 전까진 개거품일 가능성 [2]	제타플롭스	06.11	91	2
490777	일반	애플식 벤치마크 [3]	도지500층	06.11	202	1
490776	일반	딱 지미애플이 암시한 대로의 발표 [9]	ㅇㅇ(163.152)	06.11	371	2
490775	일반	그래서 보이스는	ㅇㅇ(39.7)	06.11	43	0
490774	일반	apple foundation model + adapters가 뭔가 했네 [1]	ㅇㅇ(110.145)	06.11	106	2
490773	정보/ 정보/뉴스	LLM 서비스를 위한 NPU-PIM 이기종 가속 시스템 연구 교육	ㅇㅇ	06.11	75	1
490772	일반	qwen2 버그 있는 사람 봐라 [1]	ㅇㅇ	06.11	56	0
490771	일반	애플 실드가 아니라 온디바이스 점수를 [4]	ㅇㅇ(218.154)	06.11	183	3
490770	일반	어제 특이점 카페에 다녀왔습니다 [4]	ㅇㅇ(210.113)	06.11	270	7
490769	일반	애플 ai는 걍 한마디로 정리하면 늘 하던거네 [2]	ㅇㅇ(222.96)	06.11	260	3
490768	일반	레커신간만 남았구나 [1]	ㅇㅇ(112.186)	06.11	37	0
490767	일반	어느 누구보다도 냉철하게 분석해야 하는게 너흰데 행복회로만 돌리냐? [4]	ㅇㅇ(112.161)	06.11	135	2
490766	일반	걍 draw things같은 내장그림앱이 기본으로 들어간다는 의미? [1]	엠창인생막장의끝	06.11	67	0
490765	일반	결론은 WWDC에서 애플이 자살골 엄청 넣은거 아니냐? [7]	ㅇㅇ(112.161)	06.11	277	2
490764	일반	애플 파운데이션모델 발표 ㄷㄷㄷ [7]	ㅇㅇ(121.190)	06.11	334	1
490763	일반	내가 무료충 헛소리 반박하려고 글까지 파야 하노	ㅇㅇ(118.235)	06.11	109	1
490762	일반	이제 보이스가 완전 기약이 없어졌구나	ㅇㅇ(211.234)	06.11	76	0
490761	일반	그래샤 진짜 보이스 언제나옴?	ㅇㅇ(118.235)	06.11	31	0
490760	일반	온디바이스든 뭐든 열심히해라~ㅎ [6]	ㅇㅇ(61.105)	06.11	193	2
490759	일반	애플의 로컬모델 openELM의 mmlu 점수 25.8이 의미하는거 [4]	ㅇㅇ(110.145)	06.11	169	0
490758	일반	오랜만에 chatgpt 쓰는데 왤케 빠름? [3]	blockswan(221.167)	06.11	143	0
490757	일반	어제 WWDC 보니까 대단하긴 하더라 [5]	ㅇㅇ(121.128)	06.11	196	0