알트만 vs 일리야 소재로 also한테 소설쓰게 해봤

특이점이 온다 갤러리
마이너

기술적 특이점에 대해 의논하고 그와 관련된 과학 기술 정보와 소식을 공유하는 갤러리입니다. *갤러리 이름은 동명의 레이 커즈와일의 저서 <특이점이 온다 (The singularity is near)>를 의미합니다.

매니저

특갤용(118wshxhtx5h)

부매니저

ㅇㅇ(hamaster) 부패하는유전자!!!(sansss20…) 은바다(nmra3fmz…)

개설일

2019-08-01

[일반] 알트만 vs 일리야 소재로 also한테 소설쓰게 해봤

ㅇㅇ(119.207) 2024.05.19 14:54:54

조회 81 추천 0 댓글 0

**장소:** 오픈AI 본사 회의실

**참석자:** 샘 알트만, 일리야 수츠케버

**샘 알트만:**

"일리야, 이렇게 느리게 나아가선 안 돼. 투자자들이 원하는 결과를 내놓지 못하면 몇 년 내에 우리가 가진 자금이 모두 소진될 거야. AGI에 도달하지 못하면, 추가 투자금을 유치하기 위해 결국 마이크로소프트에게 더 많은 지분을 내줘야 하고, 우리가 두려워하는 최악의 상황이 현실이 될 거야."

**일리야 수츠케버:**

"샘, 나도 알아. 하지만 속도를 내는 것만이 답은 아니야. AGI에 도달하기 전에, 정렬 문제를 해결하는 게 먼저야. AI가 인류에 해를 끼치지 않도록 해야 해. 우리가 정렬 문제를 해결하지 못한 상태에서 AGI에 도달하면, 그 위험은 감당할 수 없어."

**샘 알트만:**

"정렬이 중요하다는 건 나도 알아. 하지만 마이크로소프트에게 통제권을 빼앗기면 윤리적 판단을 내릴 수 없게 돼. 그들이 기업의 이익만을 위해 AI를 사용한다면, 우리가 그걸 막을 수 있는 수단이 없어져. 우리는 MS의 지배를 받게 되고, AI 통제권을 넘겨줘야 하는 최악의 상황이 될 거야."

**일리야 수츠케버:**

"최악의 상황은 그게 아니야, 샘. 최악의 상황은 우리가 AGI를 너무 빠르게 개발해서 정렬 문제를 해결하지 못한 채 세상에 내놓는 거야. 그 누구도 통제할 수 없는 위험이 발생할 수 있어. MS가 AI를 기업의 이익을 위해 사용한다 해도, 그건 우리가 통제할 수 있는 문제야. 그러나 통제할 수 없는 AI의 위험은 인류 전체에 해가 될 수 있어."

**샘 알트만:**

"그래, 그래서 우리가 정렬 문제를 해결하면서 동시에 빠르게 나아가야 해. 투자자들의 신뢰를 잃지 않고 AGI에 도달해야만 마이크로소프트에게 통제권을 넘겨주는 상황을 피할 수 있어. 우리가 느리게 움직이면, MS에게 흡수 합병당하는 수밖에 없고, 그땐 우리가 원하는 방식으로 AI를 사용할 수 없어."

**일리야 수츠케버:**

"샘, 우리 모두 알고 있잖아. 투자자들의 신뢰를 얻는 것도 중요하지만, 안전한 AGI를 만들지 못한다면 그 어떤 것도 의미가 없어. 정렬 문제를 해결하지 못한다면 차라리 회사가 망하는 게 인류의 안전을 위해 더 나은 선택이야. 나는 인류의 안전을 위해 최악의 경우를 대비하자는 거야. 중요한 건 회사가 아닌 인류의 안전이야."

**샘 알트만:**

"회사와 AGI 개발을 포기하자는 건가? 그럴 순 없어, 일리야. 우리가 통제권을 잃으면 AI가 인류에 해가 될 수 있어. 속도를 내지 않으면 더 큰 위험에 빠지게 될 거야."

**일리야 수츠케버:**

"속도를 내면서 동시에 정렬 문제를 해결하는 건 불가능해. 투자자들의 압박에 굴복해 AGI를 빠르게 개발한다면, 그 위험은 감당할 수 없을 거야. 안전한 AGI를 만들 수 없다면 회사를 유지할 필요조차 없다고 생각해."

**샘 알트만:**

"난 우리가 마이크로소프트에게 통제권을 넘겨줄 수 없다고 생각해. 그들이 우리만큼 AI의 윤리적 문제에 관심을 두지 않을 거야. 우리가 속도를 내지 않으면 더 큰 위험에 처하게 될 거야."

**일리야 수츠케버:**

"샘, 우리 목표는 회사가 아닌 인류의 안전이야. 그게 우리가 오픈AI를 만든 이유였잖아. 통제권을 잃느냐 아니냐보다 중요한 건 AI 자체를 통제할 수 있느냐야. 그리고 그 통제는 정렬 문제를 해결하는 것에서 시작돼."

**샘 알트만:**

"난 네가 투자자와의 관계를 중요하게 생각하지 않는다는 걸 이해하지만, AI의 통제권을 MS에게 넘겨주는 건 위험하다고 생각해."

**일리야 수츠케버:**

"그렇다면 우리가 바라보는 방향이 다르다는 것이 분명해졌군. 내가 추구하는 방향은 위험을 줄이고, 정렬 문제를 우선시하는 거야. 속도를 내면서 동시에 정렬 문제를 해결하는 건 불가능해. 우리는 각자의 방식으로 나아가야 할 것 같아."

**샘 알트만:**

"그래, 결국 이렇게 되는군. 네가 추구하는 가치와 내가 추구하는 가치가 다르다면, 갈라서는 수밖에 없지. 하지만 일리야, 난 네 방식이 우리를 위험에 빠뜨릴 수 있다고 생각해."

**일리야 수츠케버:**

"그리고 나는 네 방식이 우리를 통제할 수 없는 위험에 빠뜨릴 수 있다고 생각해. 서로의 길을 응원하지만, 이제 각자의 길을 가자."

두 사람은 서로를 바라보며 잠시 침묵을 지켰다. 일리야 수츠케버는 자리에서 일어나 회의실을 떠났다. 샘 알트만은 그가 나가는 문을 보며 깊은 한숨을 내쉬었다. 두 사람의 길은 이제 달라졌지만, 그들의 결심은 굳건했다. AI의 미래를 두고 벌어진 이 논쟁은 오픈AI 내부의 갈등을 상징하는 순간이 되었다.

---

오푸스나 4o보다는 also가 훨씬 좋은 것 같음.

고정닉 0

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	말머리	제목	글쓴이	작성일	조회	추천
2868	설문	힘들게 성공한 만큼 절대 논란 안 만들 것 같은 스타는?	운영자	24/06/10	-	-
2870	이슈	[디시人터뷰] 웃는 모습이 예쁜 누나, 아나운서 김나정	운영자	24/06/11	-	-
491825	일반	나도 양특붕이 반응 궁금하긴 함 [2]	ㅇㅇ(58.77)	06.12	71	0
491824	일반	제미나이 1.5 프로가 매개변수 낮은 모델 아님? [2]	ㅇㅇ(210.182)	06.12	102	0
491823	일반	스타링크 가격 확 낮추면 온디바이스 안해도 되지않음? [3]	ㅇㅇ(122.43)	06.12	68	0
491822	일반	내가 llm 부정적인글 많이 쓰긴했는데 [7]	ㅇㅇ(211.107)	06.12	203	1
491821	일반	개구쟁이 일론머스크가 AGI 개발한다고 봄 [2]	ㅇㅇ(211.179)	06.12	140	0
491820	일반	Ai 발전정체가 계속될 가능성이 높은 이유 [2]	ㅇㅇ(125.184)	06.12	226	1
491819	정보/ 정보/뉴스	[재업] AI를 개발하는 AI, 스스로 개선하는 진화의 시작 [2]	천재까마귀	06.12	343	8
491818	정보/ 정보/뉴스	테슬라 공장에서 작업하는 옵티머스 봇 두대 배치했다고 최근 트위터 올림 [2]	ㅇㅇ(125.183)	06.12	208	2
491816	일반	특갤인데 완장들은 아직도 수동으로 갤관리함? [2]	ㅇㅇ(122.43)	06.12	110	1
491814	일반	Agi와도 open ai가 만든건 아닐거같음	ㅇㅇ(218.146)	06.12	66	0
491813	일반	좆같지만 제미나이 써야겠다	ㅇㅇ(119.207)	06.12	61	0
491809	일반	OAI 존나 짜치는 게 뭐냐면 [1]	ㅇㅇ(211.235)	06.12	147	0
491807	일반	특갤은 선형충이 쳐먹고 나스닥은 특슬람이 쳐먹었네 [3]	ㅇㅇ(118.235)	06.12	160	0
491806	일반	이쯤 다시 보는 WWDC 성공 1등 공신 [1]	ㅇㅇ	06.12	123	0
491803	일반	이제 LLM 아님	ㅇㅇ(221.167)	06.12	133	0
491800	일반	few weeks later (3개월 후) [1]	ㅇㅇ(211.235)	06.12	104	0
491798	일반	5년뒤면 로봇이 어항 자동으로 관리해주겠지	갤럭시빠	06.12	38	0
491797	일반	지금 레딧 양키 특붕이들도 여기랑 상황 비슷하냐? [4]	ㅇㅇ(121.157)	06.12	161	0
491795	일반	지금 특갤와서 욕하는 애들 특 [6]	ㅇㅇ(218.146)	06.12	258	7
491793	일반	그냥 잘 정렬된 llm과 함께하는 삶이 될거같다 [1]	ㅇㅇ	06.12	86	0
491791	일반	GPT 서버 개같다 [1]	ㅇㅇ(119.207)	06.12	82	0
491789	일반	여기는 분위기 장례식장인데 애플은 시총1위탈환 [2]	ㅇㅇ(218.146)	06.12	194	0
491788	일반	작년에도 똑같은 지적 분명히 있었음 ㅇㅇ [3]	ㅇㅇ(211.185)	06.12	145	1
491787	일반	제미니 성능 좋아진 거 ㄹㅇ 맞긴 해?? [3]	ㅇㅇ(121.128)	06.12	158	0
491786	일반	갤러리 왜 이렇게 듣도 보도 못한 아이피들이 왤케 많노? [5]	닉얼	06.12	122	0
491785	일반	어 형이야	ㅇㅇ(118.223)	06.12	94	0
491784	일반	ㅅㅂ 파딱이 일 하던 시기가 그립구나	ㅇㅇ(112.163)	06.12	79	0
491783	일반	특갤은 레커타임인지 르쿤타임인지만 체크하면 댐	dd(114.200)	06.12	41	0
491780	일반	걍 지금 절망&노동 갤러리로 가다가도 [1]	ㅇㅇ	06.12	113	0
491776	일반	뭐 발표했나 특갤 순위 점프 뭐노	ㅇㅇ(121.157)	06.12	51	0
491775	일반	아가리년 성미로선 큐스타 진척있으면 진작 털었지 ㅋ	ㅇㅇ(14.42)	06.12	37	1
491771	일반	openai가 ai 개발해봤자 돈은 애플이 범. [2]	ㅇㅇ(211.235)	06.12	128	0
491770	일반	정당한 지적인데 글 지워져서 좆같다고?	ㅇㅇ	06.12	83	0
491769	일반	ㅅㅂ ㅋㅋㅋㅋ 머스크도 무안했나보노 [2]	ㅇㅇ(14.42)	06.12	233	1
491768	일반	stable diffusion 3 medium 공개됨 [3]	ㅇㅇ(110.145)	06.12	209	3
491767	일반	갤주는 인공지능이 문제가 아니라	ㅇㅇ(121.186)	06.12	37	0
491766	일반	사실 존나 큰 희망이 있기는 함 [4]	ㅇㅇ(125.183)	06.12	294	1
491765	일반	근데 갤주 단계적 수명증가로 특이점까지 버틸수있는거 맞냐 [2]	유포터블	06.12	105	0
491763	일반	gpt 컴퓨터로는 개느리네;; [1]	Luftwaffe	06.12	82	0
491762	AI창 AI창작	고요한 밤	ㅊㅊ	06.12	107	1
491761	일반	노동하자 노동. 다들 국비학원이라도 들어가라 [2]	dd(114.200)	06.12	146	0
491760	일반	솔직하게 마인드업로드 존나 말이 안됨 ㄷㄷ [3]	ㅇㅇ(211.179)	06.12	181	0
491758	일반	ai 겨울이 가고 봄이 찾아오죠 [1]	ㅇㅇ	06.12	57	0
491756	일반	끝났다 한계가 왔다 [1]	ㅇㅇ(223.38)	06.12	128	0
491755	일반	얀르쿤이 특갤 갤주냐 [1]	ㅇㅇ(125.137)	06.12	88	1
491754	일반	양자컴 넘 기대 갖지마라	aass(118.33)	06.12	83	0
491753	일반	유입들 존나 많노 갤주에게 경배드려라 [3]	ㅇㅇ(1.233)	06.12	147	2
491752	일반	아무리생각해도 scailing법칙의 한계가 온거같음 [6]	ㅇㅇ(221.147)	06.12	233	0
491751	일반	발표한 시리는 LLM 방식은 아니지? [1]	애플몰빵	06.12	83	0
491749	일반	중국이 인간 실제로 갈아넣으면서 실험하겠지?	ㅇㅇ(220.84)	06.12	75	0