소신)OpenAI의 NDA는 1984의 이중사고와 비슷함 - 특이점이 온다 마이너 갤러리

기술적 특이점에 대해 의논하고 그와 관련된 과학 기술 정보와 소식을 공유하는 갤러리입니다. *갤러리 이름은 동명의 레이 커즈와일의 저서 <특이점이 온다 (The singularity is near)>를 의미합니다.

매니저

특갤용(118wshxhtx5h)

부매니저

ㅇㅇ(hamaster) 부패하는유전자!!!(sansss20…) 은바다(nmra3fmz…)

개설일

2019-08-01

[일반] 소신)OpenAI의 NDA는 1984의 이중사고와 비슷함

모브

2024.05.18 05:18:25

조회 323 추천 7 댓글 4

https://www.vox.com/future-perfect/2024/5/17/24158478/openai-departures-sam-altman-employees-chatgpt-release

ChatGPT can talk, but OpenAI employees sure can’t

Why is OpenAI’s superalignment team imploding?

www.vox.com

직원들은 OpenAI를 떠날 때 NDA(기밀유지서약)에 서명하는데, 이를 거부하거나 위반하면 지금까지 벌어들였던 스톡을 토해내야 함.

기밀유지서약의 조항은

1. OpenAI 비방 금지

2. 남은 생애 동안 이전 고용주를 비판하는 행위 금지

3. 이 조약이 존재한다는 사실을 인정하는 행위조차 금지

이렇기 때문에 일리야를 비롯한 수많은 직원들이 OpenAI를 떠나면서 "나는 사임했다" 정도의 말 밖에 할 수 없었던 것.

a15714ab041eb360be3335625683746f0053452cd6a7e389d73062f09e12cd6e007ac0cbde626f190160094184

Jan Leike: 나는 사임했다.

그런데 오늘 Jan이 장문의 OpenAI 비판 글을 올리면서 이 조약을 위반했고, 아마 그동안 대가로 받았던 스톡을 포기해야 할 수도 있음.

그리고 이 모든 행태는 1984의 이중사고와 너무나도 비슷함.

74eb803eb59c2fa36caff68b12d21a1d110eae5e70

0997d274f0da0c93479ef7b12686767396d1c4eb54e837fafa2ebbc0e86419

알면서 모른다는 것, 완전한 진실을 알고 있으면서 반면 교묘하게 꾸며진 거짓말을 한다는 것, 상반된 두 가지 의견을 동시에 가지고 있다는 것, 모순되는 줄 알면서 그 두 가지를 다 믿는다는 것, 잊어버릴 필요가 있는 것은 무엇이고 잊어버리고 필요한 때는 재차 기억 속에 끌어들였다가 다음에 다시 잽싸게 잊어버리는 것

p.47 - 49

심지어 '이중사고'라는 낱말을 사용하는 데도 '이중사고'의 작용이 필요하다. 왜냐하면 그 말을 사용하면 현실을 멋대로 조작했다는 사실을 인정하게 되므로 다시 '이중사고'를 작용시켜 이런 생각을 없애 버리는데, 이런 식으로 끝없이 진행되면 거짓말은 언제나 진실의 한 발자국 앞에서 뛰어가게 되어 있다.

p.263

OpenAI 직원들은 NDA가 존재한다는 사실을 인정하면 안되므로 자신이 기밀유지서약에 서명했다는 사실조차 잊어버려야 함.

고정닉 6

원본 첨부파일 3본문 이미지 다운로드

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	말머리	제목	글쓴이	작성일	조회	추천
2864	설문	비난 여론에도 뻔뻔하게 잘 살 것 같은 스타는?	운영자	24/06/03	-	-
242613	공지	특갤 통합 공지 / 댓글 신고,문의 / 차단 해제 요청 [3136]	*특갤용*	23.08.06	39990	43
433260	공지	웬만하면 신문고에 문의 해주시면 차단 풀어드립니다 [2]	*부패하는유전자!!!*	24.03.06	2739	2
363220	공지	선형글 삭제 기준 [7]	*특갤용*	23.10.14	7460	24
375493	공지	필독) 유입 특붕이를 위한 AI 정보글 모음 (01/23) [40]	ㅇㅇ(182.230)	23.11.11	13647	122
373402	공지	직업 비하, 조롱 글 30일 차단됩니다. [51]	*특갤용*	23.11.07	9113	79
385147	공지	구글의 AGI 분류 체계 [17]	ㅇㅇ	23.11.22	8640	31
332612	공지	음모론 삭제 기준을 안내드립니다. [23]	*특갤용*	23.08.25	9346	30
412470	공지	레이 커즈와일 신간 6월 25일 발매 [29]	모브	24.01.24	8252	34
259237	공지	특갤 용어 모음집 [6]	*특갤용*	23.08.09	23024	33
488379	일반	[어그로] 인공지능이 드디어 인간을 지배한다! 이거 실화냐?!	ㅇㅇ(103.246)	05:29	34	0
488377	일반	gpt4o 문제를 풀어달라고 하는건 무리같고	ㅇㅇ(211.197)	04:56	42	0
488376	일반	그냥 시원하게 1-2개월 내에 적용시켜준다 발표하지 왜 어설프게	ㅎㅎ(61.82)	04:51	49	0
488375	일반	gpt 앱 한글 나만 박살나냐 [2]	ㅇㅇ(116.123)	03:57	84	0
488374	일반	내가 그림쪽 AI는 잘 몰라서 그러는데 [16]	ㅇㅇ(211.55)	03:45	251	0
488373	일반	능동적 특이점주의자가 많아져야 하는데 [3]	초존도초	03:34	117	0
488372	AI창 AI창작	굴릴 떡밥이 떨어지니까 그림 얘기	뜨콜	03:28	109	1
488371	일반	현재 학습중인 ai는 gpt4랑 별로 성능 다를게 없다네 ㅠ... [5]	상한포도	03:25	222	0
488370	일반	아이유 데뷔초 생목까지 따라하는 AI ㄷㄷ [16]	ㅇㅇ	03:21	489	18
488369	일반	근데 gpt4o 좀 괜찮아진듯?	ㅇㅇ(14.35)	03:09	75	1
488368	일반	한자좀 없앴으면 좋겄음 ㅋㅋㅋ [6]	ㅇㅇ	02:57	221	2
488367	AI창 AI창작	마지막으로 뇌절 하나 괜찮겠습니까	ㅇㅇ(106.101)	02:54	155	0
488366	일반	보이스는 언제푸나 [1]	Jackey	02:40	87	0
488365	일반	역동적인건 아직 힘든듯 [2]	ㅇㅇ(106.101)	02:34	212	0
488363	일반	리누스 "ai 과대광고 싫다" 글 링크 [2]	ㅇㅇ(106.101)	02:27	152	0
488362	일반	gpt한테 맨날 뇌대리 맡기다가 [1]	ㅇㅇ(106.102)	02:27	115	0
488360	일반	그림은 이미 가성비에서 고트아니냐??? [7]	ㅇㅇ	02:21	264	2
488359	일반	전공자 특붕이가 생각하는 Ai 그림특 [2]	ㅇㅇ	02:20	195	2
488358	일반	Agi이미 나왓는데 숨기고 쓸모없어진 열화판만 보여주는거지	ㅇㅇ(223.39)	02:20	99	0
488356	일반	난 2029agi가 맞는 것 같은데 [3]	ㅇㅇ	02:15	167	0
488355	일반	Ai 그림은 사실상 특이점 도달했다고 봄 [13]	ㅇㅇ(59.22)	02:15	317	3
488353	일반	신약성경 진짜 기대된다	이세이미야케	02:11	107	0
488352	일반	gpt5 카운트다운 사과문 올렸네 [8]	lightvector	02:10	411	0
488351	일반	ai 그림 개극혐임 [1]	ㅇㅇ(180.66)	02:06	104	0
488350	일반	애플식 기싸움 웃기긴 함	ㅇㅇ(121.128)	02:03	76	1
488349	일반	AI로 일본 가수 김치 먹이기 [8]	ㅇㅇ	02:03	330	7
488348	일반	Ai그림 최근에 만든것들 [6]	Samus	02:00	243	2
488347	일반	gpt5 안나온게 더 큰 문제 아닌가?	ㅇㅇ(180.66)	02:00	50	0
488346	일반	사람이 그린 그림이 진가를 발휘하는 분야는 명확함 [16]	ㅇㅇ(182.211)	02:00	286	3
488343	일반	2030 특이점 확정이네 [10]	ㅇㅇ(222.108)	01:52	310	0
488342	일반	애플이 AI를 Apple Intelligence로 네이밍할거라네 ㅋㅋ [6]	ㅇㅇ(59.17)	01:50	220	1
488341	일반	그림 알못이 보기에 [2]	ㅇㅇ	01:44	171	0
488340	일반	난 ai그림 구별할 수 있다는 말 안믿음 [15]	ㅇㅇ	01:39	325	0
488339	일반	왜 네이버가 LLM에서 다양성을 외치냐면 [32]	컴퓨터비전	01:39	285	3
488338	일반	2035agi 아닐까 요즘 심하게 고민중... [4]	지혜원	01:38	176	0
488336	일반	특이점 와도 페미가 섹봇 막을거같은데 [9]	선샌니~	01:32	158	0
488335	일반	올트먼 씹년아 gpt4 나온지 1년 넘었다	ㅇㅇ(180.66)	01:32	55	0
488334	일반	ai그림은 구도부터 존나 클리셰적임 [1]	ㅇㅇ(182.211)	01:30	227	0
488333	일반	알파폴드 신약 언지 나옴?	ㅇㅇ(180.66)	01:29	44	0
488331	일반	추론 강력한 gpt-5급 왜 기다리는 거냐 너네 무슨 엄청난 연구라도 [3]	ㅎㅎ(61.82)	01:21	144	0
488330	일반	AI딸깍은 구도 땜에 좀 짜치는듯	Samus	01:21	126	0