소신)OpenAI의 NDA는 1984의 이중사고와 비슷함 - 특이점이 온다 마이너 갤러리

기술적 특이점에 대해 의논하고 그와 관련된 과학 기술 정보와 소식을 공유하는 갤러리입니다. *갤러리 이름은 동명의 레이 커즈와일의 저서 <특이점이 온다 (The singularity is near)>를 의미합니다.

매니저

특갤용(118wshxhtx5h)

부매니저

ㅇㅇ(hamaster) 부패하는유전자!!!(sansss20…) 은바다(nmra3fmz…)

개설일

2019-08-01

[일반] 소신)OpenAI의 NDA는 1984의 이중사고와 비슷함

모브

2024.05.18 05:18:25

조회 322 추천 7 댓글 4

https://www.vox.com/future-perfect/2024/5/17/24158478/openai-departures-sam-altman-employees-chatgpt-release

ChatGPT can talk, but OpenAI employees sure can’t

Why is OpenAI’s superalignment team imploding?

www.vox.com

직원들은 OpenAI를 떠날 때 NDA(기밀유지서약)에 서명하는데, 이를 거부하거나 위반하면 지금까지 벌어들였던 스톡을 토해내야 함.

기밀유지서약의 조항은

1. OpenAI 비방 금지

2. 남은 생애 동안 이전 고용주를 비판하는 행위 금지

3. 이 조약이 존재한다는 사실을 인정하는 행위조차 금지

이렇기 때문에 일리야를 비롯한 수많은 직원들이 OpenAI를 떠나면서 "나는 사임했다" 정도의 말 밖에 할 수 없었던 것.

a15714ab041eb360be3335625683746f0053452cd6a7e389d73062f09e12cd6e007ac0cbde626f190160094184

Jan Leike: 나는 사임했다.

그런데 오늘 Jan이 장문의 OpenAI 비판 글을 올리면서 이 조약을 위반했고, 아마 그동안 대가로 받았던 스톡을 포기해야 할 수도 있음.

그리고 이 모든 행태는 1984의 이중사고와 너무나도 비슷함.

74eb803eb59c2fa36caff68b12d21a1d110eae5e70

0997d274f0da0c93479ef7b12686767396d1c4eb54e837fafa2ebbc0e86419

알면서 모른다는 것, 완전한 진실을 알고 있으면서 반면 교묘하게 꾸며진 거짓말을 한다는 것, 상반된 두 가지 의견을 동시에 가지고 있다는 것, 모순되는 줄 알면서 그 두 가지를 다 믿는다는 것, 잊어버릴 필요가 있는 것은 무엇이고 잊어버리고 필요한 때는 재차 기억 속에 끌어들였다가 다음에 다시 잽싸게 잊어버리는 것

p.47 - 49

심지어 '이중사고'라는 낱말을 사용하는 데도 '이중사고'의 작용이 필요하다. 왜냐하면 그 말을 사용하면 현실을 멋대로 조작했다는 사실을 인정하게 되므로 다시 '이중사고'를 작용시켜 이런 생각을 없애 버리는데, 이런 식으로 끝없이 진행되면 거짓말은 언제나 진실의 한 발자국 앞에서 뛰어가게 되어 있다.

p.263

OpenAI 직원들은 NDA가 존재한다는 사실을 인정하면 안되므로 자신이 기밀유지서약에 서명했다는 사실조차 잊어버려야 함.

고정닉 6

원본 첨부파일 3본문 이미지 다운로드

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	말머리	제목	글쓴이	작성일	조회	추천
2864	설문	비난 여론에도 뻔뻔하게 잘 살 것 같은 스타는?	운영자	24/06/03	-	-
242613	공지	특갤 통합 공지 / 댓글 신고,문의 / 차단 해제 요청 [3136]	*특갤용*	23.08.06	39981	43
433260	공지	웬만하면 신문고에 문의 해주시면 차단 풀어드립니다 [2]	*부패하는유전자!!!*	24.03.06	2736	2
363220	공지	선형글 삭제 기준 [7]	*특갤용*	23.10.14	7455	24
375493	공지	필독) 유입 특붕이를 위한 AI 정보글 모음 (01/23) [40]	ㅇㅇ(182.230)	23.11.11	13641	122
373402	공지	직업 비하, 조롱 글 30일 차단됩니다. [51]	*특갤용*	23.11.07	9109	79
385147	공지	구글의 AGI 분류 체계 [17]	ㅇㅇ	23.11.22	8636	31
332612	공지	음모론 삭제 기준을 안내드립니다. [23]	*특갤용*	23.08.25	9340	30
412470	공지	레이 커즈와일 신간 6월 25일 발매 [29]	모브	24.01.24	8248	34
259237	공지	특갤 용어 모음집 [6]	*특갤용*	23.08.09	23017	33
488303	일반	이런거 보면 미래는 진짜 예측하기 힘든거같다	ㅇㅇ	00:24	0	0
488302	일반	Open Ai가 '공식'으로 10년내 초지능 예견했잖아	Samus	00:21	24	0
488301	일반	진짜 요한슨 한 명 때문에 이렇게까지 밀린 건 아니겠지? [2]	ㅇㅇ(119.202)	00:21	27	0
488300	일반	갤 왜 갑자기 우울증걸림 [6]	ㅇㅇ(121.143)	00:17	59	0
488299	일반	Oai가 어케든 해낼꺼 같음 [5]	ㅇㅇ(117.111)	00:15	66	0
488298	일반	특갤은 NSFW 규제는 하지 말아다오,,, [11]	Samus	00:14	64	0
488297	일반	난 진짜 3주안에 보이스 나올 줄 알았음ㅋㅋㅋ [2]	ㅇㅇ	00:13	62	0
488296	일반	소신발언) 특갤도 nsfw 규제 해제해야한다고 생각함 [7]	ㅇㅇ(223.38)	00:08	83	3
488295	일반	진짜로 한국 정도면 ai 도입 정말 빠른 편임 [6]	Samus	00:08	85	0
488294	일반	LLM은 정체됐냐 [6]	ㅇㅇ(61.254)	00:08	71	0
488293	일반	근데 커즈할배 노망도 아니고 정보량 한정되는 책으로 냄? [1]	홀로섬외딴배	00:07	40	1
488292	일반	너무 슬프다 [1]	ㅇㅇ(110.11)	00:06	28	0
488291	일반	토큰수 32k 된게 api 비싸진 직접적 원인이었음.	ㅇㅇ(121.186)	00:05	30	0
488290	일반	ai 스튜디오 이거 원래 뮤료임?	ㅇㅇ	00:04	24	0
488289	일반	GPT 4o 돈값한다 진짜... [7]	AppHiki	00:04	163	0
488287	토의	인공지능의 기준은, 왜 인간이지? [5]	네모누리	00:01	54	0
488286	일반	싫어싫어 노동하기싫어	ㅇㅇ(223.39)	00:01	23	0
488285	일반	Ai로 찾은 온실가스를 흡수하는 분자 [2]	ㅇㅇ	00:00	68	4
488284	일반	보이스나 풀어	ㅇㅇ(112.186)	06.07	21	1
488283	일반	제티 조금만 정보 풀어주면 얀르쿤 신봉자인데	ㅇㅇ(112.165)	06.07	18	0
488282	일반	그래서 애플 발표 언제임? [2]	A.I.	06.07	84	0
488281	일반	핵융합이 나와도 또 어느 순간부터는 전기 부족할듯 [3]	ㅇㅇ	06.07	115	0
488280	일반	세상은 점점 딸깍충이 되어간다 [2]	ㅇㅇ	06.07	102	0
488278	일반	그래도 위안 삼을게 있다면	ㅇㅇ	06.07	66	1
488277	일반	이분이 맞았으면 개추 [5]	ㅇㅇ(117.111)	06.07	194	5
488276	일반	념글 ASI 논문 반박할 수 있는것도 GPT5 뿐이네	ㅇㅇ	06.07	117	3
488275	일반	특갤 쫌 현타올때,,,,,, [28]	Samus	06.07	257	3
488274	일반	걍 씨발 nsfw만 풀어줘 [12]	갤럭시빠	06.07	146	0
488273	일반	얀 르쿤의 성과는 도대체 언제 볼 수 있는 걸까 [1]	ㅇㅇ(121.128)	06.07	77	0
488272	일반	솔직히 특갤 다 좋은데 진짜 이것만 안했으면 좋겠음 [7]	ㅇㅇ	06.07	194	2
488271	일반	클러드 장애인이네.. 이새끼 질문하나에 신뢰 잃어버림 [2]	통붕이(218.234)	06.07	87	0
488270	일반	⚠+⚠+⚠+⚠+⚠+구글주의보⚠+⚠+⚠+⚠+⚠+ [5]	ㅇㅇ(223.62)	06.07	230	0
488269	일반	이미 agi가 왔다해도 공개하지 않을듯 [2]	ㅇㅇ(49.109)	06.07	70	0
488268	일반	고소한다 하는 모 스타트업 투자받은건...	ㅇㅇ(121.186)	06.07	39	0
488267	일반	결국 얀르쿤이 옳았고 oai가 틀렸네 [6]	ㅇㅇ	06.07	312	8
488266	일반	클로드 밖에 믿을것이 없다 제발... [1]	ㅇㅇ(203.234)	06.07	52	0
488265	일반	메타버스 이건 진짜 메타 때문에 호흡기만 달려있는 건데	ㅇㅇ(121.128)	06.07	50	0
488264	일반	딥마인드 다큐나옴 [1]	ㅇㅇ	06.07	94	2
488263	일반	삼성은 애플처럼 구글말고 OpenAi 라인을 타지 [17]	Samus	06.07	250	0
488262	일반	애플의 ai서비스는 Apple Intelligence 라는 이름으로 [6]	ㅇㅇ(118.223)	06.07	146	1
488261	일반	AI는 메타버스, NFT하고는 결이 다르지 [2]	Samus	06.07	117	2