https://www.vox.com/future-perfect/2024/5/17/24158478/openai-departures-sam-altman-employees-chatgpt-release

ChatGPT can talk, but OpenAI employees sure can’t

Why is OpenAI’s superalignment team imploding?

www.vox.com

직원들은 OpenAI를 떠날 때 NDA(기밀유지서약)에 서명하는데, 이를 거부하거나 위반하면 지금까지 벌어들였던 스톡을 토해내야 함.

기밀유지서약의 조항은

1. OpenAI 비방 금지

2. 남은 생애 동안 이전 고용주를 비판하는 행위 금지

3. 이 조약이 존재한다는 사실을 인정하는 행위조차 금지

이렇기 때문에 일리야를 비롯한 수많은 직원들이 OpenAI를 떠나면서 "나는 사임했다" 정도의 말 밖에 할 수 없었던 것.

Jan Leike: 나는 사임했다.

그런데 오늘 Jan이 장문의 OpenAI 비판 글을 올리면서 이 조약을 위반했고, 아마 그동안 대가로 받았던 스톡을 포기해야 할 수도 있음.

그리고 이 모든 행태는 1984의 이중사고와 너무나도 비슷함.

알면서 모른다는 것, 완전한 진실을 알고 있으면서 반면 교묘하게 꾸며진 거짓말을 한다는 것, 상반된 두 가지 의견을 동시에 가지고 있다는 것, 모순되는 줄 알면서 그 두 가지를 다 믿는다는 것, 잊어버릴 필요가 있는 것은 무엇이고 잊어버리고 필요한 때는 재차 기억 속에 끌어들였다가 다음에 다시 잽싸게 잊어버리는 것

p.47 - 49

심지어 '이중사고'라는 낱말을 사용하는 데도 '이중사고'의 작용이 필요하다. 왜냐하면 그 말을 사용하면 현실을 멋대로 조작했다는 사실을 인정하게 되므로 다시 '이중사고'를 작용시켜 이런 생각을 없애 버리는데, 이런 식으로 끝없이 진행되면 거짓말은 언제나 진실의 한 발자국 앞에서 뛰어가게 되어 있다.

p.263

OpenAI 직원들은 NDA가 존재한다는 사실을 인정하면 안되므로 자신이 기밀유지서약에 서명했다는 사실조차 잊어버려야 함.