OAI 사임한 초정렬팀 Jan Leike, 장문의 입장문 발표

특이점이 온다 갤러리
마이너

기술적 특이점에 대해 의논하고 그와 관련된 과학 기술 정보와 소식을 공유하는 갤러리입니다. *갤러리 이름은 동명의 레이 커즈와일의 저서 <특이점이 온다 (The singularity is near)>를 의미합니다.

매니저

특갤용(118wshxhtx5h)

부매니저

ㅇㅇ(hamaster) 부패하는유전자!!!(sansss20…) 은바다(nmra3fmz…)

개설일

2019-08-01

[정보/뉴스] OAI 사임한 초정렬팀 Jan Leike, 장문의 입장문 발표

ㅇㅇ(119.77) 2024.05.18 01:06:04

조회 4121 추천 32 댓글 42

일리야 수츠케버와 함께

OAI에서 초정렬팀(5년 안에 초지능 정렬 프로젝트)를 이끌던

Jan Leike가 사임하고 방금 전에 올린 입장문임

7cf3c028e2f206a26d81f6e64284746f

7ff3c028e2f206a26d81f6e04389756f

7ef3c028e2f206a26d81f6e14080776c

79f3c028e2f206a26d81f6e14281716e

78f3c028e2f206a26d81f6e04680776e

7bf3c028e2f206a26d81f6e14588716d

7af3c028e2f206a26d81f6e74f887769

75f3c028e2f206a26d81f6e145837569

74f3c028e2f206a26d81f6e641837464

7ced9e36ebd518986abce89545807c6d3b

7cec9e36ebd518986abce8954286716432

7cef9e36ebd518986abce89544897168f2

7cee9e36ebd518986abce89543867d6d33

여기서 우리가 알 수 있는 것

1. 사임 이유 중 큰 부분은 'OAI가 정렬 연구에 컴퓨팅을 많이 할당하지 않았기 때문'이라는 점을 알 수 있음

2. OAI는 AGI에 생각보다 더 가까울지도 모름 (차세대 모델에 훨씬 더 많은 정렬 노력이 필요하다고 함, 인간보다 똑똑한 시스템을 정렬하는 방법을 '시급히' 찾아야한다고 함)

3. OAI는 현재 안전문제보다는 제품화, 상품화에 더 초점을 맞추고 있는 것으로 보임

https://x.com/janleike/status/1791498187313963308

x.com

x.com

마지막 트윗 문장:

To all OpenAI employees, I want to say:

Learn to feel the AGI.

고정닉 14

원본 첨부파일 13본문 이미지 다운로드

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	말머리	제목	글쓴이	작성일	조회	추천
2864	설문	비난 여론에도 뻔뻔하게 잘 살 것 같은 스타는?	운영자	24/06/03	-	-
242613	공지	특갤 통합 공지 / 댓글 신고,문의 / 차단 해제 요청 [3152]	*특갤용*	23.08.06	40129	43
363220	공지	선형글 삭제 기준 [7]	*특갤용*	23.10.14	7490	24
375493	공지	필독) 유입 특붕이를 위한 AI 정보글 모음 (01/23) [40]	ㅇㅇ(182.230)	23.11.11	13692	122
373402	공지	직업 비하, 조롱 글 30일 차단됩니다. [51]	*특갤용*	23.11.07	9143	79
385147	공지	구글의 AGI 분류 체계 [17]	ㅇㅇ	23.11.22	8680	31
332612	공지	음모론 삭제 기준을 안내드립니다. [23]	*특갤용*	23.08.25	9370	30
412470	공지	레이 커즈와일 신간 6월 25일 발매 [29]	모브	24.01.24	8291	34
259237	공지	특갤 용어 모음집 [6]	*특갤용*	23.08.09	23074	33
488851	일반	중국판 소라 홍보영상인데 좀 쩌네 [17]	lightvector	02:33	1348	15
488785	AI창 AI창작	Meta 수석 인공지능 과학자 얀 르쿤 전용 주제가(BGM, OST) [16]	ㅇㅇ	06.08	1754	20
488700	일반	Bit LoRA (3.8B 규모 비트넷 실험) [15]	람냥	06.08	2140	30
488662	일반	중국판 소라 이 기능 존나 미쳤는데???? [38]	lightvector	06.08	3589	39
488658	일반	중국판 sora 배포 시작햇네 [45]	ㅇㅇ	06.08	3239	39
488623	일반	뤼x 금지어 건의함 [3]	ㅇㅇ(14.55)	06.08	719	19
488600	일반	이새끼 하나면 니들이 빠는 초지능따위 싹 다 몰살가능함ㅋㅋㅋㅋ [16]	ㅇㅇ(211.36)	06.08	2038	26
488531	정보/ 정보/뉴스	GPT류 챗봇 쓰는 사람들 개꿀팁 준다 들어와봐라.txt [47]	lightvector	06.08	3232	34
488370	AI창 AI창작	\|\|수정\|\| 아이유 데뷔초 생목까지 따라하는 AI ㄷㄷ [39]	ㅇㅇ	06.08	3214	32
488019	정보/ 정보/뉴스	오늘 구글에서 낸 asi 논문 [41]	ㅇㅇ(49.142)	06.07	4376	38
487986	정보/ 정보/뉴스	젠슨 황 "차세대 물결은 '물리적 AI'...모든 것이 로봇화될 것" [3]	lightvector	06.07	1365	17
487974	정보/ 정보/뉴스	오픈AI, 챗GPT ‘환각’ 이유 밝힌다…역설계로 오작동 원인 추적 [17]	lightvector	06.07	3979	21
487934	일반	걍 어찌됐건 oai는 약속 어긴거임 [31]	ㅇㅇ(118.235)	06.07	3386	26
487517	정보/ 정보/뉴스	레오폴드 SITUATIONAL AWARENESS 요약 [48]	다이아몬드핸드	06.06	4236	53
487442	일반	지미 애플 해석해 주께. [19]	mahogany	06.06	3518	22
487289	일반	6월 6일 오늘은 현충일이다 [19]	ㅇㅇ(59.26)	06.06	2814	42
487185	정보/ 정보/뉴스	오픈 AI 퇴사자 "OpenAI, 미-중-러에 AGI 입찰 경쟁 시도" [24]	ㅇㅇ(59.17)	06.06	3884	21
487069	정보/ 정보/뉴스	세계 최고 암연구소 논문 수십 편 조작 의혹 '파문' [16]	ㅇㅇ	06.05	2745	21
487012	일반	내일 GPT-5 아니란 거에 양불알 다 건다 [61]	ㅇㅇ(223.39)	06.05	3989	50
486935	정보/ 정보/뉴스	알트만 중국 스파이설이 ㄹㅇ 헛소리인 이유 [19]	ㅇㅇ(112.221)	06.05	2062	36
486857	일반	AI 직업대체 긍정/부정 논쟁에서 가장 웃긴게 ㅋㅋ [23]	lightvector	06.05	3607	36
486743	정보/ 정보/뉴스	MS CTO "차세대 모델, 박사 과정 시험 통과할 수준" [47]	ㅇㅇ(59.17)	06.05	3346	38
486676	정보/ 정보/뉴스	전현직 OAI 직원 11명, "첨단 인공지능에 대해 경고할 권리" [17]	ㅇㅇ(119.77)	06.05	2086	17
486155	정보/ 정보/뉴스	mmlu pro 업데이트 나옴 [23]	ㅇㅇ	06.04	2938	25
486083	정보/ 정보/뉴스	SD3 2b모델 6월 12일 공개 [4]	ㅇㅇ(175.208)	06.04	940	15
486034	AI창 AI창작	elevenlabs 여자목소리 만들어봄 [51]	ㅇㅇ	06.04	3299	28
485821	일반	이분이 갤주여야 되는 거 아님??? [48]	oo(175.125)	06.03	5072	54
485635	정보/ 정보/뉴스	구글에서 AGI 정렬 매니저를 구인 중 [37]	lightvector	06.03	4201	20
485745	일반	4년자 IT 개발자에 있어서 AI이후 많이 변했음 [70]	ㅇㅇ(218.157)	06.03	4750	39
485406	일반	힌튼"AI 의사가 인간 의사보다 훨씬 뛰어나다" [39]	ㅇㅇ	06.02	3738	34
485320	일반	십새끼 필터 과정 [19]	ㅇㅇ	06.02	4737	37
485287	정보/ 정보/뉴스	Elevenlabs 효과음 생성 AI 출시 [28]	Ad_Astra	06.02	5499	69
485232	일반	6월6일 특갤 좆창날꺼 같으면 개추 ㅋㅋㅋ [17]	ㅇㅇ(58.29)	06.02	4871	44
485155	정보/ 정보/뉴스	앤트로픽 cos "앞으로 3년이 내 직업의 마지막 일 수도" [53]	선갤러(125.191)	06.01	5386	45
485102	정보/ 정보/뉴스	샘알트만 "사회 전체 구조가 논쟁과 재구성을 겪게 될 것 " [27]	ㅇㅇ(125.191)	06.01	4092	29
485099	정보/ 정보/뉴스	메타, 최강 비전 모델 ‘라마3-V’ 공개…"8B로 GPT-4V와 동급" [32]	ㅇㅇ	06.01	3744	27
484999	정보/ 정보/뉴스	ai로 영상의 각도를 바꿀 수 있습니다! [26]	한가운데	06.01	3879	26
484968	일반	gpt 4o가 거품 소리를 듣는 이유가 [17]	ㅇㅇ(121.168)	06.01	4851	29
484926	일반	ToonCrafter 애니 그냥 스캠 광고 목적이 강한듯 [30]	ㅇㅇ(218.158)	06.01	3882	46
484753	일반	이제보니까 도라에몽<-이새끼 특슬람 끝판왕 아니냐? [24]	ㅇㅇ(1.236)	05.31	3580	34
484743	일반	제미니 탈옥시키니까 페미 말투도 개찰짐 [22]	ㅇㅇ(218.144)	05.31	4319	28
484731	일반	제미니 특갤 학습도 잘했노 ㅋㅋ [19]	ㅇㅇ(59.17)	05.31	3318	38