알트만과 브록만, 일련의 사태에 대한 입장발표

특이점이 온다 갤러리
마이너

기술적 특이점에 대해 의논하고 그와 관련된 과학 기술 정보와 소식을 공유하는 갤러리입니다. *갤러리 이름은 동명의 레이 커즈와일의 저서 <특이점이 온다 (The singularity is near)>를 의미합니다.

매니저

특갤용(118wshxhtx5h)

부매니저

ㅇㅇ(hamaster) 부패하는유전자!!!(sansss20…) 은바다(nmra3fmz…)

개설일

2019-08-01

[정보/뉴스] 알트만과 브록만, 일련의 사태에 대한 입장발표앱에서 작성

ㅇㅇ

2024.05.19 01:37:21

조회 564 추천 14 댓글 7

1ebec223e0dc2bae61abe9e74683706d2fa04583d3d6c8b4b5c7c4044f1790937e17e3d930574b2905e5dfd177457c9bc6

1ebec223e0dc2bae61abe9e74683706d2fa04583d3d6c8b4b2c7c4044f1790937508bad33ee086e1de5e47b774377f0171

1ebec223e0dc2bae61abe9e74683706d2fa04583d3d6c8b4b3c4c4044f1790930b77931ef13757c8b6ece94baa78bd279a

Jan이 OpenAI를 위해 해온 모든 일에 대해 정말 감사드리며, 앞으로도 외부에서 계속해서 미션에 기여할 것으로 믿습니다. 그의 퇴사로 인해 제기된 의문을 고려하여 저희는 전반적인 전략에 대해 어떻게 생각하는지 설명하고자 합니다.

첫째, 우리는 전 세계가 더 잘 대비할 수 있도록 AGI의 위험과 기회에 대한 인식을 높여왔습니다. 우리는 딥 러닝의 확장으로 인한 놀라운 가능성을 반복적으로 입증하고 그 의미를 분석했으며, 이러한 요구가 대중화되기 전에 AGI에 대한 국제적 거버넌스를 촉구했고, 재앙적 위험에 대한 AI 시스템 평가 과학을 개척하는 데 도움을 주었습니다.

둘째, 점점 더 성능이 향상되는 시스템을 안전하게 배포하는 데 필요한 토대를 마련했습니다. 새로운 기술을 처음으로 안전하게 만드는 방법을 알아내는 것은 쉽지 않습니다. 예를 들어, 저희 팀은 GPT-4를 안전한 방식으로 세상에 선보이기 위해 많은 노력을 기울였으며, 이후 배포를 통해 얻은 교훈에 따라 모델 행동과 악용 모니터링을 지속적으로 개선해 왔습니다.

셋째, 미래는 과거보다 더 힘들어질 것입니다. 우리는 새로운 모델의 위상에 걸맞게 안전 업무의 수준을 계속 높여야 합니다. 우리는 작년에 이를 체계화하기 위해 대비 프레임워크를 채택했습니다.

지금이야말로 미래를 어떻게 바라보고 있는지 이야기하기에 가장 좋은 시기인 것 같습니다.

모델이 계속해서 훨씬 더 많은 기능을 갖추게 되면 세상과 더 깊이 통합되기 시작할 것으로 예상합니다. 사용자는 텍스트 입력과 출력만으로 단일 모델과 대화하는 것이 아니라, 여러 멀티모달 모델과 도구로 구성된 시스템과 점점 더 상호 작용하게 될 것이며, 이 시스템은 사용자를 대신해 조치를 취할 수 있을 것입니다.

이러한 시스템은 사람들에게 매우 유익하고 도움이 될 것이며 안전하게 제공할 수 있을 것으로 생각하지만, 이를 위해서는 엄청난 양의 기초 작업이 필요합니다. 여기에는 교육 대상에 대한 세심한 배려, 확장 가능한 감독과 같은 어려운 문제에 대한 해결책, 기타 새로운 종류의 안전 작업 등이 포함됩니다. 이러한 방향으로 개발을 진행하다 보니 언제 출시 안전 기준에 도달할 수 있을지 아직 확실하지 않으며, 이로 인해 출시 일정이 미뤄져도 괜찮습니다.

미래의 모든 가능한 시나리오를 상상할 수 없다는 것을 알고 있습니다. 따라서 매우 긴밀한 피드백 루프, 엄격한 테스트, 모든 단계에서의 신중한 고려, 세계 최고 수준의 보안, 안전과 기능의 조화가 필요합니다. 앞으로도 다양한 시간대를 대상으로 안전 연구를 계속할 것입니다. 또한 각국 정부 및 여러 이해관계자들과 안전에 관한 협업을 지속하고 있습니다.

AGI로 가는 길을 탐색하는 방법에 대한 검증된 플레이북은 없습니다. 경험적 이해가 앞으로 나아갈 방향을 제시하는 데 도움이 될 수 있다고 생각합니다. 우리는 엄청난 긍정적인 측면을 제공하는 동시에 심각한 위험을 완화하기 위해 노력해야 한다고 믿으며, 여기서 우리의 역할을 매우 진지하게 받아들이고 우리의 행동에 대한 피드백을 신중하게 검토합니다.

고정닉 11

원본 첨부파일 3본문 이미지 다운로드

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	말머리	제목	글쓴이	작성일	조회	추천
2868	설문	힘들게 성공한 만큼 절대 논란 안 만들 것 같은 스타는?	운영자	24/06/10	-	-
490367	일반	Math note 말곤 와닿는게 없네요..	오바도쥬	06.11	56	0
490366	일반	대황젠ㅋㅋㅋㅋㅋㅋㅋ	나히다남편	06.11	29	0
490365	일반	마소 킹파일럿이 더 감동인데 [1]	ㅇㅇ(106.101)	06.11	76	0
490364	일반	젠모지 진짜 젠모지	ㅇㅇ(112.186)	06.11	25	0
490363	일반	결국 openai랑 관련없는거네	Dd(119.64)	06.11	39	0
490362	일반	아니 그냥 4o 보이스라도 내놓으라고	ㅇㅇ(121.156)	06.11	24	0
490361	일반	자 게이 듀오 나와주세요~	ㅇㅇ(121.178)	06.11	22	0
490360	일반	맥으로 디시질 하면...	ㅇㅇ(121.186)	06.11	38	0
490359	일반	아직 안봤는데 아이폰 살만 해? [1]	ㅇㅇ(106.101)	06.11	54	0
490358	일반	wwdc 봤는데 애플 별거 없네	ㅇㅇ(112.171)	06.11	139	0
490357	일반	한국에선 절반 넘게 못쓴다는게 슬프네 [4]	이세이미야케	06.11	110	0
490356	일반	진지하게 마소 발표가 더 혁신이었음 [1]	ㅇㅇ(119.202)	06.11	121	1
490355	일반	오늘 저녁예정인 긴급스팸만 개마니오겠네	ㅇㅇ(218.152)	06.11	42	0
490354	일반	쟤 김종민 아님?	ㅇㅇ(211.179)	06.11	22	0
490353	일반	잘만 되면 진짜 혁신이긴할듯 [2]	ㅇㅇ(121.178)	06.11	128	0
490352	일반	어쩌라고 gpt 4.5 내놔 [1]	Dd(119.64)	06.11	73	0
490351	일반	이제 아이폰끼리 랩배틀 가능한거임?	ㅇㅇ	06.11	25	0
490350	일반	AI버블 이야기 나온다 미주갤에서	ㅇㅇ(112.161)	06.11	89	0
490349	일반	답장 생성 ㅋㅋ [1]	ㄴㄱ(58.141)	06.11	64	0
490348	일반	명심해, 이걸 만들어야 혁신이야	ㅇㅇ	06.11	94	0
490347	일반	에이전트긴 한데..	ㅇㅇ(119.202)	06.11	86	0
490346	일반	소신) 아직 날 만족시키려면 머렀다	ㅇㅇ	06.11	41	0
490345	일반	인정하긴 싫지만 일단 갤럭시 AI는 이겼음 방금걸로 ㅇㅇ [8]	ㅇㅇ(218.39)	06.11	366	9
490344	일반	윈도우 코파일럿 열심히만든버전아님감 [4]	ㅇㅇ	06.11	141	0
490343	일반	한국에선 존나 열화되겠는데 ㅋㅋ [1]	ㅇㅇ(211.251)	06.11	104	1
490342	일반	고마 똑똑하노	ㅇㅇ(106.101)	06.11	21	0
490341	일반	실제 사용기가 나와봐야 알듯	ㅁㄱㅌㅊ(39.122)	06.11	17	0
490340	일반	발표하는 남자새끼 무슨 아바타 닮았네 ㅋㅋㅋㅋㅋ [2]	ㅇㅇ	06.11	55	0
490339	일반	좋긴 한데 이거 현세대 ai로 환각 방지할 수 있나	ㅇㅇ(116.123)	06.11	44	0
490338	일반	Ai 전공할려고 하는데 대학어디가 유명함? [5]	ㅇㅇ(39.7)	06.11	108	0
490337	일반	---멸-----------------망----	ㅇㅇ(49.143)	06.11	36	0
490336	일반	에이전트네	ㅇㅇ(112.186)	06.11	30	0
490335	일반	오 애플 열심히했네? [1]	가속	06.11	151	0
490334	일반	저게 잘만되면 ㅅㅌㅊ긴함	ㅇㅇ(121.178)	06.11	47	0
490333	일반	갈라파고스한국 카카오톡연동 카카오맵연동 안돼서	ㅇㅇ(218.152)	06.11	133	1
490332	일반	꿀잠충<<연전연승하네	ㅇㅇ(106.101)	06.11	31	1
490331	일반	이건 에이전트가 맞는데?	이세이미야케	06.11	65	0
490330	일반	아니 진짜 저건 개지리는데?	나히다남편	06.11	77	0
490329	일반	시리가 이메일 내용도 감시하고 레스토랑 예약한것도 기억하네 [1]	QQ(119.70)	06.11	84	0
490328	일반	근데저거 자칫하면 환각 ㅈㄴ오지겟네	ㅇㅇ(14.53)	06.11	38	0
490327	일반	이건 좀 신기하네 ㅋㅋ	ㅇㅇ(110.34)	06.11	47	0
490326	일반	개인정보보호한다고 해도 검열 심하겠지?	ㄴㄱ(58.141)	06.11	29	0
490325	일반	오픈AI 떠난 로건이 이거 리트윗했네 ㅇㅇ [4]	ㅇㅇ(59.17)	06.11	240	0
490323	일반	시리를 많이 쓰지도 않는데	ㅇㅇ(112.161)	06.11	32	0
490322	일반	코파일럿으로 경험한건데	Ad_Astra	06.11	51	0
490321	일반	대체 뭘 보라는거야 고아새끼들은	ㅇㅇ	06.11	52	0
490320	일반	저젇오면 1단계 에이전트라고 해도 될듯?	A.I.	06.11	47	0
490319	일반	원 모어 띵 안나왔으니까 아직 참는다	ㅇㅇ(222.234)	06.11	21	0
490318	일반	아직 40분 정도 님았는데 더 보여주겠지	ㅇㅇ(125.208)	06.11	30	0
490317	일반	에이전트레벨1 ㅇ	ㄴㄱ(58.141)	06.11	53	0