알트만과 브록만, 일련의 사태에 대한 입장발표

특이점이 온다 갤러리
마이너

기술적 특이점에 대해 의논하고 그와 관련된 과학 기술 정보와 소식을 공유하는 갤러리입니다. *갤러리 이름은 동명의 레이 커즈와일의 저서 <특이점이 온다 (The singularity is near)>를 의미합니다.

매니저

특갤용(118wshxhtx5h)

부매니저

ㅇㅇ(hamaster) 부패하는유전자!!!(sansss20…) 은바다(nmra3fmz…)

개설일

2019-08-01

[정보/뉴스] 알트만과 브록만, 일련의 사태에 대한 입장발표앱에서 작성

ㅇㅇ

2024.05.19 01:37:21

조회 563 추천 14 댓글 7

1ebec223e0dc2bae61abe9e74683706d2fa04583d3d6c8b4b5c7c4044f1790937e17e3d930574b2905e5dfd177457c9bc6

1ebec223e0dc2bae61abe9e74683706d2fa04583d3d6c8b4b2c7c4044f1790937508bad33ee086e1de5e47b774377f0171

1ebec223e0dc2bae61abe9e74683706d2fa04583d3d6c8b4b3c4c4044f1790930b77931ef13757c8b6ece94baa78bd279a

Jan이 OpenAI를 위해 해온 모든 일에 대해 정말 감사드리며, 앞으로도 외부에서 계속해서 미션에 기여할 것으로 믿습니다. 그의 퇴사로 인해 제기된 의문을 고려하여 저희는 전반적인 전략에 대해 어떻게 생각하는지 설명하고자 합니다.

첫째, 우리는 전 세계가 더 잘 대비할 수 있도록 AGI의 위험과 기회에 대한 인식을 높여왔습니다. 우리는 딥 러닝의 확장으로 인한 놀라운 가능성을 반복적으로 입증하고 그 의미를 분석했으며, 이러한 요구가 대중화되기 전에 AGI에 대한 국제적 거버넌스를 촉구했고, 재앙적 위험에 대한 AI 시스템 평가 과학을 개척하는 데 도움을 주었습니다.

둘째, 점점 더 성능이 향상되는 시스템을 안전하게 배포하는 데 필요한 토대를 마련했습니다. 새로운 기술을 처음으로 안전하게 만드는 방법을 알아내는 것은 쉽지 않습니다. 예를 들어, 저희 팀은 GPT-4를 안전한 방식으로 세상에 선보이기 위해 많은 노력을 기울였으며, 이후 배포를 통해 얻은 교훈에 따라 모델 행동과 악용 모니터링을 지속적으로 개선해 왔습니다.

셋째, 미래는 과거보다 더 힘들어질 것입니다. 우리는 새로운 모델의 위상에 걸맞게 안전 업무의 수준을 계속 높여야 합니다. 우리는 작년에 이를 체계화하기 위해 대비 프레임워크를 채택했습니다.

지금이야말로 미래를 어떻게 바라보고 있는지 이야기하기에 가장 좋은 시기인 것 같습니다.

모델이 계속해서 훨씬 더 많은 기능을 갖추게 되면 세상과 더 깊이 통합되기 시작할 것으로 예상합니다. 사용자는 텍스트 입력과 출력만으로 단일 모델과 대화하는 것이 아니라, 여러 멀티모달 모델과 도구로 구성된 시스템과 점점 더 상호 작용하게 될 것이며, 이 시스템은 사용자를 대신해 조치를 취할 수 있을 것입니다.

이러한 시스템은 사람들에게 매우 유익하고 도움이 될 것이며 안전하게 제공할 수 있을 것으로 생각하지만, 이를 위해서는 엄청난 양의 기초 작업이 필요합니다. 여기에는 교육 대상에 대한 세심한 배려, 확장 가능한 감독과 같은 어려운 문제에 대한 해결책, 기타 새로운 종류의 안전 작업 등이 포함됩니다. 이러한 방향으로 개발을 진행하다 보니 언제 출시 안전 기준에 도달할 수 있을지 아직 확실하지 않으며, 이로 인해 출시 일정이 미뤄져도 괜찮습니다.

미래의 모든 가능한 시나리오를 상상할 수 없다는 것을 알고 있습니다. 따라서 매우 긴밀한 피드백 루프, 엄격한 테스트, 모든 단계에서의 신중한 고려, 세계 최고 수준의 보안, 안전과 기능의 조화가 필요합니다. 앞으로도 다양한 시간대를 대상으로 안전 연구를 계속할 것입니다. 또한 각국 정부 및 여러 이해관계자들과 안전에 관한 협업을 지속하고 있습니다.

AGI로 가는 길을 탐색하는 방법에 대한 검증된 플레이북은 없습니다. 경험적 이해가 앞으로 나아갈 방향을 제시하는 데 도움이 될 수 있다고 생각합니다. 우리는 엄청난 긍정적인 측면을 제공하는 동시에 심각한 위험을 완화하기 위해 노력해야 한다고 믿으며, 여기서 우리의 역할을 매우 진지하게 받아들이고 우리의 행동에 대한 피드백을 신중하게 검토합니다.

고정닉 11

원본 첨부파일 3본문 이미지 다운로드

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	말머리	제목	글쓴이	작성일	조회	추천
2868	설문	힘들게 성공한 만큼 절대 논란 안 만들 것 같은 스타는?	운영자	24/06/10	-	-
489339	일반	슬슬 gpt결제각이냐 [2]	ㅇㅇ(14.53)	12:49	201	0
489338	일반	다음 모델은 2025년에 나올거 같은데 [3]	ㅇㅇ(218.157)	12:46	181	1
489337	일반	걍 이새낀 누구보다 특이점을 바랐던거임 ㅇㅇ [2]	ㅇㅇ	12:41	325	2
489336	일반	WWDC가 드디어 오늘이군... [4]	ㅇㅇ(121.131)	12:38	294	0
489335	일반	라마3 400B+ 언제 나오냐 [3]	TS망상	12:31	131	0
489334	일반	chatgpt 이새끼는 왜 그림 생성 요청하면 90도 돌려진 사진 만들어 [3]	ㅇㅇ(110.145)	12:14	336	0
489333	일반	오늘 새벽 드디어 보이스 출시인가.. [1]	람냥	12:12	249	4
489332	일반	데이터의 참 거짓을 판단하는 모델은 결국 [5]	꼬마귀염선충!	12:12	187	0
489331	일반	지금은 개인적으로 전쟁위험이 있다고봄	꼬마귀염선충!	12:03	151	0
489330	일반	앞으로 한국은 외모지상주의가 더 심해질것임 [1]	꼬마귀염선충!	11:57	197	0
489329	일반	념글 추론붕괴 ㅈㄴ 정확한듯 ㅋㅋ [7]	ㅇㅇ(59.11)	11:55	580	0
489327	일반	중국어 공부 시작하길 잘 했노 [2]	ㅇㅇ(14.5)	11:49	277	0
489326	일반	인간이 로봇으로 변할수있음 [4]	꼬마귀염선충!	11:45	131	0
489325	일반	인간은 지구에만 매몰되면안됨 [5]	꼬마귀염선충!	11:41	110	0
489324	일반	인공지능이 실업자 양산하게되면 [8]	ㅇㅇ(210.104)	11:40	176	0
489322	일반	agi가 오면 인터넷망을 분리시켜야함 [1]	꼬마귀염선충!	11:37	114	0
489321	일반	찌라시는 이제 믿지말자 특붕이들아 [3]	ㅇㅇ(223.62)	11:31	170	2
489319	일반	올트먼을 믿지 마셈	ㅇㅇ(1.221)	11:27	96	0
489318	일반	ai가 동영상잘만들어서 어따쓸건데 [10]	ㅇㅇ(118.32)	11:27	376	2
489317	일반	oai 추종자들 대가리 깨버리고싶노 [2]	ㅇㅇ(211.52)	11:26	257	4
489316	일반	oai 그냥 중국 화웨이에 넘기자..애플은 기술 특허 다 오픈소스로 열고	ㅇㅇ(202.14)	11:26	66	0
489315	일반	oai 요즘 맘에 안듦 . 걍 망하고 ai 발정 그만 하면 좆갯음 [1]	ㅇㅇ(202.14)	11:26	151	0
489314	일반	인공지능에게 소크라테스 아리스토텔레스를 가르쳐야함 [2]	꼬마귀염선충!	11:21	96	0
489312	일반	미래는 자연적으로 감시가있을수밖에없음 [9]	꼬마귀염선충!	11:17	135	0
489311	일반	애플 WWDC GPT 뉴보이스 예상 [4]	ㅇㅇ	11:17	354	0
489310	일반	최근 중국이 좆같은 이유 [3]	ㅇㅇ(117.111)	11:16	165	0
489309	일반	중국이 유사 소라로 긁었는데 OAI 반응 없네 [6]	ㅇㅇ(163.152)	11:12	289	0
489308	일반	7월초에 보이스 비전모델 나오면 갤주책 배데지로 시켜서	ㅇㅇ	11:11	49	0
489307	일반	어물쩡거릴때 중국이 또 보이스 비슷한거 출시하면 웃길듯ㅋㅋㅋ	ㅇㅇ(124.56)	11:11	28	0
489306	일반	개념글 보다보니 우울한 애들 많이 보이던뎀 [26]	쪼앵	11:09	280	2
489305	일반	걍 OAI는 네트워크 인프라 및 하드웨어 구축에 병목이 생긴거임	ㅇㅇ(221.167)	11:08	64	0
489304	일반	씨발 이제 몇주 몇달 ㅇㅈㄹ 하면 걍 안나온다는거로 생각해야겠네	ㅇㅇ(59.14)	11:07	64	1
489303	일반	Openai 는 단일신경망 한정 독보적이지 [3]	ㅇㅇ(221.167)	11:04	223	0
489302	일반	근데 open ai 얘들 기술력 좋는거 맞음? [4]	ㅇㅇ	11:03	207	2
489301	일반	근데 오늘도 보이스 배포는 안될 것 같음 [4]	ㅇㅇ(119.202)	11:01	116	0
489300	일반	img 2 text후 t2i 재현이 불가능한 이유 [2]	ㅇㅇ(117.111)	10:57	91	0
489299	일반	찌라시는 뭐 이게 제일 일리있는 듯 [2]	ㅇㅇ(221.167)	10:53	186	0
489298	일반	스테이블 디퓨전의 단편성 문제를 보니 [10]	ㅇㅇ(221.167)	10:51	171	0
489297	일반	현재 gpt-4o 수학능력 수준 [12]	ㅇㅇ(117.111)	10:50	425	0
489296	일반	스테이블 디퓨전 img2text는 단순 태그라고 이해하면 됨 [1]	ㅇㅇ(218.157)	10:49	73	0
489295	일반	인공지능이 뮤한한가능성이 남아있는이유	꼬마귀염선충!	10:49	51	0
489294	일반	WWDC 보이스 LETSGO!!!	ㅇㅇ(163.152)	10:48	64	0
489293	일반	오늘 드디어 고대하던 WWDC구나 [1]	ㅇㅇ(119.202)	10:45	139	0
489292	일반	그러니까 text2img 모델을 img2text로 사용 불가능이란거임? [6]	ㅇㅇ(110.145)	10:41	99	0
489291	일반	그림 ai 가지고 쓰니 마니 왜 싸우는거냐 [3]	ㅇㅇ(118.235)	10:38	96	0
489290	일반	"GPT4o 보이스 몇시간내 출시 하겠습니다"	ㅇㅇ(117.110)	10:35	149	0
489289	일반	이제 LLM 의 시대는 저문지오래임 [3]	ㅇㅇ(221.167)	10:35	201	1
489287	일반	agi는 몰라도 엔터테인먼트는 확실히 바뀐다 [3]	ㅇㅇ(118.235)	10:24	129	0
489286	일반	그림생성 ai에게 꺼꾸로 그림주고 텍스트로 변환하라고 하면 [11]	ㅇㅇ(110.145)	10:22	179	0
489285	일반	Google Ai팀 지능 개선, 다국어 토큰 경량화 Gemini 2 출시	ㅇㅇ(211.181)	10:21	106	0