알트만과 브록만, 일련의 사태에 대한 입장발표

특이점이 온다 갤러리
마이너

기술적 특이점에 대해 의논하고 그와 관련된 과학 기술 정보와 소식을 공유하는 갤러리입니다. *갤러리 이름은 동명의 레이 커즈와일의 저서 <특이점이 온다 (The singularity is near)>를 의미합니다.

매니저

특갤용(118wshxhtx5h)

부매니저

ㅇㅇ(hamaster) 부패하는유전자!!!(sansss20…) 은바다(nmra3fmz…)

개설일

2019-08-01

[정보/뉴스] 알트만과 브록만, 일련의 사태에 대한 입장발표앱에서 작성

ㅇㅇ

2024.05.19 01:37:21

조회 559 추천 14 댓글 7

1ebec223e0dc2bae61abe9e74683706d2fa04583d3d6c8b4b5c7c4044f1790937e17e3d930574b2905e5dfd177457c9bc6

1ebec223e0dc2bae61abe9e74683706d2fa04583d3d6c8b4b2c7c4044f1790937508bad33ee086e1de5e47b774377f0171

1ebec223e0dc2bae61abe9e74683706d2fa04583d3d6c8b4b3c4c4044f1790930b77931ef13757c8b6ece94baa78bd279a

Jan이 OpenAI를 위해 해온 모든 일에 대해 정말 감사드리며, 앞으로도 외부에서 계속해서 미션에 기여할 것으로 믿습니다. 그의 퇴사로 인해 제기된 의문을 고려하여 저희는 전반적인 전략에 대해 어떻게 생각하는지 설명하고자 합니다.

첫째, 우리는 전 세계가 더 잘 대비할 수 있도록 AGI의 위험과 기회에 대한 인식을 높여왔습니다. 우리는 딥 러닝의 확장으로 인한 놀라운 가능성을 반복적으로 입증하고 그 의미를 분석했으며, 이러한 요구가 대중화되기 전에 AGI에 대한 국제적 거버넌스를 촉구했고, 재앙적 위험에 대한 AI 시스템 평가 과학을 개척하는 데 도움을 주었습니다.

둘째, 점점 더 성능이 향상되는 시스템을 안전하게 배포하는 데 필요한 토대를 마련했습니다. 새로운 기술을 처음으로 안전하게 만드는 방법을 알아내는 것은 쉽지 않습니다. 예를 들어, 저희 팀은 GPT-4를 안전한 방식으로 세상에 선보이기 위해 많은 노력을 기울였으며, 이후 배포를 통해 얻은 교훈에 따라 모델 행동과 악용 모니터링을 지속적으로 개선해 왔습니다.

셋째, 미래는 과거보다 더 힘들어질 것입니다. 우리는 새로운 모델의 위상에 걸맞게 안전 업무의 수준을 계속 높여야 합니다. 우리는 작년에 이를 체계화하기 위해 대비 프레임워크를 채택했습니다.

지금이야말로 미래를 어떻게 바라보고 있는지 이야기하기에 가장 좋은 시기인 것 같습니다.

모델이 계속해서 훨씬 더 많은 기능을 갖추게 되면 세상과 더 깊이 통합되기 시작할 것으로 예상합니다. 사용자는 텍스트 입력과 출력만으로 단일 모델과 대화하는 것이 아니라, 여러 멀티모달 모델과 도구로 구성된 시스템과 점점 더 상호 작용하게 될 것이며, 이 시스템은 사용자를 대신해 조치를 취할 수 있을 것입니다.

이러한 시스템은 사람들에게 매우 유익하고 도움이 될 것이며 안전하게 제공할 수 있을 것으로 생각하지만, 이를 위해서는 엄청난 양의 기초 작업이 필요합니다. 여기에는 교육 대상에 대한 세심한 배려, 확장 가능한 감독과 같은 어려운 문제에 대한 해결책, 기타 새로운 종류의 안전 작업 등이 포함됩니다. 이러한 방향으로 개발을 진행하다 보니 언제 출시 안전 기준에 도달할 수 있을지 아직 확실하지 않으며, 이로 인해 출시 일정이 미뤄져도 괜찮습니다.

미래의 모든 가능한 시나리오를 상상할 수 없다는 것을 알고 있습니다. 따라서 매우 긴밀한 피드백 루프, 엄격한 테스트, 모든 단계에서의 신중한 고려, 세계 최고 수준의 보안, 안전과 기능의 조화가 필요합니다. 앞으로도 다양한 시간대를 대상으로 안전 연구를 계속할 것입니다. 또한 각국 정부 및 여러 이해관계자들과 안전에 관한 협업을 지속하고 있습니다.

AGI로 가는 길을 탐색하는 방법에 대한 검증된 플레이북은 없습니다. 경험적 이해가 앞으로 나아갈 방향을 제시하는 데 도움이 될 수 있다고 생각합니다. 우리는 엄청난 긍정적인 측면을 제공하는 동시에 심각한 위험을 완화하기 위해 노력해야 한다고 믿으며, 여기서 우리의 역할을 매우 진지하게 받아들이고 우리의 행동에 대한 피드백을 신중하게 검토합니다.

고정닉 11

원본 첨부파일 3본문 이미지 다운로드

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	말머리	제목	글쓴이	작성일	조회	추천
2868	설문	힘들게 성공한 만큼 절대 논란 안 만들 것 같은 스타는?	운영자	24/06/10	-	-
242613	공지	특갤 통합 공지 / 댓글 신고,문의 / 차단 해제 요청 [3158]	*특갤용*	23.08.06	40180	43
433260	공지	웬만하면 신문고에 문의 해주시면 차단 풀어드립니다 [4]	*부패하는유전자!!!*	24.03.06	2798	2
363220	공지	선형글 삭제 기준 [7]	*특갤용*	23.10.14	7510	24
375493	공지	필독) 유입 특붕이를 위한 AI 정보글 모음 (01/23) [40]	ㅇㅇ(182.230)	23.11.11	13719	122
373402	공지	직업 비하, 조롱 글 30일 차단됩니다. [51]	*특갤용*	23.11.07	9158	79
385147	공지	구글의 AGI 분류 체계 [17]	ㅇㅇ	23.11.22	8704	31
332612	공지	음모론 삭제 기준을 안내드립니다. [23]	*특갤용*	23.08.25	9390	30
412470	공지	레이 커즈와일 신간 6월 25일 발매 [29]	모브	24.01.24	8310	34
259237	공지	특갤 용어 모음집 [6]	*특갤용*	23.08.09	23099	33
489194	일반	한글로 대화하는거랑 영어로 대화하는거랑 차이 심해?	ㅇㅇ(106.245)	00:39	6	0
489193	일반	인간으로부터 독립한 ai [2]	ㅇㅇ	00:35	74	0
489192	일반	현실적으로 기본소+득제 도입국가	ㅇㅇ(1.228)	00:31	44	0
489191	일반	특이점 오기 전까진 모두가 시한부 인생이네 [1]	ㅓㅓ(175.125)	00:30	78	1
489190	일반	또또 흔들리네 [1]	이세이미야케	00:29	64	1
489189	일반	레이 커즈와일 예언 벌써 하나 실현 됐자나	ㅇㅇ(112.185)	00:27	63	0
489188	일반	수학은 본질적으로 특이점과 같음	꼬마귀염선충!	00:21	45	0
489187	일반	해외 주소로 세금 안 내고 결제했다. [2]	oo(175.212)	00:18	83	0
489186	일반	타오햄은 전부터 순수수학에 SW 활용 많이 하더라	ㅇㅇ(119.202)	00:17	40	0
489185	일반	타오형님 든든하다 ㅋㅋ [2]	ㅇㅇ	00:15	146	3
489184	일반	근데 지미애플말이 사실이면 [1]	ㅇㅇ	00:14	89	0
489183	일반	이제 2년차 특붕이인데.. [11]	ㅇㅇ	00:10	161	0
489182	일반	2029 AGI면 [2]	ㅇㅇ(180.69)	00:09	70	0
489181	일반	이미지 생성 ai 같은 거 쓰면서 가지고 놀려면 컴퓨터 사양 좋아야함? [3]	ㅇㅇ(118.235)	00:09	64	0
489180	일반	하루만 기다리면 특이점이 와요! [4]	ㅇㅇ(1.239)	00:08	178	8
489179	일반	a few weeks 뒤에 온다 했다가 갑자기 조용해짐 [4]	ㅇㅇ(121.128)	00:05	95	0
489178	일반	뉴보이스 적용되는 시기 (현실적 관점) [1]	ㅎㅎ(61.82)	00:04	55	1
489177	정보/ 정보/뉴스	테렌스 타오 "3년 안에 AI가 수학자에게 유용하게 될 것" [7]	ㅇㅇ(125.191)	00:04	238	9
489176	일반	글카 서버 구축해서 임대 서비스하면 돈 좀 버나? [6]	ㅇㅇ	06.09	73	0
489175	일반	Novel ai란거 듣고써봄 [3]	꼬마귀염선충!	06.09	150	0
489174	일반	WWDC 기대 안되는데 정상이냐? [3]	ㅇㅇ(61.72)	06.09	111	0
489173	일반	인간관계에서 오는 스트레스를 해소하는 방법 [1]	ㅇㅇ	06.09	55	0
489172	일반	방금 떠오른 생각 [8]	꼬마귀염선충!	06.09	151	0
489171	일반	그래서 보이스 언제 적용 되냐고 내가 한마디만 하자면은	ㅎㅎ(61.82)	06.09	27	0
489169	AI창 AI창작	내가 한 소닉 리믹스 + UDio 보강 = 개쩔음 [7]	InfinityVas	06.09	149	3
489168	일반	나의 특이점 기다림 연대기 2013-2024 [9]	ㅇㅇ(121.153)	06.09	128	2
489167	일반	perplexity가 코딩안하고 텍스트 분석만 하는 사람한테는 제일조음? [1]	볼카고트(119.75)	06.09	87	0
489165	일반	AI가 대신 써준 논문... 작년에만 1만건 이상 '철회‘ [6]	ㅇㅇ	06.09	247	1
489164	일반	Gpu성능은 문제될게없음 [15]	꼬마귀염선충!	06.09	202	0
489163	일반	시발 왜 타자 에러 하나 못 고치냐	ㅇㅇ(118.235)	06.09	40	0
489162	일반	긴급 Gta5 출시일 전격 공개 [1]	ㅇㅇ(118.37)	06.09	186	0
489161	일반	돈이고 뭐고 다 필요없고 쇳덩이가되고싶구나 [6]	ㅇㅇ	06.09	164	1
489160	일반	역대급으로 흥미로운 해가 될것 [1]	ㅇㅇ(118.235)	06.09	125	0
489159	일반	존버917일차 [3]	alphaca	06.09	45	0
489158	일반	또 또 의심하내 [1]	ㅇㅇ(121.170)	06.09	68	1
489157	일반	2025AGI무새들도 많이 세가 죽었네 [11]	ㅇㅇ(180.230)	06.09	301	0
489156	일반	얀르쿤 이새기는 얼굴빼고 잘난게 뭐가 있음? [3]	ㅇㅇ(211.179)	06.09	81	0
489155	일반	세상이 바뀔 걸 알고 있음에도 [2]	잘되게해주십시오	06.09	112	0
489153	일반	AGI는 2029년 엘론머스크에 의해 올거임 근거있음. [21]	망치왕(211.234)	06.09	325	4
489152	일반	완몰가가 메인인 작품 [1]	ㅇㅇ(211.234)	06.09	94	0
489151	일반	1000억 받고 특이점 영원히 안오기 vs 그냥살기 [20]	ㅇㅇ(218.50)	06.09	253	0