얀르쿤 "초지능 정렬? 꼴값떨지마셈 ㅇㅇ" - 특이점이 온다 마이너 갤러리

특이점이 온다 갤러리
마이너

기술적 특이점에 대해 의논하고 그와 관련된 과학 기술 정보와 소식을 공유하는 갤러리입니다. *갤러리 이름은 동명의 레이 커즈와일의 저서 <특이점이 온다 (The singularity is near)>를 의미합니다.

매니저

특갤용(118wshxhtx5h)

부매니저

ㅇㅇ(hamaster) 부패하는유전자!!!(sansss20…) 은바다(nmra3fmz…)

개설일

2019-08-01

[정보/뉴스] 얀르쿤 "초지능 정렬? 꼴값떨지마셈 ㅇㅇ"앱에서 작성

ㅇㅇ(59.17) 2024.05.19 03:19:47

조회 5625 추천 46 댓글 55

1ebec223e0dc2bae61abe9e74683706d2fa04583d3d4cab6b4c4c4044f1790939897ff31200f5522ab4a13aa922dae9918

1ebec223e0dc2bae61abe9e74683706d2fa04583d3d4cab6b5c4c4044f17909385ba84ff0da352c020d498b27ab878cd1d

"우리보다 훨씬 똑똑한 AI 시스템을 제어하는 방법을 긴급히 알아내기"에 앞서 집 고양이보다 더 똑똑한 시스템을 위한 설계의 힌트를 얻는 것이 먼저인 것 같습니다.

이러한 긴박감은 현실에 대한 극도로 왜곡된 시각을 드러냅니다.

조직의 기반이 탄탄한 구성원일수록 슈퍼 얼라인먼트 그룹을 소외시키려 했던 것은 당연한 일입니다.

마치 1925년에 누군가 "바다 위를 음속에 가까운 속도로 수백 명의 승객을 수송할 수 있는 항공기를 어떻게 제어할지 시급히 알아내야 한다"고 말한 것과 같습니다.

터보제트기가 발명되기 전, 대서양을 논스톱으로 횡단하는 항공기가 나오기 전에는 장거리 여객기를 안전하게 운항하는 것이 어려웠을 것입니다.

하지만 이제 우리는 트윈엔진 제트기를 타고 지구 반 바퀴를 안전하게 비행할 수 있게 되었습니다.

안전을 위한 마법 같은 비결이 있었던 것은 아닙니다.

수십 년에 걸친 세심한 엔지니어링과 반복적인 개선이 필요했습니다.

지능형 시스템도 비슷한 과정을 거칠 것입니다.

고양이만큼 똑똑해지려면 몇 년이 걸리고, 인간만큼 똑똑해지려면 더 많은 시간이 걸릴 것입니다(현재 인공 지능의 초인적인 지식 축적 및 검색 능력을 실제 지능과 혼동하지 마세요).

점점 더 똑똑해지면서 효율성과 안전성을 위해 배치하고 미세 조정하는 데는 수년이 걸릴 것입니다.

요약: 우린 여전히 아주 기초적인 지능의 설계법에 대해서도 전혀모르는데 초지능? ㅋㅋ

병신같이 정렬 얘기하는거보니 니들 사내에서 왕따 당할만함

LLM으로 뽕찬건 알겠는데 근들갑 떨지말고 연구나해라

인간수준 지능까지 가려면 수십년은 남음 (지금LLM은 실제 지능이 아니라 초인적인 지식축적과 검색능력임)

아 그리고 안전은 그 과정에서 자연스럽게 해결될거임

고정닉 25

원본 첨부파일 2본문 이미지 다운로드

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	말머리	제목	글쓴이	작성일	조회	추천
2864	설문	비난 여론에도 뻔뻔하게 잘 살 것 같은 스타는?	운영자	24/06/03	-	-
242613	공지	특갤 통합 공지 / 댓글 신고,문의 / 차단 해제 요청 [3119]	*특갤용*	23.08.06	39624	43
363220	공지	선형글 삭제 기준 [7]	*특갤용*	23.10.14	7314	24
375493	공지	필독) 유입 특붕이를 위한 AI 정보글 모음 (01/23) [40]	ㅇㅇ(182.230)	23.11.11	13466	122
373402	공지	직업 비하, 조롱 글 30일 차단됩니다. [51]	*특갤용*	23.11.07	9012	79
385147	공지	구글의 AGI 분류 체계 [17]	ㅇㅇ	23.11.22	8474	31
332612	공지	음모론 삭제 기준을 안내드립니다. [23]	*특갤용*	23.08.25	9226	30
412470	공지	레이 커즈와일 신간 6월 25일 발매 [29]	모브	24.01.24	8112	34
259237	공지	특갤 용어 모음집 [6]	*특갤용*	23.08.09	22833	33
485821	일반	이분이 갤주여야 되는 거 아님??? [29]	oo(175.125)	06.03	1749	32
485635	정보/ 정보/뉴스	구글에서 AGI 정렬 매니저를 구인 중 [25]	lightvector	06.03	2345	18
485745	일반	4년자 IT 개발자에 있어서 AI이후 많이 변했음 [35]	ㅇㅇ(218.157)	06.03	1514	22
485406	일반	힌튼"AI 의사가 인간 의사보다 훨씬 뛰어나다" [35]	ㅇㅇ	06.02	2571	28
485320	일반	십새끼 필터 과정 [17]	ㅇㅇ	06.02	3730	36
485287	정보/ 정보/뉴스	Elevenlabs 효과음 생성 AI 출시 [27]	Ad_Astra	06.02	4163	67
485232	일반	6월6일 특갤 좆창날꺼 같으면 개추 ㅋㅋㅋ [16]	ㅇㅇ(58.29)	06.02	3793	41
485155	정보/ 정보/뉴스	앤트로픽 cos "앞으로 3년이 내 직업의 마지막 일 수도" [53]	선갤러(125.191)	06.01	4495	44
485102	정보/ 정보/뉴스	샘알트만 "사회 전체 구조가 논쟁과 재구성을 겪게 될 것 " [25]	ㅇㅇ(125.191)	06.01	3439	28
485099	정보/ 정보/뉴스	메타, 최강 비전 모델 ‘라마3-V’ 공개…"8B로 GPT-4V와 동급" [32]	ㅇㅇ	06.01	3244	27
484999	정보/ 정보/뉴스	ai로 영상의 각도를 바꿀 수 있습니다! [25]	한가운데	06.01	3225	25
484968	일반	gpt 4o가 거품 소리를 듣는 이유가 [16]	ㅇㅇ(121.168)	06.01	3820	28
484926	일반	ToonCrafter 애니 그냥 스캠 광고 목적이 강한듯 [28]	ㅇㅇ(218.158)	06.01	3466	41
484753	일반	이제보니까 도라에몽<-이새끼 특슬람 끝판왕 아니냐? [24]	ㅇㅇ(1.236)	05.31	3147	31
484743	일반	제미니 탈옥시키니까 페미 말투도 개찰짐 [19]	ㅇㅇ(218.144)	05.31	3584	27
484731	일반	제미니 특갤 학습도 잘했노 ㅋㅋ [19]	ㅇㅇ(59.17)	05.31	2945	37
484655	정보/ 정보/뉴스	KAIST, 물리학 20년 난제 풀어…"기존 메모리 1만배 늘릴 수 있다 [33]	ㅇㅇ	05.31	3017	23
484615	일반	또 MIT, 석학 이라는 단어에 반응하네 [20]	ㅇㅇ(59.10)	05.31	2837	49
484599	정보/ 정보/뉴스	MIT 석학 보고서 "ai로 세상 못바꿔" [47]	ㅇㅇ(1.245)	05.31	3536	32
484568	일반	뭐냐 gpt5 출시 얼마 안 남은거 같은데??? [34]	ㅇㅇ	05.31	4059	29
484526	정보/ 정보/뉴스	애니메이션 생성 ToonCrafter [46]	ㅇㅇ	05.31	3103	40
484498	정보/ 정보/뉴스	LLM은 고차원 정신 이론 작업에서 성인 인간의 성과 달성 [4]	ㅇㅇ(125.191)	05.31	1288	16
484355	정보/ 정보/뉴스	bitnet 이미지 생성 모델에 적용 [11]	한가운데	05.30	789	16
484350	정보/ 정보/뉴스	야 얘들아 이것도 특이점인건가? (당뇨완치사례) [35]	ㅇㅇ(220.127)	05.30	3302	31
484225	정보/ 정보/뉴스	OpenAI, 무료 유저에게 기능 오픈 [36]	ㅇㅇ(210.110)	05.30	5090	36
484206	정보/ 정보/뉴스	'모라' 미쳤는데 이거 gpt5 에 통합될듯 ㅋㅋ [51]	ㅇㅇ(125.134)	05.30	4441	32
484167	정보/ 정보/뉴스	MS, 미세조정 기술 '로라' 개선한 '모라' 공개 [7]	ㅇㅇ	05.30	2773	26
484116	일반	몇일동안 얀르쿤 VS 머스크 키베 요약 [41]	있었	05.29	3970	34
483759	정보/ 정보/뉴스	샘알트만 재산 절반 기부 서명 [47]	특술람	05.29	4097	35
483721	정보/ 정보/뉴스	며칠전 퇴사한 초정렬팀 공동리더 앤트로픽 행 [10]	ㅇㅇ	05.29	1101	16
483708	정보/ 정보/뉴스	정부, 뉴욕대에 'AI랩' 구축…공동소장으로 얀 르쿤 선임 [56]	ㅇㅇ	05.29	3076	26
483674	정보/ 정보/뉴스	세계 최초 '바이오 프로세서' 플랫폼 등장...인간 뇌 오가노이드 사용 [2]	ㅇㅇ	05.28	784	20
483658	일반	레이 커즈와일 '특이점이 온다' 예측 점검. (팩트체크) [21]	ㅇㅇ	05.28	1368	23
483634	정보/ 정보/뉴스	오픈AI 글로벌 부사장 "우리의 사명은 초지능 구축이 아니다" [17]	ㅇㅇ	05.28	3970	28
483580	정보/ 정보/뉴스	오랜만에 재밌게 읽은 논문(트랜스포머 계산문제 해결) [16]	ㅇㅇ(119.77)	05.28	2829	33
483576	일반	큰거 떴는데 [26]	ㅇㅇ	05.28	5181	26
483217	정보/ 정보/뉴스	알파고로 보는 AI가 보여줄 미래 [28]	ㅇㅇ(59.26)	05.27	5079	35
483143	일반	얀르쿤 다크나이트 맞음 ㅇㅇ [49]	ㅇㅇ(218.147)	05.27	4184	40
483130	정보/ 정보/뉴스	리사 수) 2027년까지 에너지 효율 100배 끌어올린다 [13]	ㅇㅇ	05.27	3484	20
483122	정보/ 정보/뉴스	NASA, '날씨 예측 모델' 오픈 소스 공개 [14]	ㅇㅇ	05.27	2300	21
483121	정보/ 정보/뉴스	영화 '퓨리오사'에 생성 AI 활용..."아역에 주연 얼굴 합성" [12]	ㅇㅇ	05.27	2894	20
483113	일반	머스크 까는 얀르쿤 [35]	ㅇㅇ	05.27	3489	36