얀르쿤 "초지능 정렬? 꼴값떨지마셈 ㅇㅇ" - 특이점이 온다 마이너 갤러리

특이점이 온다 갤러리
마이너

기술적 특이점에 대해 의논하고 그와 관련된 과학 기술 정보와 소식을 공유하는 갤러리입니다. *갤러리 이름은 동명의 레이 커즈와일의 저서 <특이점이 온다 (The singularity is near)>를 의미합니다.

매니저

특갤용(118wshxhtx5h)

부매니저

ㅇㅇ(hamaster) 부패하는유전자!!!(sansss20…) 은바다(nmra3fmz…)

개설일

2019-08-01

[정보/뉴스] 얀르쿤 "초지능 정렬? 꼴값떨지마셈 ㅇㅇ"앱에서 작성

ㅇㅇ(59.17) 2024.05.19 03:19:47

조회 5653 추천 46 댓글 54

1ebec223e0dc2bae61abe9e74683706d2fa04583d3d4cab6b4c4c4044f1790939897ff31200f5522ab4a13aa922dae9918

1ebec223e0dc2bae61abe9e74683706d2fa04583d3d4cab6b5c4c4044f17909385ba84ff0da352c020d498b27ab878cd1d

"우리보다 훨씬 똑똑한 AI 시스템을 제어하는 방법을 긴급히 알아내기"에 앞서 집 고양이보다 더 똑똑한 시스템을 위한 설계의 힌트를 얻는 것이 먼저인 것 같습니다.

이러한 긴박감은 현실에 대한 극도로 왜곡된 시각을 드러냅니다.

조직의 기반이 탄탄한 구성원일수록 슈퍼 얼라인먼트 그룹을 소외시키려 했던 것은 당연한 일입니다.

마치 1925년에 누군가 "바다 위를 음속에 가까운 속도로 수백 명의 승객을 수송할 수 있는 항공기를 어떻게 제어할지 시급히 알아내야 한다"고 말한 것과 같습니다.

터보제트기가 발명되기 전, 대서양을 논스톱으로 횡단하는 항공기가 나오기 전에는 장거리 여객기를 안전하게 운항하는 것이 어려웠을 것입니다.

하지만 이제 우리는 트윈엔진 제트기를 타고 지구 반 바퀴를 안전하게 비행할 수 있게 되었습니다.

안전을 위한 마법 같은 비결이 있었던 것은 아닙니다.

수십 년에 걸친 세심한 엔지니어링과 반복적인 개선이 필요했습니다.

지능형 시스템도 비슷한 과정을 거칠 것입니다.

고양이만큼 똑똑해지려면 몇 년이 걸리고, 인간만큼 똑똑해지려면 더 많은 시간이 걸릴 것입니다(현재 인공 지능의 초인적인 지식 축적 및 검색 능력을 실제 지능과 혼동하지 마세요).

점점 더 똑똑해지면서 효율성과 안전성을 위해 배치하고 미세 조정하는 데는 수년이 걸릴 것입니다.

요약: 우린 여전히 아주 기초적인 지능의 설계법에 대해서도 전혀모르는데 초지능? ㅋㅋ

병신같이 정렬 얘기하는거보니 니들 사내에서 왕따 당할만함

LLM으로 뽕찬건 알겠는데 근들갑 떨지말고 연구나해라

인간수준 지능까지 가려면 수십년은 남음 (지금LLM은 실제 지능이 아니라 초인적인 지식축적과 검색능력임)

아 그리고 안전은 그 과정에서 자연스럽게 해결될거임

고정닉 25

원본 첨부파일 2본문 이미지 다운로드

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	말머리	제목	글쓴이	작성일	조회	추천
2864	설문	비난 여론에도 뻔뻔하게 잘 살 것 같은 스타는?	운영자	24/06/03	-	-
242613	공지	특갤 통합 공지 / 댓글 신고,문의 / 차단 해제 요청 [3157]	*특갤용*	23.08.06	40147	43
433260	공지	웬만하면 신문고에 문의 해주시면 차단 풀어드립니다 [4]	*부패하는유전자!!!*	24.03.06	2786	2
363220	공지	선형글 삭제 기준 [7]	*특갤용*	23.10.14	7492	24
375493	공지	필독) 유입 특붕이를 위한 AI 정보글 모음 (01/23) [40]	ㅇㅇ(182.230)	23.11.11	13697	122
373402	공지	직업 비하, 조롱 글 30일 차단됩니다. [51]	*특갤용*	23.11.07	9146	79
385147	공지	구글의 AGI 분류 체계 [17]	ㅇㅇ	23.11.22	8687	31
332612	공지	음모론 삭제 기준을 안내드립니다. [23]	*특갤용*	23.08.25	9372	30
412470	공지	레이 커즈와일 신간 6월 25일 발매 [29]	모브	24.01.24	8293	34
259237	공지	특갤 용어 모음집 [6]	*특갤용*	23.08.09	23077	33
489016	일반	짤녀랑 결혼하기 vs agi 1년 빨리 오기 [3]	ㅇㅇ	17:54	60	0
489015	일반	중국애들 든든하네	ㅇㅇ	17:53	19	0
489014	일반	기본2소득 외치는 애들은 하나같이 무임승차 마인드에 나약하드라 [2]	ㅇㅇ(223.38)	17:49	59	0
489013	일반	얀르쿤 곡선 번역해놓은거 센스 좋네 ㅋㅋㅋㅋ	ㅇㅇ(122.43)	17:49	42	0
489012	일반	디지털 의식은 원본일까 복사본일까 - 사이버펑크 2077	ㅇㅇ(1.239)	17:46	36	0
489011	일반	환쌤들은 사는게 불편하지 않으시나	ㅇㅇ(125.240)	17:45	28	0
489010	일반	근데 gpt5는 언제 나옴? [5]	ㅇㅇ(1.239)	17:42	92	0
489009	일반	iq 80 이상인데 [5]	괴발자(14.34)	17:41	85	0
489008	일반	예전에 주관적 무한과 관련된 게시글 있었는데 찾아줄 게이... [6]	ㅇㅇ(14.53)	17:34	97	0
489007	일반	어쩌라고 시발련아	냠냠사막	17:33	78	0
489006	일반	닭다리치킨 샌드위치 해먹었다 [9]	ㅇㅇ(110.11)	17:12	152	0
489005	일반	난 여기서 기본1소득 글좀 보고싶음 [5]	Dd(223.39)	17:11	170	2
489004	일반	내년이면 미국이 맞춤형 백신 하기 가능? [3]	슈퍼130클럽	17:05	131	3
489003	일반	조울증이라고 무조건 나쁜 것만 있는 건 아님. [11]	ㅇㅇ(1.239)	17:01	213	0
489002	일반	빨리 완몰가나 왔음 좋겠다 [5]	ㅇㅇ(118.34)	17:01	76	0
489000	일반	나시발 너무 억울해서 그러는데 한화이글스 개씨발진짜 [4]	ㅇㅇ(220.95)	16:55	120	0
488999	일반	1.5프로 어디서 씀? [5]	ㅇㅇ(211.36)	16:52	95	0
488998	일반	아빠가 자폐의심이었는데 나도 자폐 유전자 물려받음 [1]	ㅇㅇ(116.37)	16:47	185	1
488996	일반	kling 성능 진짜 미쳤다 [8]	ㅇㅇ	16:45	354	6
488995	일반	chatgpt 계속생성하기 자동으로 눌러지는거 옵션 없나? [1]	부공	16:44	49	0
488993	일반	선진국애들 마인드 ㄷㄷㄷ [1]	ㅇㅇ(218.234)	16:43	280	0
488991	일반	얀 르쿤이 하는말 요약하면 대충 이거인듯 [4]	ㅇㅇ(115.139)	16:41	166	0
488989	일반	제미니 번역 좋다는게 1.5 pro 기준임? [3]	ㅇㅇ(1.229)	16:40	77	0
488986	일반	노력주의 능력주의 신봉하시는 분들 국회의원 선거 발려서 [3]	ㅇㅇ(118.235)	16:36	97	1
488984	일반	인공지능도 정신병에 걸릴 수 있을까? [4]	ㅇㅇ(221.166)	16:28	164	1
488983	일반	이런거 온갖갤에 돌리는 어그로임 [10]	ㅇㅇ(58.225)	16:25	266	0
488982	일반	치킨 한마리 최소 1500에서 최대 3000 칼로리 [1]	ㅇㅋ	16:19	75	0
488979	일반	희귀 유전병 있는 내가 볼땐 유전탓 맞는데? [2]	ㅇㅇ(59.31)	16:17	105	3
488978	일반	현재 탑3는 chatGpt, 클로드,.잼민이 맞아? [4]	ㅇㅇ(118.235)	16:16	92	0
488977	일반	ㅋㅋ	갤럭시빠	16:12	50	0
488976	일반	얀르쿤 "기하급수적 발전이란 것은 없다" [19]	ㅇㅇ(119.197)	16:11	509	14
488975	일반	탓하는게 나쁜것도 아니다	ㅇㅇ(59.6)	16:09	60	0
488973	일반	유전자 탓하지 말라는 놈들 유전자 변형시켜 저능아로 만들면 [3]	ㅇㅇ(218.147)	16:07	214	10
488972	일반	4o 이미지 인식률 실망이다 [8]	ㅇㅇ(121.165)	16:00	191	0
488971	일반	1인1치킨 <<<<< 돼지새끼들 가스라이팅임 [12]	ㅇㅇ(39.121)	15:53	226	0
488970	일반	유전탓하는 인생 패배자들 [6]	ㅇㅇ(118.235)	15:52	168	0
488969	일반	보이스엔진 한참 걸릴거같아서 유료결제 해지함 [2]	A.I.	15:47	106	0
488968	일반	FFF: 월요일 WWDC는 아이폰용이 아니다 [9]	ㅇㅇ(211.36)	15:43	308	1
488967	일반	GPT4o 6월 모의고사 영어 성적 [14]	매직ai	15:37	327	1
488966	일반	1인1치킨 쉽다는 사람 진짜 먹어본게 맞긴함? [11]	ㅇㅇ(39.115)	15:35	188	0
488965	일반	짱깨앱들은 ㄹㅇ 개쓰레기임	ㅇㅇ(180.66)	15:34	63	0