얀르쿤 "초지능 정렬? 꼴값떨지마셈 ㅇㅇ" - 특이점이 온다 마이너 갤러리

특이점이 온다 갤러리
마이너

기술적 특이점에 대해 의논하고 그와 관련된 과학 기술 정보와 소식을 공유하는 갤러리입니다. *갤러리 이름은 동명의 레이 커즈와일의 저서 <특이점이 온다 (The singularity is near)>를 의미합니다.

매니저

특갤용(118wshxhtx5h)

부매니저

ㅇㅇ(hamaster) 부패하는유전자!!!(sansss20…) 은바다(nmra3fmz…)

개설일

2019-08-01

[정보/뉴스] 얀르쿤 "초지능 정렬? 꼴값떨지마셈 ㅇㅇ"앱에서 작성

ㅇㅇ(59.17) 2024.05.19 03:19:47

조회 5668 추천 46 댓글 54

1ebec223e0dc2bae61abe9e74683706d2fa04583d3d4cab6b4c4c4044f1790939897ff31200f5522ab4a13aa922dae9918

1ebec223e0dc2bae61abe9e74683706d2fa04583d3d4cab6b5c4c4044f17909385ba84ff0da352c020d498b27ab878cd1d

"우리보다 훨씬 똑똑한 AI 시스템을 제어하는 방법을 긴급히 알아내기"에 앞서 집 고양이보다 더 똑똑한 시스템을 위한 설계의 힌트를 얻는 것이 먼저인 것 같습니다.

이러한 긴박감은 현실에 대한 극도로 왜곡된 시각을 드러냅니다.

조직의 기반이 탄탄한 구성원일수록 슈퍼 얼라인먼트 그룹을 소외시키려 했던 것은 당연한 일입니다.

마치 1925년에 누군가 "바다 위를 음속에 가까운 속도로 수백 명의 승객을 수송할 수 있는 항공기를 어떻게 제어할지 시급히 알아내야 한다"고 말한 것과 같습니다.

터보제트기가 발명되기 전, 대서양을 논스톱으로 횡단하는 항공기가 나오기 전에는 장거리 여객기를 안전하게 운항하는 것이 어려웠을 것입니다.

하지만 이제 우리는 트윈엔진 제트기를 타고 지구 반 바퀴를 안전하게 비행할 수 있게 되었습니다.

안전을 위한 마법 같은 비결이 있었던 것은 아닙니다.

수십 년에 걸친 세심한 엔지니어링과 반복적인 개선이 필요했습니다.

지능형 시스템도 비슷한 과정을 거칠 것입니다.

고양이만큼 똑똑해지려면 몇 년이 걸리고, 인간만큼 똑똑해지려면 더 많은 시간이 걸릴 것입니다(현재 인공 지능의 초인적인 지식 축적 및 검색 능력을 실제 지능과 혼동하지 마세요).

점점 더 똑똑해지면서 효율성과 안전성을 위해 배치하고 미세 조정하는 데는 수년이 걸릴 것입니다.

요약: 우린 여전히 아주 기초적인 지능의 설계법에 대해서도 전혀모르는데 초지능? ㅋㅋ

병신같이 정렬 얘기하는거보니 니들 사내에서 왕따 당할만함

LLM으로 뽕찬건 알겠는데 근들갑 떨지말고 연구나해라

인간수준 지능까지 가려면 수십년은 남음 (지금LLM은 실제 지능이 아니라 초인적인 지식축적과 검색능력임)

아 그리고 안전은 그 과정에서 자연스럽게 해결될거임

고정닉 25

원본 첨부파일 2본문 이미지 다운로드

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	말머리	제목	글쓴이	작성일	조회	추천
2868	설문	힘들게 성공한 만큼 절대 논란 안 만들 것 같은 스타는?	운영자	24/06/10	-	-
2870	이슈	[디시人터뷰] 웃는 모습이 예쁜 누나, 아나운서 김나정	운영자	24/06/11	-	-
491010	일반	gpt5 연말이면 가장 가능성있는 게	이런내가특특	06.11	95	0
491009	일반	근데 진짜 이제 삼성폰 쓸 이유가 없긴하노 [4]	ㅇㅇ(121.145)	06.11	233	1
491008	일반	애플도 실적발표때 “몇주안에 ai 공개함”이랬다	ㅇㅇ(211.110)	06.11	68	0
491007	일반	애플이 그동안 너무 삽질을 하긴 했음	ㅇㅇ	06.11	36	0
491006	일반	온디바이스 ai는 전기차에 h200 8개 박는거 아니면 노답인듯 [2]	ㅇㅇ	06.11	84	0
491005	일반	6월 5일 영상에서 몇주내로 보이스 출시한다 했으면 [2]	ㅇㅇ	06.11	158	0
491004	일반	애플 까는이유? [3]	ㅇㅇ(112.186)	06.11	79	1
491003	일반	근데 애플이 기술이 없다고 봐야되냐? [8]	ㅇㅇ(59.22)	06.11	167	0
491002	일반	앱등이들은 우리가 애플 ai기술 없다고 까는걸 걱정하는걸로 아는구나 [1]	ㅇㅇ(110.145)	06.11	80	0
491001	일반	비전프로가 성공적으로 보급상용화 되려면 [1]	ㅇㅇ(221.167)	06.11	54	0
491000	일반	솔직히 역노화를 누려야 지금 살아있는 의미가 있지ㅋㅋㅋ뭐하러사냐 [4]	ㅇㅇ(121.133)	06.11	132	1
490999	일반	나 oai행보이해안가는거잇음 [12]	꼬마귀염선충!	06.11	171	0
490998	일반	지금 커스텀gpt안되냐? 어이가없네	ㅇㅇ(211.215)	06.11	33	0
490997	일반	애플의 가장 큰 문제는 1등 이미지가 사라진것	ㅇㅇ(121.128)	06.11	69	0
490995	일반	애플 자체 LLM 벤치마크 떴다 [37]	ㅇㅇ	06.11	386	0
490994	일반	오빠야들모해영	꼬마귀염선충!	06.11	60	0
490992	일반	미국이나 캐나다 가고 싶었는데	ㅇㅇ	06.11	46	0
490991	일반	내가원하는 ai [11]	가속	06.11	130	0
490990	일반	OAI 몇 달 전에 각 분야 박사급 인재 뽑은 거 [1]	초존도초	06.11	120	0
490989	일반	gpt5 가장 와닿는 말 [6]	이런내가특특	06.11	303	0
490988	일반	GPT가 제미나이보다 뛰어남	ㅇㅇ(121.182)	06.11	99	0
490987	일반	애플 삼성 떡밥 굴리는 거 그거임	ㅇㅇ	06.11	115	0
490986	일반	글고 삼성이 구글os 쓴다고 비관하는 ㅄ들 있던데 [10]	ㅇㅇ(220.79)	06.11	216	1
490985	일반	싱가포르랑 일본 중 한 곳으로 이민간다면 어디로갈거 [15]	ㅇㅇ(221.160)	06.11	188	0
490984	일반	ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ [2]	ㅇㅇ(221.167)	06.11	145	2
490983	일반	우리가 원하는 ai는 잘해야 2027년 이후에나 나올듯 [3]	ㅇㅇ(211.59)	06.11	131	0
490982	토의	복제인간 만들어서 인체실험 [2]	confine534(211.211)	06.11	53	0
490981	일반	왜 마지막 평범한 여름 아닐거같냐 ㅋㅋㅋㅋ [1]	ㅇㅇ	06.11	112	0
490980	일반	왜!!!!!!!! GPT5 안내는데!!!!!!!!!!!!!!!!!!!!! [3]	ㅇㅇ(1.239)	06.11	204	0
490979	일반	근데 왜 2030도 아니고 2029임? [5]	ㅇㅇ(220.121)	06.11	112	0
490978	일반	근데 삼성입장에서 존나 머리아픈거아님? [4]	ㅇㅇ(220.79)	06.11	205	0
490977	일반	원래 실리콘밸리 it쪽 인사들 과대 포장 하는게 주특기냐 [1]	ㅇㅇ(223.39)	06.11	59	1
490976	일반	애플은 애초에 llm고평가를 안 하는듯 [7]	ㅇㅇ(106.101)	06.11	189	0
490974	일반	내가 원하는 것은 고도지능의 ai라고	이런내가특특	06.11	72	0
490973	일반	폐쇄적이고 블랙박스화 되면 망할 수 밖에 없음	ㅇㅇ(221.167)	06.11	47	0
490972	일반	애초에 애플 이새끼들 구글지도 구글검색 넣었다가 [3]	ㅇㅇ(110.145)	06.11	113	0
490970	일반	애플이 병신인 이유 [1]	ㅇㅇ(221.167)	06.11	77	1
490969	일반	인내심 슬슬 바닥나는 지미 사과 ㅋㅋ [4]	도로시냥	06.11	392	6
490968	일반	제발 제발 제발 제발 제발 제발 특이점 제발 [2]	ㅇㅇ(1.239)	06.11	87	0
490967	일반	gpt5는 언제 나오는 거냐..	이런내가특특	06.11	40	0
490966	일반	삼성 이새끼들은 비슷하게도 못하냐;;; [9]	ㅇㅇ(125.188)	06.11	203	0
490965	일반	머스크 이새끼 폰 만들 수 있다고 아가리 터네 ㅋㅋㅋ [13]	ㅇㅇ(211.59)	06.11	296	0
490964	토의	사형수 인체실험을 통한 사이버펑크 기술 개발 [1]	confine534(211.211)	06.11	144	1
490963	일반	애플도 계속 내리막이구나	ㅇㅇ(223.38)	06.11	42	0
490962	일반	나름 애플 이것저것 잘 준비한것 같은데 [8]	ㅇㅇ	06.11	169	0
490961	일반	머스크는 쓸때없이 너무 유아독존임	ㅇㅇ(221.167)	06.11	53	0
490960	일반	아이폰 통화중녹음 혁신을 넘어 혁명이네 ㄷㄷㄷ [8]	ㅇㅇ(121.155)	06.11	277	2
490959	일반	애플이 m1 내고 싹 갈아엎었던거 생각하면 [1]	ㅇㅇ(125.130)	06.11	92	0
490958	일반	머스크 이새끼 진짜 제대로 긁혔나보네ㅋㅋㅋ [4]	ㅇㅇ	06.11	315	0
490957	일반	애플은 플랫폼 회사고 ai들을 앱처럼 보는 거임 [4]	ㅇㅇ(118.235)	06.11	135	0