장문) 저지능도 인간의 특성이라는게 골때림 - 특이점이 온다 마이너 갤러리

특이점이 온다 갤러리
마이너

기술적 특이점에 대해 의논하고 그와 관련된 과학 기술 정보와 소식을 공유하는 갤러리입니다. *갤러리 이름은 동명의 레이 커즈와일의 저서 <특이점이 온다 (The singularity is near)>를 의미합니다.

매니저

특갤용(118wshxhtx5h)

부매니저

ㅇㅇ(hamaster) 부패하는유전자!!!(sansss20…) 은바다(nmra3fmz…)

개설일

2019-08-01

[일반] 장문) 저지능도 인간의 특성이라는게 골때림앱에서 작성

ㅇㅇ

2024.04.22 18:06:53

조회 143 추천 4 댓글 0

실험들은 글 뒤에 소개함

세 줄 요약:

저지능도 필요할 때가 있다.

인지편향의 의미는 과대평가됐다

즐거운 특갤생활 되셈^^

인간은 잘못된 선택을 함

근데 그 선택들에 평균을 내보면 진실에 가까운 값이 됨 (소 무게 실험)

그렇다고 모든 면에서 진실에 가까운 완벽한 사람은 없음 (평균의 함정)

그럼 인간의 취향은 어디까지 존중되어야 하는걸까?

AI는 정답을 찾아낼 수 있을까?

프레임 문제라는게 있음

상황을 하나 생각해보자

동굴 안에 시한폭탄이 설치되어있어

인공지능 로봇에게 "해체해라" 명령을 했지

로봇은 동굴 벽의 색깔부터 조사하기 시작했어

로봇은 뭐가 중요한지 몰랐거든

결국 시한폭탄은 터져버렸어

개빡친 개발자는 로봇의 프로그램을 수정했어

'시한 폭탄 앞으로 가서 전선을 분석하고 잘라'

로봇은 주어진 일을 잘 했어

폭탄 테러범이 동굴 벽 색깔로 퍼즐을 만들어놓은게 문제였지

결국 또 시한폭탄은 터져버렸어

모든 정보를 모으고 고려하면 진실에 가까워질 수 있지

하지만 그러려면 결국 시간이 필요해

현실은 모호하고 뭐가 중요한지는 항상 가려져있음

어떤 특붕이가 개발자의 인지 편향이 AI에 영향을 미친다고 글을 쓰더라

그 인지편향에 정확한 방향이라는 게 있는걸까?

수정해야 할 방향이 없으면 인지편향이라는 개념이 왜 필요하지?

무엇으로부터 편향된거야?

오해할까봐 하는 말인데

글 쓴 특붕이를 까거나 하는 건 전혀 아니야

이 글은 전혀 그렇게 볼 수 없음

인지편향이라는 개념 자체를 다시 살펴봐야한다는거야

지능이 높고 생각을 많이 하는 사람들의 견해와

지능이 낮고 생각을 적게 하는 사람들의 견해가 있는데

현실과 맞는 비율은 크게 다르지 않아

그러면 어느 견해가 더 옳다고 할 수 있는거지?

인류에게 저지능은 의도된거야

그 시각으로 봐야지 시간 안에 풀릴 수 있는 문제가 존재하기 때문에

동굴 벽을 안 보고 풀어야하는 시한폭탄도 있고

동굴 벽 색깔이 중요한 시한폭탄도 있기 때문에

결론은

인지편향에 대해 다시 생각해볼 필요가 있다는거지

[ 소 무게 실험 ]

프랜시스 골턴, "민중의 소리(Vox populi)", 네이쳐, 1907년

소 무게 맞추기 대회가 있었음

거기에 참가한 사람들 787명 정답을 평균내니까

소 실제 무게랑 5% 차이나더래

[ 평균의 함정 ]

토드 로즈, "평균의 종말", 21세기북스, 2018년

1940년 미국 공군이 전투기 좌석을 만들고 싶었대

그래서 전투기 조종사 신체 사이즈를 평균내서 만들었더니

누구는 허벅지가 안 맞고 누구는 어깨가 안 맞더래

평균 값에 가까운 10%의 사람들을 '평균적인 사람들' 이라 해보자

항목이 두 개면 1%의 사람만 평균적이고

항목이 세개면 0.1%의 사람만 평균적임

무려 10분의 1이라는 엄청 관대한 기준을 적용해도 그렇다는거임

이런 상황에서 평균은 큰 의미가 없음

고정닉 0

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	말머리	제목	글쓴이	작성일	조회	추천
2860	설문	경제관념 부족해서 돈 막 쓸 것 같은 스타는?	운영자	24/05/13	-	-
474165	일반	Agi가 완성된다 쳐도 공개를 빨리 할까? [1]	ㅇㅇ(121.131)	05.15	83	0
474164	일반	검열이 많이 사라진게 확실히 느껴진다.	ㅇㅇ(114.204)	05.15	133	0
474163	일반	정렬이 모델 팔다리 자르는 작업이냐? [3]	ㅇㅇ	05.15	194	0
474162	일반	일리야도 카피시처럼 교육쪽으로 좀 활약하면 좋겟당	dd(39.116)	05.15	49	0
474161	일반	ALSO도 정렬하는 과정에서 문제가 있었나? [1]	ㅇㅇ	05.15	98	0
474160	일반	일리야 나가서 앙꼬없는 찐빵됐네 [3]	거더라	05.15	197	1
474159	일반	실시간 영상 인식 수준 보면 그냥 자율주행 저거로 해결되는 거 아니냐 [1]	ㅇㅇ(116.123)	05.15	136	1
474158	일반	근데 일리야 나간걸 다들 환영하네?? [9]	ㅇㅇ(211.235)	05.15	352	0
474157	일반	잼민이 울트라 1.5라도 발표해야지 저게 뭐노 치타새끼	ㅇㅇ(110.145)	05.15	31	0
474156	일반	걍 19금 걸고 nsfw 푸는게 맞지 [1]	ㅇㅇ(218.150)	05.15	166	0
474155	일반	agi있다고 인정을했구만 [1]	ㅇㅇ(14.6)	05.15	286	1
474154	일반	뭐야 일리야 왜나가요 ㅠㅠㅠ [3]	lightvector	05.15	326	0
474153	일반	NSFW검열이 모델 성능을 너무 떨어트리니까 [2]	도서관킬러	05.15	246	2
474152	일반	일리야 은퇴.드립은 뭐냐?	ㅇㅇ	05.15	72	0
474151	일반	일리야 나가는건 좋은거지 [7]	ㅇㅇ(115.139)	05.15	253	3
474150	일반	왜 구글아이오 재민이 글은 없노 [1]	치지직	05.15	137	0
474149	일반	구글 그래서 뭐 발표함?	ㅇㅇ	05.15	54	0
474147	일반	GPT5 예측한다	ㅇㅇ(121.131)	05.15	157	2
474146	일반	구글 발표 요약..jpg [3]	ㅇㅇ(175.207)	05.15	496	2
474145	일반	일리야 나간다는데 왤케 다들 낙관적임 [14]	ㅇㅇ(211.197)	05.15	431	0
474144	일반	일리야가 나가서 안타깝긴 한데 [1]	ㅇㅇ(211.46)	05.15	137	0
474143	일반	이거 하난 확실해졌다 [5]	ㅇㅇ(117.20)	05.15	298	0
474142	일반	보니까 OAI는 AGI로 풀 악셀 밟았고 [3]	ㅇㅇ(58.123)	05.15	290	0
474141	일반	샘숭이 데려가진 않겠지? [2]	ㅇㅇ(121.131)	05.15	235	0
474140	일반	OAI 수석과학자 이거 닮음...	월코존버	05.15	147	0
474139	일반	일리야와 함께 Jan leike 초정렬팀 팀장도 퇴사 [3]	ㅇㅇ(58.123)	05.15	364	3
474138	일반	gpt-4o TTS 어디서씀? [2]	하무열	05.15	238	0
474137	정보	OAI 안전 정렬 팀, 다수 퇴사 혹은 해고 [3]	ㅇㅇ(119.77)	05.15	470	9
474136	일반	제발 일리야 인터뷰좀	ㅇㅇ(119.77)	05.15	50	0
474135	일반	나 엄마 때문에 미치겠다 [2]	yhuklhilhjklkhj(121.178)	05.15	176	0
474134	일반	(필독 바람)결국 알트만 이음흉한새끼가 원하는데로 됐네 [5]	ㅇㅇ	05.15	433	4
474133	일반	일리야 그냥 은퇴하는것같음 [11]	도서관킬러	05.15	406	2
474132	일반	미래꽃 일리야 퇴사 반응 [4]	ㅇㅇ(58.123)	05.15	464	0
474131	일반	마소가 oai한테 투자하는데 mac용이 먼저나온 이유가머임? [3]	ㅇㅇ	05.15	174	0
474130	일반	일리야 갈 곳 정해짐.	ㅇㅇ(223.38)	05.15	101	0
474129	일반	OAI 새 수석과학자 관상 진짜 안좋은데? [8]	ㅇㅇ(117.20)	05.15	451	0
474128	일반	gpt4o가 OAI 내부에서 굉장히 기대한 릴리즈긴 한듯	ㅇㅇ(119.77)	05.15	254	1
474127	일반	gpt5는 그렇다쳐도	ㅇㅇ(223.38)	05.15	60	0
474126	일반	일리야를 전적으로 믿고 지원해줄 기업이 있을까 [1]	천사다천사	05.15	133	0
474125	일반	일리야 어디로 감 그래서?	ㅇㅇ(211.197)	05.15	46	0
474124	일반	지금 인공지능 혁명 1등 공신 일리야 [2]	ㅇㅇ(119.77)	05.15	220	2
474123	일반	결국 그러면 ai 발전은 자본보다는	ㅇㅇ(112.161)	05.15	67	0
474122	일반	새 수석과학자 얘냐?	ㅇㅇ(211.46)	05.15	132	0
474121	일반	일리야 메타 갔으면 좋겠다 [5]	크갤망령	05.15	228	0
474120	일반	4o 어플에서 플러스 이거 결제하면 되냐? [5]	ㅇㅇ(180.65)	05.15	222	0
474119	일반	오늘 구글 발표 한줄평 [1]	ㅇㅇ(121.163)	05.15	239	0
474118	정보	OAI 새 수석과학자 관상 [8]	ㅇㅇ(118.235)	05.15	442	5
474117	일반	치타의 날 [1]	ㅇㅇ	05.15	99	0
474116	일반	난 개인적으로 일리야가 앤트로픽 가길 바람 [5]	ㅇㅇ(210.205)	05.15	278	1
474115	일반	ChatGPT 적어도 유료 사용자한테는 제한 좀 풀어줘라 [2]	ㅇㅇ(119.202)	05.15	182	0