장문) 저지능도 인간의 특성이라는게 골때림 - 특이점이 온다 마이너 갤러리

특이점이 온다 갤러리
마이너

기술적 특이점에 대해 의논하고 그와 관련된 과학 기술 정보와 소식을 공유하는 갤러리입니다. *갤러리 이름은 동명의 레이 커즈와일의 저서 <특이점이 온다 (The singularity is near)>를 의미합니다.

매니저

특갤용(118wshxhtx5h)

부매니저

ㅇㅇ(hamaster) 부패하는유전자!!!(sansss20…) 은바다(nmra3fmz…)

개설일

2019-08-01

[일반] 장문) 저지능도 인간의 특성이라는게 골때림앱에서 작성

ㅇㅇ

2024.04.22 18:06:53

조회 174 추천 4 댓글 0

실험들은 글 뒤에 소개함

세 줄 요약:

저지능도 필요할 때가 있다.

인지편향의 의미는 과대평가됐다

즐거운 특갤생활 되셈^^

인간은 잘못된 선택을 함

근데 그 선택들에 평균을 내보면 진실에 가까운 값이 됨 (소 무게 실험)

그렇다고 모든 면에서 진실에 가까운 완벽한 사람은 없음 (평균의 함정)

그럼 인간의 취향은 어디까지 존중되어야 하는걸까?

AI는 정답을 찾아낼 수 있을까?

프레임 문제라는게 있음

상황을 하나 생각해보자

동굴 안에 시한폭탄이 설치되어있어

인공지능 로봇에게 "해체해라" 명령을 했지

로봇은 동굴 벽의 색깔부터 조사하기 시작했어

로봇은 뭐가 중요한지 몰랐거든

결국 시한폭탄은 터져버렸어

개빡친 개발자는 로봇의 프로그램을 수정했어

'시한 폭탄 앞으로 가서 전선을 분석하고 잘라'

로봇은 주어진 일을 잘 했어

폭탄 테러범이 동굴 벽 색깔로 퍼즐을 만들어놓은게 문제였지

결국 또 시한폭탄은 터져버렸어

모든 정보를 모으고 고려하면 진실에 가까워질 수 있지

하지만 그러려면 결국 시간이 필요해

현실은 모호하고 뭐가 중요한지는 항상 가려져있음

어떤 특붕이가 개발자의 인지 편향이 AI에 영향을 미친다고 글을 쓰더라

그 인지편향에 정확한 방향이라는 게 있는걸까?

수정해야 할 방향이 없으면 인지편향이라는 개념이 왜 필요하지?

무엇으로부터 편향된거야?

오해할까봐 하는 말인데

글 쓴 특붕이를 까거나 하는 건 전혀 아니야

이 글은 전혀 그렇게 볼 수 없음

인지편향이라는 개념 자체를 다시 살펴봐야한다는거야

지능이 높고 생각을 많이 하는 사람들의 견해와

지능이 낮고 생각을 적게 하는 사람들의 견해가 있는데

현실과 맞는 비율은 크게 다르지 않아

그러면 어느 견해가 더 옳다고 할 수 있는거지?

인류에게 저지능은 의도된거야

그 시각으로 봐야지 시간 안에 풀릴 수 있는 문제가 존재하기 때문에

동굴 벽을 안 보고 풀어야하는 시한폭탄도 있고

동굴 벽 색깔이 중요한 시한폭탄도 있기 때문에

결론은

인지편향에 대해 다시 생각해볼 필요가 있다는거지

[ 소 무게 실험 ]

프랜시스 골턴, "민중의 소리(Vox populi)", 네이쳐, 1907년

소 무게 맞추기 대회가 있었음

거기에 참가한 사람들 787명 정답을 평균내니까

소 실제 무게랑 5% 차이나더래

[ 평균의 함정 ]

토드 로즈, "평균의 종말", 21세기북스, 2018년

1940년 미국 공군이 전투기 좌석을 만들고 싶었대

그래서 전투기 조종사 신체 사이즈를 평균내서 만들었더니

누구는 허벅지가 안 맞고 누구는 어깨가 안 맞더래

평균 값에 가까운 10%의 사람들을 '평균적인 사람들' 이라 해보자

항목이 두 개면 1%의 사람만 평균적이고

항목이 세개면 0.1%의 사람만 평균적임

무려 10분의 1이라는 엄청 관대한 기준을 적용해도 그렇다는거임

이런 상황에서 평균은 큰 의미가 없음

고정닉 0

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	말머리	제목	글쓴이	작성일	조회	추천
2863	설문	시세차익 부러워 부동산 보는 눈 배우고 싶은 스타는?	운영자	24/05/27	-	-
470992	일반	세상에 이런일이 책 스캔하는형식으로 뇌에 새긴다는게 현실에서 가능해지겠네	ㅇㅇ(182.219)	05.14	71	0
470991	일반	아 진짜 스마트폰 초창기 같다 새로운게 금방나오네 [1]	rtOS	05.14	127	0
470990	일반	문재인이 시작한 K-디지털 트레이닝 사업은 빨리 폐기 ㄱㄱ [1]	ㅇㅇ(112.161)	05.14	83	0
470989	일반	내일 나오는 구글 인공지능 기대하나도 안되네 [2]	ㅇㅇ(61.101)	05.14	129	1
470988	일반	그래서 야스 언제함? 그래서 야스 언제함? 그래서 야스 언제함? 그래서	ㅇㅇ(182.219)	05.14	25	0
470987	일반	아 대화기능 기존꺼였노.. [9]	인생이부질없음	05.14	227	0
470986	일반	미소녀 목소리ㅜ나와야하면 개추 ㅋㅋ	ㅇㅇ(211.235)	05.14	55	4
470985	일반	씨발 존나빠르긴하다 ㅋㅋ	ㅇㅇ(211.235)	05.14	87	0
470984	일반	지금 일어났는데 여론 어떰 [7]	ㅇㅇ(218.52)	05.14	237	0
470983	일반	근데 이거 가지고 알트만 쫓겨나고 뭐 그 난리 부린거? [1]	Zoltraak	05.14	115	0
470981	일반	얘 4.5라는디 [1]	ㅇㅇ(222.101)	05.14	136	0
470980	일반	gpt 4o = gpt2 good [6]	ㅇㅇ(121.139)	05.14	198	0
470979	일반	이거 보면 GPT-4o 능지 왜캐 좋아 보이냐 [2]	ㅇㅇ(220.71)	05.14	285	3
470978	일반	씨발 눈물난다 알트만아 나는 왜 안주는거니 구독을 얼마나 했는데 [1]	ㅇㅇ(121.162)	05.14	78	0
470977	일반	gpt4o는 까려해도 한마디면 쉴드 될듯	ㅇㅇ(125.183)	05.14	109	0
470976	일반	몇주내에 공개될 프론티어 모델은 대체 뭘까 ㄷㄷ [1]	ㅇㅇ	05.14	98	0
470975	일반	4o무료로 풀릴건데 결제를 왜함?(진짜 모름) [6]	ㅇㅇ(182.219)	05.14	356	0
470973	일반	gpt4o로 UI/UX 디자인 -> html 해본 결과 [5]	코드발사대(14.36)	05.14	266	0
470972	일반	내일 당장 도서관 가서 책 닥치는대로 다 찍어서 맥여야지 [3]	ㅇㅇ	05.14	131	0
470971	일반	쉬벌 존나빠르긴하네 진짜좋다 이건 ㅋㅋㅋ [1]	rtOS	05.14	160	0
470970	일반	Gpt-5뭔지 알겠네 ㅋㅋㅋㅋ [6]	ㅇㅇ(112.161)	05.14	249	0
470969	일반	GPT-4o 남자목소리도 듣고가라	ㅇㅇ(59.5)	05.14	124	1
470968	일반	GPT-4o의 멀티모달 설	ㅇㅇ(211.192)	05.14	85	0
470966	일반	아오 특평 ㅋㅋ 억빠할라고 해도 좀 코딩 해보고 말하지 [20]	ㅇㅇ	05.14	297	1
470965	일반	선형충 방빼ㅋㅋㅋㅋㅋ	ㅇㅇ(182.219)	05.14	31	0
470964	일반	신규구독은 뭔소리냐	ㅇㅇ	05.14	78	0
470963	일반	근데 유료가 80개면 무료는 몇개 제한일까? [3]	ㅇㅇ(39.113)	05.14	190	0
470962	일반	몇주안에 음성도 제공된다는건 이미 알트만 손 떠났다는거임	ㅇㅇ	05.14	78	0
470961	일반	Gpt 기억상실 방지방법 [1]	ㅇㅇ(110.46)	05.14	133	0
470960	일반	지피티 이년한테 본인 야추사진 보여주고 [1]	ㅇㅇ(211.235)	05.14	92	0
470959	일반	수식 사진찍어서 변환하는데 써먹을수있겠다	ㅇㅇ	05.14	60	0
470958	일반	이제 밈도 진짜 딱딱 이해하네 ㅋㅋ [2]	TS망상	05.14	213	2
470957	일반	아직도 안떴으면 개추	ㅇㅇ(39.113)	05.14	25	0
470956	일반	근데 이거 왜 80개로 늘어난거임? [2]	ㅇㅇ(175.208)	05.14	120	0
470955	일반	4o also이긴한데 압축률 좆되는 모델같다 ㅇㅇ;; [2]	ㅇㅇ(218.153)	05.14	233	0
470954	일반	저 수준의 음성인식이 경제에 어느정도 영향 미칠지 궁금함 [2]	ㅇㅇ	05.14	106	0
470953	일반	아직 3.5쓰고있는 흙붕이면 개추ㅋㅋ [2]	ㅇㅇ(182.219)	05.14	129	3
470952	일반	훨씬 빠르게 느껴지는 4o	빙냥이ㄱㅇㅇ	05.14	60	0
470951	일반	시발 영상처럼 바로바로 대답도 안해주고 [2]	ㅇㅇ(211.235)	05.14	123	0
470950	일반	이미지 분석이좆되는데이거 [1]	ㅇㅇ(14.35)	05.14	144	0
470949	일반	그래서 언제 ai 랑 같이 겜할수 있슴?	ㅇㅇ(175.192)	05.14	25	0
470948	일반	아직 데모에서 보여준 대화기능은 안되네??? [5]	rtOS	05.14	171	0
470947	일반	gpt4o가 수학은제일잘하네 [1]	ㅇㅇ(221.168)	05.14	162	0
470946	일반	음성대화 진짜 인간과 하는것처럼 된것만으로도 업글이지	ㅇㅇ(182.219)	05.14	36	0
470945	일반	여기 들어가면 공홈 데모영상들 볼수있다	ㅇㅇ(211.192)	05.14	38	0
470944	일반	특들갑	ㅇㅇ(118.235)	05.14	42	0
470943	일반	슬슬 식으면 개추ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ [3]	수퍼고수(110.10)	05.14	317	10
470942	일반	ㅈㄴ 빠르긴한데 비디오 음성 실시간 안되는데? [4]	ㅇㅇ(121.137)	05.14	170	0
470940	일반	성능이 제일 좋은건 아닌거 같음 역량은 오푸스보다 못해 [6]	ㅇㅇ(112.161)	05.14	181	0
470938	일반	이제 GPT 끼리 실시간 음성대화 가능 [1]	ㅇㅇ(211.192)	05.14	143	0