장문) 저지능도 인간의 특성이라는게 골때림 - 특이점이 온다 마이너 갤러리

특이점이 온다 갤러리
마이너

기술적 특이점에 대해 의논하고 그와 관련된 과학 기술 정보와 소식을 공유하는 갤러리입니다. *갤러리 이름은 동명의 레이 커즈와일의 저서 <특이점이 온다 (The singularity is near)>를 의미합니다.

매니저

특갤용(118wshxhtx5h)

부매니저

ㅇㅇ(hamaster) 부패하는유전자!!!(sansss20…) 부재중입니다.(hnn12) 은바다(nmra3fmz…)

개설일

2019-08-01

[일반] 장문) 저지능도 인간의 특성이라는게 골때림앱에서 작성

ㅇㅇ

2024.04.22 18:06:53

조회 139 추천 4 댓글 0

실험들은 글 뒤에 소개함

세 줄 요약:

저지능도 필요할 때가 있다.

인지편향의 의미는 과대평가됐다

즐거운 특갤생활 되셈^^

인간은 잘못된 선택을 함

근데 그 선택들에 평균을 내보면 진실에 가까운 값이 됨 (소 무게 실험)

그렇다고 모든 면에서 진실에 가까운 완벽한 사람은 없음 (평균의 함정)

그럼 인간의 취향은 어디까지 존중되어야 하는걸까?

AI는 정답을 찾아낼 수 있을까?

프레임 문제라는게 있음

상황을 하나 생각해보자

동굴 안에 시한폭탄이 설치되어있어

인공지능 로봇에게 "해체해라" 명령을 했지

로봇은 동굴 벽의 색깔부터 조사하기 시작했어

로봇은 뭐가 중요한지 몰랐거든

결국 시한폭탄은 터져버렸어

개빡친 개발자는 로봇의 프로그램을 수정했어

'시한 폭탄 앞으로 가서 전선을 분석하고 잘라'

로봇은 주어진 일을 잘 했어

폭탄 테러범이 동굴 벽 색깔로 퍼즐을 만들어놓은게 문제였지

결국 또 시한폭탄은 터져버렸어

모든 정보를 모으고 고려하면 진실에 가까워질 수 있지

하지만 그러려면 결국 시간이 필요해

현실은 모호하고 뭐가 중요한지는 항상 가려져있음

어떤 특붕이가 개발자의 인지 편향이 AI에 영향을 미친다고 글을 쓰더라

그 인지편향에 정확한 방향이라는 게 있는걸까?

수정해야 할 방향이 없으면 인지편향이라는 개념이 왜 필요하지?

무엇으로부터 편향된거야?

오해할까봐 하는 말인데

글 쓴 특붕이를 까거나 하는 건 전혀 아니야

이 글은 전혀 그렇게 볼 수 없음

인지편향이라는 개념 자체를 다시 살펴봐야한다는거야

지능이 높고 생각을 많이 하는 사람들의 견해와

지능이 낮고 생각을 적게 하는 사람들의 견해가 있는데

현실과 맞는 비율은 크게 다르지 않아

그러면 어느 견해가 더 옳다고 할 수 있는거지?

인류에게 저지능은 의도된거야

그 시각으로 봐야지 시간 안에 풀릴 수 있는 문제가 존재하기 때문에

동굴 벽을 안 보고 풀어야하는 시한폭탄도 있고

동굴 벽 색깔이 중요한 시한폭탄도 있기 때문에

결론은

인지편향에 대해 다시 생각해볼 필요가 있다는거지

[ 소 무게 실험 ]

프랜시스 골턴, "민중의 소리(Vox populi)", 네이쳐, 1907년

소 무게 맞추기 대회가 있었음

거기에 참가한 사람들 787명 정답을 평균내니까

소 실제 무게랑 5% 차이나더래

[ 평균의 함정 ]

토드 로즈, "평균의 종말", 21세기북스, 2018년

1940년 미국 공군이 전투기 좌석을 만들고 싶었대

그래서 전투기 조종사 신체 사이즈를 평균내서 만들었더니

누구는 허벅지가 안 맞고 누구는 어깨가 안 맞더래

평균 값에 가까운 10%의 사람들을 '평균적인 사람들' 이라 해보자

항목이 두 개면 1%의 사람만 평균적이고

항목이 세개면 0.1%의 사람만 평균적임

무려 10분의 1이라는 엄청 관대한 기준을 적용해도 그렇다는거임

이런 상황에서 평균은 큰 의미가 없음

고정닉 0

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	말머리	제목	글쓴이	작성일	조회	추천
2860	설문	경제관념 부족해서 돈 막 쓸 것 같은 스타는?	운영자	24/05/13	-	-
465057	정보	오픈AI, 13일 챗GPT 검색 발표"...구글에 전면전 선포 [4]	ㅇㅇ(59.16)	05.10	469	4
465056	일반	오픈ai, “성인 컨텐츠는 게이포르노만 허용 방침” 결정 [12]	ㅇㅇ(147.47)	05.10	796	11
465055	일반	나만 gpt3.5 성능 떨어진것 같음? [4]	Ausus	05.10	180	0
465054	일반	also든 good이든 이거 어디서씀? [1]	ㅇㅇ(182.211)	05.10	162	0
465053	일반	새로운 기술이란	엔리카클로체	05.10	117	1
465052	일반	GPT4 경량화해서 GPT2로 만든거라면 왜 성능은 더 좋아진거임? [6]	ㅇㅇ(211.37)	05.10	348	0
465051	일반	"AI가 성인 콘텐츠 만든다" 오픈AI 제작 허용 검토 (msn.com) [40]	루미코드	05.10	3801	36
465050	일반	구글검색 대응 OpenAI 월요일출 [4]	디붕이(182.229)	05.10	242	1
465049	일반	진짜 gpt-2를 good으로 만든거라면 좋겠네	천사다천사	05.10	117	0
465048	일반	보수적으로 10년뒤에 누릴만한 기술 뭐있냐 [7]	도둑도둑7	05.10	308	0
465047	일반	Good이랑 also가 gpt2기반이라고 생각해야 [5]	ㅇㅇ(211.210)	05.10	185	0
465046	정보	이산화탄소 빨아들이는 세계 최대 진공청소기 [2]	007빵(175.194)	05.10	186	3
465045	일반	역설적으로 고임금의 일자리가 가장 빨리 대체된다 [3]	ㅇㅇ(112.161)	05.10	157	0
465044	일반	통제 감시 단어만 꺼내도 부정적으로 보는애들 있던데 [2]	ㅇㅇ(117.20)	05.10	141	1
465043	일반	아레나쓰면 유료결제 안해도되는거 아냐? [8]	ㅇㅇ(211.49)	05.10	172	0
465042	일반	한국 자체llm말고 그냥 오픈소스 쓰면 안 됨? [10]	lightvector	05.10	415	1
465041	일반	그니까 정리 하자면 딱 이거네 [8]	ㅇㅇ(106.255)	05.10	350	0
465040	일반	내가 생각하는 빠르게 대체되는 분야 특징 [4]	ㅇㅇ(211.197)	05.10	255	0
465039	일반	오늘도 노동해방과 특이점을 향한 기도를 올립니다 [2]	ㅇㅇ(220.127)	05.10	54	0
465038	일반	Chatlmsys 모바일은 아예안되네 [2]	탈조선	05.10	63	0
465037	일반	일부러 에러를 섞는 거 아닐까? [9]	ㅇㅇ	05.10	185	0
465036	일반	(also) good gpt2 작명의미 알았다 [13]	초전도체여야만한다	05.10	560	6
465035	일반	Also랑 숫자야구 해봤다 [3]	ㅇㅇ(121.158)	05.10	318	0
465034	역노화	역노화 나오면 산아제한정책을 안하더라도...	ㅇㅇ	05.10	137	0
465033	일반	절망회로 돌려보기	ㅇㅇ(27.255)	05.10	101	0
465032	일반	완장은 링크 저 글 삭제 [2]	ㅇㅇ(112.161)	05.10	153	0
465031	일반	also다음주에 chat에 편입되는거 맞지? [2]	et	05.10	286	0
465030	일반	머지 난 also보다 제미니가 더 잘나오는데 [1]	고양이기체설	05.10	219	0
465029	일반	지금 돈 안 벌면 나중에 큰일남 [8]	ㅎㅇㅀㄹㅇㅎㅇㅀㅇ(121.178)	05.10	393	1
465027	일반	근데 자율 에이전트 나오면	ㅇㅇ(175.201)	05.10	87	0
465025	일반	나없는동안 뭐가나온거임 [6]	ㅇㅇ	05.10	277	0
465024	일반	also 진짜 존나 길게 해주네	ㅇㅇ(14.36)	05.10	184	0
465023	정보	아이슬란드에서 세계 최초로 마그마 방 시추 예정 [2]	ㅇㅇ(182.230)	05.10	423	6
465022	일반	왜 사람도 할 수 있는 일을 구지피 AI 에게 시키는 걸까? [7]	ㅇㅇ(175.192)	05.10	282	0
465021	일반	근데 제미나이는 다들 거르는 거임? [6]	ㅇㅇ(175.125)	05.10	307	0
465020	일반	사람이 쓸모없다는 건 명확하게 정의되지 않음	ㅇㅇ	05.10	64	0
465019	일반	본인개입 하나도 없이 also한테 코딩 시켰는데 [1]	ㅇㅇ(211.200)	05.10	239	0
465018	정보	알트만 : gpt4때문에 미래모델 영향 과소평가 우려 중 [33]	ㅇㅇ(119.77)	05.10	3306	21
465017	일반	claude3 opus는 아예 필터링이 없는건가 [4]	ㅇㅇ(14.7)	05.10	221	0
465016	일반	소설 세계관 gpt로 만들어봄 [3]	ㄹㅇㅇ(121.137)	05.10	164	0
465015	일반	새로나올 gpt의 상세스펙이 궁금한데	ㅇㅇ(211.46)	05.10	64	0
465014	정보	gpt-4l-auto, gpt-4-auto 새모델 [15]	ㅇㅇ(119.77)	05.10	764	11
465013	정보	Elevenlabs, 음악생성 모델 공개(Sora for music?) [8]	ㅇㅇ(119.77)	05.10	311	6
465011	일반	특이점 빨리 와야된다 [1]	ㅇㅇ(39.121)	05.10	150	0
465010	일반	also gpt2로 데빈 돌리는 거 상상함 [2]	초존도초	05.10	189	0
465009	일반	레커 신작 다음달에 나오는거 맞아? [2]	ㅇㅇ(211.197)	05.10	87	0
465008	일반	간단한 게임 만들기는 너무 쉬워서 하품 나오노 [9]	ㅇㅇ	05.10	500	2
465007	일반	also는 너무 간결하게 답변하는게 별로야 [16]	은바다	05.10	450	0
465006	일반	Gpt2 이새끼 시를 걍 잘 쓰네 [1]	ㅇㅇ(110.70)	05.10	154	1
465005	일반	also 나와서 기분 좋은 특붕이면 개추 ㅋㅋㅋ [3]	ㅇㅇ(1.239)	05.10	2169	25