바둑은 환각이 없는데 LLM은 환각이 있는 이유 - 특이점이 온다 마이너 갤러리

기술적 특이점에 대해 의논하고 그와 관련된 과학 기술 정보와 소식을 공유하는 갤러리입니다. *갤러리 이름은 동명의 레이 커즈와일의 저서 <특이점이 온다 (The singularity is near)>를 의미합니다.

매니저

특갤용(118wshxhtx5h)

부매니저

ㅇㅇ(hamaster) 부패하는유전자!!!(sansss20…) 은바다(nmra3fmz…)

개설일

2019-08-01

[일반] 바둑은 환각이 없는데 LLM은 환각이 있는 이유

ㅇㅇ(59.20) 2024.05.17 14:56:19

조회 560 추천 0 댓글 66

바둑과 현 LLM 은 동일한 트랜스포머 아키텍쳐 구조를 가지고 있음

하지만 바둑은 환각이 없고 LLM 은 환각이 존재하는 이유는

바둑은 19X19 라는 수학적 규격과 명확한 승/패 기준 그리고 집계산으로 점수를 낼수 있다는 것에 3가지의 절대적 규격을 가지고 있음

고로 승리하는 방향으로 / 더 많은 점수를 얻는 방향으로 모델의 학습 방향성을 수렴시키다 보면 자연스럽게 강해짐

하지만 LLM 은 저러한 평가규격이 존재하지않음 그냥 인간이 읽고 좋으면 긍정점수고 안좋으면 부정점수를 줘서 노가다 방식으로 검수하는 방법외엔 존재하지 않음

현재 테슬라 자율주행 데이터도 그렇게 인간에 의해서 검수된 데이터로 이루어짐

언어 와 수학 에서 절대적 규격을 통해서 재귀개선 할려면 양자의 영역은 필수적으로 열어야 가능하지않을까 싶음

고정닉 0

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	말머리	제목	글쓴이	작성일	조회	추천
2864	설문	비난 여론에도 뻔뻔하게 잘 살 것 같은 스타는?	운영자	24/06/03	-	-
488215	일반	근데 지금 또 모델을 발표하면 gpt 4o는 뭐가되냐 [3]	ㅇㅇ	06.07	196	0
488213	일반	AI가 극도로 발달한다면, 지구의 모든 정보를 복제한 가상 시뮬을 구동해 [15]	ㅇ(27.35)	06.07	325	1
488212	일반	AI만큼 기술 발전 반대가 심한 기술은 없어 [5]	ㅇㅇ(112.161)	06.07	189	0
488211	일반	그냥 존나 힘들고 지칠때 [11]	갤럭시빠	06.07	235	0
488210	역노화	서른 즈음되면 삶의 길이 보임 [6]	ㅇㅇ(121.169)	06.07	475	2
488209	일반	asi만들면 알트만도 이 ㅈㄹ하는거임?? [1]	ㅇㅇ(114.129)	06.07	194	1
488208	일반	Gpt4o 모바일 베타 업데이트 되었다 [1]	ㅇㅇ(223.38)	06.07	225	0
488207	일반	나는 agi가 달성되어도 초지능까지는 시간이 오래 걸릴거라고 생각함 [8]	ㅇㅇ(218.156)	06.07	190	0
488206	일반	지금 gpt 4o 속도 어떠냐 나만 존나느림? [1]	ㅇㅇ(112.170)	06.07	101	0
488205	일반	진지하게 구글이 뭘 잘못했냐? [6]	ㅇㅇ	06.07	425	10
488204	일반	작년에 티비 광고 퀄이 진짜 떨어졌다고 느꼈는데 올해는 좀 진일보함	ㅇㅇ(112.161)	06.07	97	0
488203	일반	gpt-4o가 말하는 엔비디아, CUDA, 그리고 독점법 [8]	천사다천사	06.07	252	0
488202	일반	머신러닝에서 오버피팅 이야기는 이제 안나오냐? [110]	ㅇㅇ(112.161)	06.07	405	1
488200	일반	어 단어 발견함 [4]	ㅇㅇ	06.07	158	0
488198	일반	엔비디아가 반독점 기소 당할만 했지 [3]	ㅇㅇ(119.207)	06.07	220	0
488197	일반	AGI 2029가 맞다면 [4]	천사다천사	06.07	156	0
488196	일반	‘절대영도’ 가까이… 양자실험 새 국면 연다	ㅇㅇ	06.07	192	1
488195	일반	인류 최대 빙하기 갤 [1]	ㅇㅇ(218.149)	06.07	100	0
488194	일반	일리야의 행선지가 어딜까? [7]	ㅇㅇ(211.109)	06.07	156	1
488193	일반	뤼튼이 어떻게 투자 받았나? 곰곰히 생각해봤음 [4]	ㅇㅇ(112.163)	06.07	367	0
488192	일반	이거 위험함 [4]	ㅇㅇ(112.165)	06.07	184	1
488191	일반	gpt4 좀만 꼬우면 오류뜸	갤럭시빠	06.07	38	0
488190	일반	앞으로 비틱질 하면서 피자 안쏘면 차단먹이센 [8]	Dall리신(121.157)	06.07	133	0
488189	일반	구글이 개발휴가를 가지 않은 세계선이 궁금하다	ㅇㅇ	06.07	75	0
488188	일반	레오폴드 예측그래프 [2]	ㅇㅇ(121.190)	06.07	218	0
488186	일반	장기기억 문제가 해결된 ai가 궁금하다 [2]	천사다천사	06.07	66	0
488184	일반	특붕이들 단체 우울증 걸렸노 [2]	ㅇㅇ(223.39)	06.07	139	0
488183	일반	제타 플롭스 달성하면 agi가능함? [1]	ㅇㅇ	06.07	70	0
488182	일반	ㅌㅇㅈ ㅈㅂ 231ㅇㅊ	포스트휴먼.	06.07	43	2
488181	일반	얀르쿤이 맞긴한데 agi달성하긴할거임 [3]	ㅇㅇ	06.07	142	0
488179	일반	2000년생들은 65살까지 일하다가 70~80쯤에 죽을거같냐 [8]	ㅇㅇ(59.7)	06.07	211	0
488178	일반	나는 구글이 21세기를 지배할거라고 생각했음 [8]	천사다천사	06.07	259	1
488177	일반	Few weeks 란 며칠인가 [3]	ㅇㅇ(223.38)	06.07	124	0
488176	일반	OAI는 LLM으로도 충분히 AGI가능! 입장인 거? [4]	ㅇㅇ(121.128)	06.07	149	0
488175	일반	제미나이 1.5 pro 언제까지 무료임?? [5]	ㅇㅇ(112.153)	06.07	172	0
488173	일반	몇주전에 하사비스가 내년에 큰거 온다고 했음 [3]	ㅇㅇ	06.07	214	1
488172	일반	구글 내부적으로 agi연구하고있을듯 [1]	ㅇㅇ(218.158)	06.07	158	2
488171	일반	4o 보이스랑 비전 포함? 10만원은 충분히 내지 [7]	ㅇㅇ(220.72)	06.07	170	0
488170	일반	동해 유전 관련해서 GPT 한테 물어보았다. [3]	ㅇㅇ(115.143)	06.07	231	0
488169	일반	미소녀 안드로이드랑 놀고 싶음 [1]	ㅇㅇ	06.07	73	0
488168	일반	gpt한테 물어보니 최대 5주라는데.	oo(110.11)	06.07	86	0
488167	일반	빙하기 시작임? [1]	ㅇㅇ(49.142)	06.07	78	0
488166	일반	챗지피티 환불하길잘한듯 [13]	■x	06.07	420	0
488164	일반	그래도 6월에 갤주 신간 나오니까 좋다 [2]	천사다천사	06.07	74	0
488163	일반	가상현실에 대해 생각하다가 문득 궁금해짐 [2]	ㅇㅇ(121.149)	06.07	113	0
488162	일반	2029 agi도 사실상 엄청나게 희망찬 예측인데 ㅋㅋㅋ [4]	ㅇㅇ	06.07	281	0
488161	일반	6월6일에 뭐 큰 거 온다면서 왔어? [1]	ㅇㅇ(220.123)	06.07	116	0
488160	일반	구독료 상승되면 기존 구독자들은 가격 유지했으면 좋겠다 [1]	ㅇㅇ(39.125)	06.07	85	0
488159	일반	agi가 나오는 2075년은 어떤 느낌일까 [2]	ㅇㅇ(118.235)	06.07	123	1
488158	일반	2029년 agi는 그냥 gpt8이라고 생각하면 될거같은데 [1]	ㅇㅇ(114.200)	06.07	129	0