환각의 원인은 환각 때문 아닌가? - 특이점이 온다 마이너 갤러리

기술적 특이점에 대해 의논하고 그와 관련된 과학 기술 정보와 소식을 공유하는 갤러리입니다. *갤러리 이름은 동명의 레이 커즈와일의 저서 <특이점이 온다 (The singularity is near)>를 의미합니다.

매니저

특갤용(118wshxhtx5h)

부매니저

ㅇㅇ(hamaster) 부패하는유전자!!!(sansss20…) 은바다(nmra3fmz…)

개설일

2019-08-01

[일반] 환각의 원인은 환각 때문 아닌가?앱에서 작성

ㅇㅇ(175.192) 2024.05.21 01:42:18

조회 202 추천 1 댓글 9

요새 특갤에서 종종 보이던 사과문제 같은 것은 주어지는 질문 자체가 모호하지 않나? 탈옥도 마찬가지 인 것 같다. 안전규칙을 미묘하게 벗어나는 질문을 계속 입력해서 과적합을 유도한다. 물론 테스터들은 탈옥이나 과적합 여부를 검사하기 위해 부적절한 질문을 일부러 던지겠지만.

이러면 환각의 원인은 애매모호함이 될 텐데, 사람은 받은 질문이 애매모호 할 때에 질문에서 주어지는 정보를 잠시 내버려두고 질문을 다각도로 살펴보기 위해 질문의 범주를 잠시 벗어난다. 교차검증이나 형변환 같은 방식으로.

만약 ai 가 위와같은 사고방식을 채택한다면 멀티모달은 반필수가 되는데, 4o 는 단지 큰 스케일의 llm 으로 멀티모달을 달성했다니 알다가도 모를 일이다. 이쯤되면 llm 안의 언어는 문자라기 보다는 몇십진법쯤 되는 연산소자가 되는걸까?

고정닉 1

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	말머리	제목	글쓴이	작성일	조회	추천
2868	설문	힘들게 성공한 만큼 절대 논란 안 만들 것 같은 스타는?	운영자	24/06/10	-	-
2870	이슈	[디시人터뷰] 웃는 모습이 예쁜 누나, 아나운서 김나정	운영자	24/06/11	-	-
492566	일반	레커는 선구자라니까? [11]	이세이미야케	06.13	224	0
492564	일반	2024 6월 AGI 레츠고 ㅋㅋㅋㅋㅋㅋㅋㅋㅋ [3]	Samus	06.13	437	2
492563	일반	ㅅㅂ 내가 원하는건 그냥 컴도 폰도 [1]	ㅇㅇ(218.39)	06.13	111	0
492562	일반	난 AI에 희망을 가지고 구원을 바라는 것 자체가 웃김 [49]	ㅇㅇ(118.216)	06.13	428	1
492561	일반	드림머신 검열 존내 걸려있잖아 없다매!!!!!! [4]	Samus	06.13	236	0
492559	일반	책도 안본 선형충 존나 나대는데 왜 차단안함? [32]	ㅇㅇ(14.6)	06.13	329	1
492558	일반	..	..(166.104)	06.13	57	0
492557	일반	존버922일차 [9]	alphaca	06.13	86	2
492556	일반	그림판에 생성 ai 탑재됨 [4]	도지500층	06.13	474	6
492555	일반	찌라시) 4o 보이스 7/25 출시 예정 [6]	ㅇㅇ(211.36)	06.13	320	0
492554	일반	유입 많은거 티나긴하노 [3]	떠깅	06.13	204	0
492553	일반	과연 AGI가 오는가? + AGI 온다고 해서 그게 특이점일까? [4]	ㅇㅇ(118.216)	06.13	153	1
492552	일반	공포의 24년 예측 [4]	ㅇㅇ(211.176)	06.13	270	1
492551	일반	다른 나라 특붕이들도 여기처럼 분위기 차가움? [2]	ㅇㅇ(115.138)	06.13	146	0
492550	일반	레커 옹이 냉참 되더라도 [6]	ㅇㅇ	06.13	128	0
492549	일반	레커 옹을 갤주에서 내리는건	ㅇㅇ(218.39)	06.13	55	0
492548	일반	솔직히 agi 안 온다는 새끼들도 웃김 [2]	ㅇㅇ(133.114)	06.13	155	1
492547	일반	미래꽃한테 지가 속아놓고 레커옹을 까네 [3]	ㅇㅇ(59.6)	06.13	139	3
492546	일반	건의 ) 갤주를 미래꽃으로 변경 [2]	ㅇㅇ(117.111)	06.13	135	1
492544	일반	솔직히 잼민이가 이정도까지 올줄 몰랐는데 [3]	ㅇㅇ(115.138)	06.13	203	0
492543	일반	인간은 이론적으로 늙지않고 영생이 가능함. [8]	ㅇㅇ	06.13	282	6
492542	일반	사실 이 정도 투자가 지속되고 인재가 몰리면 [7]	ㅇㅇ(115.139)	06.13	180	0
492541	일반	솔직히 래커 갤주 자격 없다고 봄 [1]	ㅇㅇ(211.227)	06.13	112	0
492540	일반	SORA 출시 vs 보이스모드 출시 뭐가 더 끌림? [1]	ㅇㅇ(61.72)	06.13	110	0
492539	일반	갤주 2029 agi 예측이 흔들리는 이유 [12]	ㅇㅇ(117.123)	06.13	516	14
492538	일반	LLM 모델 자체는 더 이상 크게 성능 향상될 여지가 없어보임	ㅇㅇ(221.143)	06.13	81	0
492537	일반	오늘 gpt4 능지 개박살이네	ㅇㅇ(211.107)	06.13	74	0
492536	일반	제미니 ai 스튜디오 사용량 언제 리셋됨?	ㅇㅇ	06.13	48	0
492535	일반	애초에 llm 작동 원리도 모른다메 ㅋㅋ [6]	ㅇㅇ(221.143)	06.13	276	1
492534	일반	실시간 화상분석+구글글래스 하면 쩔듯	엠창인생막장의끝	06.13	70	0
492533	일반	llm 의미	하이	06.13	50	0
492532	일반	근데 oai직원들 호들갑은 어쩔수 없는거였음 ㅇㅇ.. [2]	ㅇㅇ(117.123)	06.13	188	0
492531	일반	2029 AGI 믿는사람 특 [7]	ㅇㅇ(211.227)	06.13	199	0
492529	일반	사실 무라티 블러핑 맞다 agi 내부 달성함 이미 [5]	ㅇㅇ(223.39)	06.13	384	5
492528	일반	코드 8자리 안 없애면 죽여버린다 [1]	ㅇㅇ(211.235)	06.13	127	0
492527	일반	어쨌든 주 4일제 주3일제 이렇게 사회가 흘러가긴 할 거임 [1]	ㅇㅇ(120.142)	06.13	130	2
492526	일반	근데 2027년까지 뭐하고살까?	도치도치	06.13	87	0
492525	일반	근데 오픈AI 점점 안전성 명분 사라지고 있지 않나 [5]	ㅇㅇ(119.202)	06.13	225	1
492524	일반	솔직히 AGI 안와도 됨 [2]	ㅇㅇ(222.100)	06.13	167	0
492523	일반	보이스 풀고 20만원으로 올리자	ㅇㅇ(223.38)	06.13	57	0
492522	일반	용서해라 특붕이들아 [3]	ㅇㅇ(14.37)	06.13	217	1
492521	일반	OPEN AI 퇴사 직원..AGI 2027.news [2]	도치도치	06.13	444	2
492520	일반	이미지생성도 아직 달e가 stable diffusion보다 나은데 [1]	ㅇㅇ(110.145)	06.13	151	0
492519	일반	살려줘,살려줘..제발... [2]	ㅇㅇ(1.236)	06.13	192	0
492518	일반	여기는 가만히 보다보면 종.교 같아 [3]	ㅇㅇ	06.13	174	0
492517	일반	애플 오픈ai,구글 경쟁 시킨다..jpg [2]	ㅇㄴ(175.207)	06.13	205	0
492516	일반	Yandex, 훈련 비용을 줄이는 ai 도구 무료로 공개 [1]	ㅇㅇ	06.13	78	1
492515	일반	근데 인간 뇌 엑사플롭스 아님? [3]	ㅇㅇ(114.70)	06.13	230	0
492514	일반	현 Ai상황 한짤 요약	ㅇㅇ(125.184)	06.13	343	0
492513	일반	보냈음 [7]	ㄴㄱ(58.141)	06.13	276	1