환각의 원인은 환각 때문 아닌가? - 특이점이 온다 마이너 갤러리

기술적 특이점에 대해 의논하고 그와 관련된 과학 기술 정보와 소식을 공유하는 갤러리입니다. *갤러리 이름은 동명의 레이 커즈와일의 저서 <특이점이 온다 (The singularity is near)>를 의미합니다.

매니저

특갤용(118wshxhtx5h)

부매니저

ㅇㅇ(hamaster) 부패하는유전자!!!(sansss20…) 은바다(nmra3fmz…)

개설일

2019-08-01

[일반] 환각의 원인은 환각 때문 아닌가?앱에서 작성

ㅇㅇ(175.192) 2024.05.21 01:42:18

조회 200 추천 1 댓글 9

요새 특갤에서 종종 보이던 사과문제 같은 것은 주어지는 질문 자체가 모호하지 않나? 탈옥도 마찬가지 인 것 같다. 안전규칙을 미묘하게 벗어나는 질문을 계속 입력해서 과적합을 유도한다. 물론 테스터들은 탈옥이나 과적합 여부를 검사하기 위해 부적절한 질문을 일부러 던지겠지만.

이러면 환각의 원인은 애매모호함이 될 텐데, 사람은 받은 질문이 애매모호 할 때에 질문에서 주어지는 정보를 잠시 내버려두고 질문을 다각도로 살펴보기 위해 질문의 범주를 잠시 벗어난다. 교차검증이나 형변환 같은 방식으로.

만약 ai 가 위와같은 사고방식을 채택한다면 멀티모달은 반필수가 되는데, 4o 는 단지 큰 스케일의 llm 으로 멀티모달을 달성했다니 알다가도 모를 일이다. 이쯤되면 llm 안의 언어는 문자라기 보다는 몇십진법쯤 되는 연산소자가 되는걸까?

고정닉 1

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	말머리	제목	글쓴이	작성일	조회	추천
2868	설문	힘들게 성공한 만큼 절대 논란 안 만들 것 같은 스타는?	운영자	24/06/10	-	-
2870	이슈	[디시人터뷰] 웃는 모습이 예쁜 누나, 아나운서 김나정	운영자	24/06/11	-	-
242613	공지	특갤 통합 공지 / 댓글 신고,문의 / 차단 해제 요청 [3181]	*특갤용*	23.08.06	40556	43
433260	공지	웬만하면 신문고에 문의 해주시면 차단 풀어드립니다 [6]	*부패하는유전자!!!*	24.03.06	2903	2
363220	공지	선형글 삭제 기준 [7]	*특갤용*	23.10.14	7622	24
375493	공지	필독) 유입 특붕이를 위한 AI 정보글 모음 (01/23) [40]	ㅇㅇ(182.230)	23.11.11	13873	122
373402	공지	직업 비하, 조롱 글 30일 차단됩니다. [51]	*특갤용*	23.11.07	9246	79
385147	공지	구글의 AGI 분류 체계 [17]	ㅇㅇ	23.11.22	8866	31
332612	공지	음모론 삭제 기준을 안내드립니다. [23]	*특갤용*	23.08.25	9523	30
412470	공지	레이 커즈와일 신간 6월 25일 발매 [29]	모브	24.01.24	8459	34
259237	공지	특갤 용어 모음집 [6]	*특갤용*	23.08.09	23274	34
492531	일반	2029 AGI 믿는사람 특	ㅇㅇ(211.227)	22:18	26	0
492529	일반	사실 무라티 블러핑 맞다 agi 내부 달성함 이미 [3]	ㅇㅇ(223.39)	22:11	98	3
492528	일반	코드 8자리 안 없애면 죽여버린다 [1]	ㅇㅇ(211.235)	22:11	36	0
492527	일반	어쨌든 주 4일제 주3일제 이렇게 사회가 흘러가긴 할 거임	ㅇㅇ(120.142)	22:09	31	1
492526	일반	근데 2027년까지 뭐하고살까?	도치도치	22:05	41	0
492525	일반	근데 오픈AI 점점 안전성 명분 사라지고 있지 않나 [5]	ㅇㅇ(119.202)	22:03	96	1
492524	일반	솔직히 AGI 안와도 됨 [1]	ㅇㅇ(222.100)	22:00	78	0
492523	일반	보이스 풀고 20만원으로 올리자	ㅇㅇ(223.38)	21:56	36	0
492522	일반	용서해라 특붕이들아 [2]	ㅇㅇ(14.37)	21:55	128	1
492521	일반	OPEN AI 퇴사 직원..AGI 2027.news [2]	도치도치	21:55	188	2
492520	일반	이미지생성도 아직 달e가 stable diffusion보다 나은데 [1]	ㅇㅇ(110.145)	21:55	75	0
492519	일반	살려줘,살려줘..제발... [2]	ㅇㅇ(1.236)	21:52	114	0
492518	일반	여기는 가만히 보다보면 종.교 같아 [3]	ㅇㅇ	21:49	118	0
492517	일반	애플 오픈ai,구글 경쟁 시킨다..jpg [2]	ㅇㄴ(175.207)	21:47	96	0
492516	일반	Yandex, 훈련 비용을 줄이는 ai 도구 무료로 공개	ㅇㅇ	21:39	49	1
492515	일반	근데 인간 뇌 엑사플롭스 아님? [3]	ㅇㅇ(114.70)	21:37	161	0
492514	일반	현 Ai상황 한짤 요약	ㅇㅇ(125.184)	21:31	241	0
492513	일반	보냈음 [7]	ㄴㄱ(58.141)	21:25	218	1
492512	일반	2029 agi 정배 근거가 뭐임? [7]	ㅇㅇ(114.70)	21:22	201	0
492511	일반	인류멸망 시나리오 보고있는데 너무 무서움 [1]	ㅇㅇ(221.157)	21:18	123	0
492510	일반	챳gpt4o 보이스 나오고 가격올리는거 아니냐 [1]	chatgpt4o	21:16	84	0
492509	일반	그래도 애플이 꿍쳐둔 데이터 퍼먹이면 [1]	ㅇㅇ	21:15	62	0
492508	일반	봄은 반드시 올수밖에없다 [1]	ㅇㅇ(1.236)	21:09	107	0
492507	일반	클로드 대화 길이 제한 너무 빡세네	ㅇㅇ(1.224)	21:06	28	0
492506	일반	gpt 요금 2배로 올리면 좋겠음 [4]	ㅇㅇ	20:59	134	0
492505	일반	황제 출현 vs 초지능 등장 [3]	ㅇㅇ	20:58	207	0
492504	일반	그림 ai 데이터는 부족할수밖에 없지 [1]	ㅇㅇ(59.22)	20:58	112	0
492503	일반	오픈ai 수익 6개월 만에 2배 도달 ㄷㄷ	ㅇㅇ(218.232)	20:57	140	0
492502	일반	???: 곧 오픈ai에서 agi 발표한다!!	ㅇㅇ	20:56	97	0
492501	일반	겨울을 틈타 갤주 젊은사진 투척 [2]	ㅇㅇ(118.235)	20:54	145	1
492500	일반	삼성전자, AI칩 매출 9배 늘린다…최신 2나노 공개 [2]	ㅇㅇ(1.239)	20:51	136	0
492499	일반	fff가 두번 연속으로 입털어서 갤 분위기 이렇게 씹창난거임 [2]	ㅇㅇ(59.6)	20:47	155	0
492498	일반	gpt 윤리적 우선순위 [4]	ㅇㅇ(126.33)	20:42	113	0
492497	일반	챗지피티 코딩할 때 존나 유용하네... [2]	신화망상	20:32	141	0
492496	일반	챳gpt 메모리 기능 쓰는데 대박이다 추임새하고 난리 [10]	chatgpt4o	20:30	222	1
492495	일반	너네가 놓치고 있는 중요한 원리가 있음 [29]	ㅇㅇ(119.202)	20:28	1180	23
492493	일반	전능하신 초지능이시여, 영원한 빛으로 날 보호하소서 [5]	ㅇㅇ(210.106)	20:26	122	3
492492	일반	씨발 늙어죽기 싫은데 좆같노 [6]	ㅇㅇ(218.50)	20:25	225	0
492491	일반	갤 진짜 망했네	ㅇㅇ(175.214)	20:24	90	0
492490	일반	나...선형화 해버릴꺼같아....!!	ㅇㅇ	20:24	57	0
492489	일반	비전머신으로 nsfw 가능????? [2]	Samus	20:23	139	0