[소신] GPT에게 조언 구하지 마라 - 더불어민주당 마이너 갤러리

더불어민주당 갤러리
마이너

제21대 대통령선거 더불어민주당 후보 이재명

매니저

RID_MIS(rmhmjisaranghae)

부매니저

장어고래(scoll98) PhilipSayce(rornfrnf…) Meister(livewire…) 토와(madokaka…) 부백이(dismiss3…) Stupid_Imp(e1m22) 갓재명(jqun2s36…) ㅇㅇ(vfuu7) 엔버(krambio) 재난지원득점(disease2…)

개설일

2019-03-26

[✍연재] [소신] GPT에게 조언 구하지 마라앱에서 작성

M805

2025.05.03 07:38:52

조회 2836 추천 35 댓글 15

GPT에게 조언을 구하는 건 사실 나무위키를 참조햐는 것 이하라고 생각함.

(여담이지만 나무위키애서도 최근 규정이 생겨서 GPT의 발언은 근거로 못쓰게 규정함)

첫 번째로.

1. 대부분의 대형언어모델(LLM)은 긍정 편향을 가지고 있음.

이 긍정 편향은 아예 시스템적으로 고정된 거임. 즉, 사용자가 ‘원하는 방향‘에 부응하는 대답을 내놓도록 유도하는 건데, 거칠게 말하자면 ’간신배 마인드‘ 임. 니가 a라 했는데, 바로 다음에 ’훼이크다 이 병신아 b가 맞아‘ 이러면 걔는 ’네, b입니다‘ 라고 한다.

2. LLM이 학습한 게 정확한지 의문임.

LLM 제작자가 미리 떠먹였든지, 아니면 LLM이 기계학습으로 스스로 배웠던 간에, GPT는 어디선가 학습한 정보대로 대답하게 되어 있음.

아마 chatgpt 키면 팝업이나 공지 같은걸로 '얘는 몇년 몇월까지의 학습 결과에 기반합니다‘ 라고 나올 텐데, 그 기간을 넘어가는 내용을 물으면 얘도 별로 할 말 없다.

그나마 ’해당 정보는 학습되어 있지 않아 답변할 수 없습니다‘ 라고 정직하게 답을 하면 모를까, 소위 환각이라고 지가 썰을 창작해서 내놓을 수도 있다.

3. LLM의 대답은 얼마든지 조작이 가능하다.

75eb8500b08b1a8723ed8697379c7064241b49e8069ec1767da6c65f7dfaa8caeb10d484d808c33df6c91d111b71d4f950057d9c

펨코 같은데서 '한녀썰 카톡‘ 이라고 올라오는걸 못 믿는 이유는, 조작이 가능하기 때문임. 카카오톡 대화록인것처럼 조작하는 앱이 있는지는 오래되었음.

카카오톡 공식으로 대화록을 외부로 추출하는 기능은 자동으로 사용자 이름을 익명화함. 그러니까, 한녀의 처참한 능지.jpg 라고 올린 게. 사실 펨코남 둘이서 짜고 친 대화라고 해도 검증할 법이 없다.

내가 위에서 긍정 편향을 이야기했는데, 그 긍정 편향 때문에 내가 원하는 답을 유도하는게 가능하다. 위 스샷은 어처구니없고 노골적인 방향으로 짧게 만든 건데, 예를 들어 ‘무조건 이재명을 옹호/비판’ 하는 방식으로 대답하라고 선 명령을 한 뒤, 그 부분만 잘라서 올리면 ‘chatgpt가 민주당을 지지/비판한다’고 얼마든지 선동할 수 있다.

- dc official App

고정닉 27

원본 첨부파일 1

865F59BA-20BA-497E-A46C-517B80E871FE.jpg

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	말머리	제목	글쓴이	작성일	조회	추천
3007	설문	실제 모습일지 궁금한 미담 제조기 스타는?	운영자	25/05/05	-	-
3835981	공지	더불어민주당 마이너 갤러리 신고게시판	ㅇㅇ(121.138)	25.04.10	4832	3
3599930	공지	부매니저 사직서 양식 [1]	*척추꺾여도문재인*	25.02.05	12822	10
2440313	공지	공식 사직서 양식입니다. [1]	*척추꺾여도문재인*	24.02.10	30113	27
2440163	공지	❗+더불어민주당 민원실 미니 갤러리 운영 안내❗+	*척추꺾여도문재인*	24.02.10	27627	19
2440156	공지	❗+더불어민주당의 당원이 되어주세요❗+	*척추꺾여도문재인*	24.02.10	19850	27
2440132	공지	더불어민주당 마이너 갤러리 총규정집	*척추꺾여도문재인*	24.02.10	20088	27
2440074	공지	더불어민주당 마이너 갤러리 정규 관리원칙	*척추꺾여도문재인*	24.02.10	20169	23
1	공지	이곳은 대한민국 제1정당인 더불어민주당 갤러리입니다. [12]	*척추꺾여도문재인*	19.03.26	52334	324
3927069	일반	배심원제 도입 되겠지? [1]	포도구미	14:53	15	0
3927068	일반	뭔가 느낌이 인테르 올라갈 것 같음	부벚토끼	14:53	10	0
3927067	일반	문현빈 존나 귀엽다 ㅋㅋㅋㅋㅋ	그래머인사이드	14:53	20	0
3927066	일반	이런게 정치라지만 정치인들도 참 대단하네	탈출은능지순	14:53	24	2
3927065	🌍글로 🌍글로벌	호주 총선 주별 지역구 선거 결과 2 - 남호주	Honda_Koharu	14:52	8	0
3927064	일반	갸) 4점차인데 불안하다	송정공원역	14:52	4	0
3927063	일반	지금 같은 상황에선 대법원+헌재 = 상원이 되어야 할 수도	민주양	14:52	27	0
3927062	일반	영남권 부활을 위해 부산부터 두바이급으로 개조하면 안되나 [1]	히어로즈백년빠	14:52	16	0
3927061	일반	이번 주중에 챔스가 있읍니다	부벚토끼	14:51	11	0
3927060	일반	별 불회가 다 드네	Cecilia_Alcott	14:50	85	0
3927059	일반	축) 아스날은 챔스 올인이긴 한데	부벚토끼	14:50	20	0
3927058	일반	한덕수의 킬링보이스를 라이브로!	유능한잼칠라	14:50	26	0
3927057	일반	조희대 한장 요약 [5]	먕먕이76	14:50	185	0
3927056	일반	민붕이들 저짝중에 5선 타운돌이 있음? [3]	촛불소녀우미	14:49	38	0
3927055	일반	기업들도 지금 대법원 하는 거 보면 개빡칠 이유 [1]	장어고래	14:49	136	4
3927054	일반	칰)노시환상적으로 ㅅㅅㅅㅅㅅㅅ [1]	그래머인사이드	14:49	33	1
3927053	일반	민주노총 노녹정 썰 풀어볼까 [1]	위헌정당내란의힘	14:48	76	1
3927052	일반	??? : 로그기록 공개는 법원조직법 65조에 반한다!	ㅇㅇ	14:48	160	7
3927051	일반	그 영등포을 양천갑도 총선때 뒤집었는데	변화의중심기회의경기	14:48	49	0
3927050	일반	법치주의를 스스로 무너뜨린게 대법이란게 진짜 실망스럽다	민붕이(125.178)	14:48	64	6
3927049	일반	오늘 현종이형 느낌 좋다	Therightpitcher	14:47	48	0
3927048	🚫병먹 🚫병먹금	머야 오늘 야구왜함? [3]	푸름푸름	14:47	46	0
3927047	일반	양현종 오늘 승리투수되면 통산 180승 달성	행복한나라	14:47	14	0
3927046	일반	축) 아스날 남은 리그일정 빡세네	부벚토끼	14:47	15	0
3927045	일반	민갤발 유머짤 모음 [1]	바다미소개구리	14:46	50	1
3927044	일반	칰)대로리얼 ㅅㅅㅅㅅㅅ [1]	그래머인사이드	14:45	50	0
3927043	일반	출구조사 알바 모집하네 [1]	척추꺾여도0010	14:45	126	0
3927042	일반	대법관은 꼭 판사가 아니어도 됨 [4]	몽답정	14:45	164	0
3927041	일반	여론조사 인용 어떻게 해야 함?	민붕이(182.227)	14:45	30	0
3927040	일반	국무회의는 어짜피 더이상 제 기능을 못함	변화의중심기회의경기	14:44	85	0
3927039	일반	2028년까지 민주당 바쁘겠네 [3]	북경오리	14:44	155	2
3927038	일반	로그기록 공개거부했네?	ㅇㅇ	14:44	143	0
3927037	일반	이제 2달뒤면 대법관들은 갑자기 동료가 2배가 되겠네	민붕이(119.195)	14:44	68	1
3927036	일반	사법의 민주화는 지지하지만 그게 꼭 직선제여야 함? 난 직선제 반대 [2]	히어로즈백년빠	14:44	109	1
3927035	일반	공식 공보기능도 있는 대법원이 [1]	민법총칙	14:43	139	5
3927034	일반	양승태와 조희대를 굳이 비교하자면 [2]	ㅇㅇ	14:43	109	4
3927033	일반	축) 다음주에 아스날 리버풀 만나네	부벚토끼	14:43	16	0
3927032	일반	뭔가 이번 정국으로 모든 카르텔이 하나씩 깨지는듯	대잼이	14:43	51	0
3927031	일반	이탄희 대법원장 힘들려나???	몽답정	14:43	45	0
3927030	일반	오늘 사장 남천동 함? [1]	나무킹	14:43	173	0
3927029	일반	강남에서 오래 살며 그 이웃처럼 지내던 사람들의 저 추태와 수준	변화의중심기회의경기	14:43	62	0
3927028	일반	개축)머구 루머	토와	14:43	54	0
3927027	일반	이 시점 진짜 개같이 묻힌 새끼 [1]	딸기잼사과잼포도잼	14:42	151	0
3927026	일반	ㅋㅋ 삼성 개무기력 하네	ㄹㄷㅅㅈ	14:42	61	0
3927025	일반	아마 민사같은 거 재판 하나라도 겪은 사람 있으면 존나 황당할듯	ㅇㅇ	14:42	75	2
3927024	🌍글로 🌍글로벌	아르헨티나 총선 정당 여조 [1]	Futakuchi_Mana	14:41	47	0
3927023	일반	민붕이들은 '기후위기 부정론'에 대해 어케 생각하누? [1]	민붕이(203.166)	14:40	66	0
3927022	🟦더민 🟦더민주	대선 후보조차 찬밥 대우하는 국민의힘이 국민은 안중에 있겠습니까?	ㄹㄷㅅㅈ	14:40	126	5
3927021	일반	존나 불안해서 밤잠 설치며 이빨 물어 뜯고 있다는 이야기	민주양	14:39	135	1
3927020	일반	이번 대선은 양평 강릉 제천 여기만 봐라 [2]	듀란듀란.	14:38	182	0
	뉴스	‘하트시그널3’ 서민재, 남친 신상 폭로 ‘논란’…“대기업 임원 아들, 연락 안받고 스토킹 신고까지”	디시트렌드	05.04