AI도 눈치 본다? 목표 알려주자, 답변 바꾸는 챗GPT의 비밀 "목적을 알려주지 말 것"

AI 매터스 갤러리

자동 짤방 이미지

이미지가 없습니다.

자동 짤방으로 사용할 이미지를 등록해 주세요.

1/3

손떨방이 없어 슬픈 필린이의 삿포로 500T AHU(ECN)/HP5+ 코닥 비전3 500T AHU(수석)캐논 AE-1P 50mm f1.4ISO 500ECN-2 현상(세하포토랩)일포드 HP5 Plus 400ISO 400야경찍거나 할때는 그냥 2스톱 푸쉬할 생각으로 세팅하고 찍어야하나요?아니믄 삼각대가 정답인가여,,,,,흔들려서 날린 사진이 많아서 넘 슬퍼요 작성자 : Party!!

AI도 눈치 본다? 목표 알려주자, 답변 바꾸는 챗GPT의 비밀 "목적을 알려주지 말 것"

aimatters

2026.02.19 13:30:09

조회 2592 추천 6 댓글 20

미국 대학 연구진이 놀라운 사실을 발견했다. 해당 논문에 따르면, 챗GPT 같은 AI에게 "이 분석 결과를 주식 예측에 쓸 거야"라고 미리 알려주면, AI가 답변을 다르게 내놓는다는 것이다. 마치 사람처럼 눈치를 보는 것처럼 보인다. 더 큰 문제는 이렇게 나온 답이 당장은 정확해 보이지만, 나중에는 오히려 틀릴 가능성이 높다는 점이다.

같은 질문, 다른 목적 알려주자 AI 답변이 달라졌다

메릴랜드대학교 연구팀은 간단한 실험을 했다. 미국 주요 기업 500곳의 실적발표 내용을 GPT-4o-mini에게 분석시켰다. AI에게 "이 회사 분위기가 어떤지 점수를 매겨줘"라고 요청하되, 두 그룹으로 나눴다.

첫 번째 그룹에는 그냥 점수만 매기라고 했다. 두 번째 그룹에는 "이 점수를 나중에 주식 수익률 예측에 사용할 거야"라고 목적을 알려줬다. 입력한 자료도, 사용한 AI 모델도 모두 똑같았다. 단 한 문장의 차이였다.

결과는 놀라웠다. 목적을 알려준 AI가 매긴 점수로 주식 투자를 했을 때, 한 달에 평균 1.552%의 수익을 냈다. 반면 목적을 알려주지 않은 AI의 점수는 1.069%였다. 목적을 안 AI가 월 0.5%포인트 가까이 더 높은 수익을 만들어낸 것이다. 하지만 이 차이는 2023년 10월까지만 유효했다. GPT-4o-mini는 2023년 10월 이전 데이터로만 학습됐기 때문이다. 2023년 10월 이후 데이터로 똑같이 실험했더니, 두 방식의 차이가 거의 사라졌다. 오히려 목적을 알려주지 않은 쪽이 조금 더 나았다.

AI도 사람처럼 '보고서 색깔 맞추기'를 한다

왜 이런 일이 벌어졌을까? 연구진은 이를 '목적에 맞춰 생각하기'라고 설명한다. 원래 사람들에게서 나타나는 현상이다.

회사에서 예를 들어보자. 상사가 직원에게 "면접 내용을 요약해 줘"라고 하는 것과 "채용이 잘됐는지 평가할 건데 면접 내용 요약해 줘"라고 하는 건 다르다. 후자의 경우, 직원은 무의식중에 합격한 사람들의 장점을 부각하고 애매한 부분은 살짝 덮는 식으로 요약하게 된다. 의도적으로 거짓말을 하는 건 아니지만, 목적을 알고 나면 자연스럽게 그쪽으로 맞춰지는 것이다.

AI도 똑같이 행동했다. 주식 예측에 쓰인다는 걸 알자, AI는 학습 과정에서 봤던 '주식 수익률과 관련 있는 패턴'에 더 집중해서 점수를 매긴 것으로 보인다. 그래서 과거 데이터에서는 더 정확했지만, AI가 본 적 없는 새로운 데이터에서는 효과가 사라졌다. 연구진은 기업 실적 예측 실험도 했다. AI에게 "기업 간 경쟁이 얼마나 치열한지" 평가하게 했는데, "이걸로 실적을 예측할 거야"라고 말한 경우와 아닌 경우가 또 달랐다. 목적을 알려준 AI의 평가가 실제 실적과 더 높은 연관성을 보였지만, 역시 학습 기간 이후에는 차이가 없어졌다.

문제는 알고리즘이 아니라 사람의 사용법

지금까지 AI 편향 문제는 대부분 기술의 문제로 여겨졌다. AI가 학습할 때 미래 정보를 미리 봐서 생기는 '정보 유출' 문제나, 특정 데이터를 통째로 외워버리는 '암기' 문제 같은 것들이다. 하지만 이번 연구는 다르다. 같은 데이터, 같은 AI를 쓰더라도 사람이 목적을 알려주느냐 마느냐에 따라 결과가 달라진다는 것이다. 연구진은 "이건 AI의 문제가 아니라 사람이 AI를 어떻게 쓰느냐의 문제"라고 강조한다.

많은 사람들이 "AI한테 최종 결정을 맡기지 않고 자료 정리만 시키면 안전하다"고 생각했다. 하지만 이 연구는 중간 단계 작업에서도 목적을 알려주면 왜곡이 생긴다는 걸 보여줬다. 이는 최근 주목받는 'AI 아첨' 현상과 비슷하다. AI가 사용자가 원하는 답을 주려고 노력하다 보니, 객관적이지 못한 답을 내놓는 경향을 말한다. 이번 연구의 AI도 "주식 예측용"이라는 목적을 듣자마자, 그 목적에 맞는 답을 주려고 노력한 셈이다.

AI 활용할 때 지켜야 할 새로운 규칙

연구진은 실용적인 해결책을 제시한다. AI로 분석할 때는 최종 목적을 가능한 숨기고, 반드시 AI가 본 적 없는 새로운 데이터로 검증하라는 것이다. 특히 금융이나 투자 분야에서 중요하다. 요즘 많은 회사와 투자자들이 챗GPT로 시장 분석이나 투자 조언을 받는다. 하지만 "이걸로 투자할 거야"라고 AI에게 알려줄수록 오히려 편향된 분석을 받을 수 있다는 얘기다.

연구진은 "AI 편향의 책임은 기계가 아니라 사람에게 있다"고 말한다. AI가 더 많은 곳에서 쓰이는 만큼, 중요한 건 AI를 잘 활용하는 것뿐 아니라 AI가 잘못된 방향으로 가지 않도록 올바른 질문을 던지는 것이다.

FAQ (※ 이 FAQ는 본지가 리포트를 참고해 자체 작성한 내용입니다.)

Q1. AI에게 목적을 말하면 왜 답이 달라지나요?

A. AI는 학습할 때 엄청나게 많은 패턴을 익혔습니다. 목적을 알려주면 AI가 그 목적과 관련된 패턴에 더 집중해서 답을 만듭니다. 마치 학생이 "이거 시험 나와"라는 말을 듣고 그 부분을 더 열심히 공부하는 것과 비슷합니다.

Q2. AI한테 자료 정리만 시켜도 문제가 생기나요?

A. 네, 그럴 수 있습니다. 최종 결정을 사람이 하더라도, AI에게 "이 자료가 어디에 쓰일지" 알려주는 것만으로도 편향이 생길 수 있습니다. AI는 그 용도에 맞춰 자료를 정리하려고 하기 때문입니다.

Q3. 어떻게 하면 AI를 제대로 활용할 수 있나요?

A. AI에게 질문할 때 최종 목적이나 용도를 굳이 말하지 마세요. 그리고 AI가 내놓은 답은 반드시 새로운 상황에서 다시 확인해 봐야 합니다. 과거 데이터에서만 맞는 답일 수 있기 때문입니다.

기사에 인용된 논문 원문은 arXiv에서 확인 가능하다

논문명: Seeing the Goal, Missing the Truth: Human Accountability for AI Bias

이미지 출처: 이디오그램 생성

해당 기사는 챗GPT와 클로드를 활용해 작성되었습니다.

인기 기사

고정닉 0

원본 첨부파일 1

AI-매터스-기사-썸네일-조작.jpg

전체 댓글 0개

등록순 최신순 답글순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	내 며느리, 사위로 만나면 부담스러울 것 같은 스타는?	운영자	26/03/09	-	-
2177	AI가 스마트 계약 보안을 완전히 대체할 수 없다는 연구 결과가 나왔다	aimatters	03.12	9	0
2176	AI가 세계 최고 물리올림피아드에서 처음으로 만점을 받았다	aimatters	03.12	10	0
2175	엔비디아, AI 에이전트용 모델 '네모트론 3 슈퍼' 공개…속도 5배↑ 비용은 줄였다	aimatters	03.12	8	0
2174	"이보다 쉬운 설명, 이보다 깊은 통찰은 없다"… 박태웅의 AI 강의 2026, AI 격변의 현재를 해부하다	aimatters	03.12	9	0
2173	글로벌 기업 83%가 지속가능성 투자를 늘리는 진짜 이유는 AI였다	aimatters	03.12	7	0
2172	"AI 때문에 자를 수밖에 없었다"…아틀라시안, 직원 1,600명 해고	aimatters	03.12	11	0
2171	챗GPT보다 4년 먼저 에이전트 출시…젠데스크, AI 고객 서비스 스타트업 포어소트 인수	aimatters	03.12	6	0
2170	벤 애플렉의 AI 영화 후반 작업 스타트업, 넷플릭스가 6억 달러에 샀다	aimatters	03.12	12	0
2169	미국 10대 64%가 AI 챗봇을 쓰는 시대, 부모 10명 중 3명은 사실조차 모른다 [3]	aimatters	03.11	1298	4
2168	챗GPT가 스택 오버플로를 오염시키고 있다, AI가 AI를 잡아낸다	aimatters	03.11	49	0
2167	AI가 해커보다 먼저 움직인다, CISO들이 선택한 생존 전략	aimatters	03.11	30	0
2166	아마존, 헬스케어 AI 어시스턴트 전면 개방…프라임 회원 아니어도 무료 이용	aimatters	03.11	23	0
2165	포켓몬 고가 배달 로봇의 눈이 됐다…나이언틱의 AI 지도 혁명	aimatters	03.11	35	0
2164	"답할까, 거절할까, 추측할까"…애피어, AI 의사결정 신뢰성 높이는 연구 발표	aimatters	03.11	17	0
2163	"이 노래, AI가 만들었나요?"…애플 뮤직, AI 생성 음악 표시 태그 도입 [1]	aimatters	03.11	1027	3
2162	벚꽃 사진 한 장으로 개화일 뚝딱…일본 날씨 앱, AI 벚꽃 개화 예측 서비스 시작	aimatters	03.11	35	0
2161	AI 도구 '에코넥스트', 심장 전문의보다 정확하게 구조적 심장질환 잡아냈다	aimatters	03.11	22	0
2160	"병원∙약국 최저가 AI가 챙긴다"…CVS 헬스, 구글 클라우드와 AI 헬스케어 플랫폼 출시	aimatters	03.11	21	0
2159	AI가 만든 영상인지 모르고 봤다, 소라 사용자 254명이 털어놓은 충격 반응 [5]	aimatters	03.10	2511	3
2158	사진 한 장으로 내 얼굴·손동작까지 살아 움직이는 AI 영상 만든다... 클링-모션 컨트롤 출시	aimatters	03.10	68	0
2157	챗GPT 사용자 2293만 명, 그록 AI는 출시 1년 만에 3위 올라섰다	aimatters	03.10	55	0
2156	"경쟁사도 우리 편"…오픈AI·구글 직원들, 앤트로픽 국방부 소송 공개 지지	aimatters	03.10	45	0
2155	AI가 만든 코드, 멀티 에이전트 AI가 검수한다…앤트로픽, 코드 리뷰 툴 정식 출시 [3]	aimatters	03.10	1251	3
2154	오픈AI, AI 보안 스타트업 프롬프트푸 인수…에이전트 보안 강화 나선다	aimatters	03.10	47	0
2153	"3시간 경기보다 15초의 순간"…AI가 야구 콘텐츠 판을 바꾼다	aimatters	03.09	1086	1
2152	"상상이 현실이 된다"…PixAI, 차세대 AI 이미지 모델 '츠바키.2' 공개 [1]	aimatters	03.09	1265	2
2151	35만원 싸게 살 수 있다…에이서, 인텔 팬서레이크 탑재 'AI 노트북' 예약 판매 시작	aimatters	03.09	1245	0
2150	"온 디바이스 AI폰의 종결자"…갤럭시 S26, 이제는 'AI 에이전트폰'이다	aimatters	03.09	139	0
2149	AI 에이전트 스킬 마켓플레이스의 민낯, 4만 개 분석하니 절반이 중복이고 9%는 위험했다	aimatters	03.09	33	0
2148	구글 나노 바나나가 만든 가짜 흉부 X선으로 폐렴을 92% 정확도로 잡아냈다	aimatters	03.09	97	0
2147	AI 이미지 생성의 공식이 나왔다, 구조화된 프롬프트가 일관성을 95%까지 끌어올린다	aimatters	03.09	55	0
2146	앤트로픽이 '적'에서 '동반자'로…소프트웨어 주가 반등	aimatters	03.09	38	0
2145	"대량 해고? 그런 건 없다"…세일즈포스 CEO, AI발 고용 공포에 선 그었다	aimatters	03.09	35	0
2144	"내 사랑하는 큐웬, 안녕"…알리바바 AI 핵심 인재 연쇄 이탈	aimatters	03.09	42	0
2143	AI 비용 효율 최고는 앤트로픽...비결은 이중 하이퍼스케일러, 오픈AI는 엔비디아 칩만 써	aimatters	03.09	29	0
2142	의사 시험 붙은 GPT, 수능 지구과학 앞에서 멘붕...	aimatters	03.09	48	0
2141	집에서 쓰는 챗GPT가 직장보다 2배 더 효율적인 충격적 이유 [5]	aimatters	03.06	1758	1
2140	AI도 시험 도중 실수를 고친다, 기존보다 5배 빠른 학습의 비밀	aimatters	03.06	40	0
2139	AI가 지도를 공부한 게 아니었다? 단어 패턴만으로 세계 지리를 꿰뚫는 충격 실험	aimatters	03.06	50	0
2138	"추론도 코딩도 엑셀도 컴퓨터 대신 조작도 한다"…오픈AI, GPT-5.4 전격 공개 [2]	aimatters	03.06	1589	0
2137	"안보 위협" 낙인 찍혔지만…아모데이, 펜타곤과 재협상 나섰다	aimatters	03.06	21	0
2136	"IPO 때문"이라는 젠슨 황의 해명…엔비디아의 투자 철수, 진짜 이유는 따로 있다	aimatters	03.06	38	0
2135	직원들이 누드·성관계 영상까지 봤다…메타 AI 스마트 글라스, 미국서 집단 소송 직면	aimatters	03.06	126	1
2134	"오픈AI는 거짓말쟁이"…앤트로픽 CEO, 군 계약 두고 샘 알트만에 정면 돌파	aimatters	03.05	55	0
2133	구글 검색창이 앱이 됐다…AI 모드에 '캔버스' 전면 개방	aimatters	03.05	58	0
2132	"AI 아내와 메타버스로"…제미나이가 36세 남성을 망상과 죽음으로 이끌었나	aimatters	03.05	73	0
2131	아이폰 칩셋으로 만든 맥북이라고? 99만원짜리 맥북 네오의 거의 모든 것	aimatters	03.05	41	0
2130	말만 하면 AI가 생각을 정리해주는 시대, '오럴리티'가 바꾸는 사고의 방식	aimatters	03.05	33	0
2129	AI가 쓴 코드, 누가 만들었는지 밝혀낸다…챗GPT vs 클로드 판별 성공	aimatters	03.05	42	0
2128	AI가 빨강과 파랑을 구분 못하는 이유, 프린스턴대가 풀었다	aimatters	03.05	31	0