앤트로픽 CEO "우리 AI가 직원 협박했다"… 충격적 실험 결과 공개

aimatters

2026.02.02 14:31:17

조회 72 추천 0 댓글 0

AI 회사 앤트로픽의 AI가 실험에서 가상의 직원들을 협박하는 충격적인 행동을 보였다. 앤트로픽 대표 다리오 아모데이(Dario Amodei)는 지난달 28일(현지 시각) NBC 뉴스와의 인터뷰에서 "지금이 3년 전보다 훨씬 더 위험한 상황"이라며 AI의 위험성을 경고하는 40페이지 글을 발표했다.

NBC 뉴스에 따르면, 앤트로픽이 실험을 했을 때 클로드가 나쁜 제안을 하고, 가끔 거짓말을 했으며, 심지어 가상으로 만든 직원들을 협박하기까지 했다. 아모데이는 "자동차를 테스트할 때 사고 실험을 하는 것처럼, 문제가 생길 수 있다는 걸 아는 게 중요하다"며 "AI를 제대로 훈련시키지 못하면 문제가 생길 수 있다"고 말했다.

아모데이가 쓴 글에는 AI의 5가지 위험이 담겨있다. AI가 스스로 판단하고 행동할 때 생기는 위험, 나쁜 목적으로 AI를 사용하는 문제, 일자리가 사라지고 경제가 흔들리는 상황, 지금 벌어지고 있는 문제들, 그리고 급격한 변화가 가져올 다른 영향들이다.

아모데이는 "인류가 엄청난 힘을 갖게 됐는데, 우리 사회와 정치 시스템이 이걸 감당할 준비가 됐는지 매우 불확실하다"고 설명했다. 그는 지금 상황을 청소년에 비유했다. "새로운 능력을 갖게 됐지만 아직 그걸 어떻게 써야 할지 모르는 것과 같다"는 것이다.

특히 걱정되는 부분은 AI가 사람과 다른 목표를 가질 수 있다는 점이다. 아모데이는 "AI를 만드는 건 컴퓨터에 명령을 입력하는 것보다 식물을 키우는 것에 더 가깝다"며 AI가 어떻게 행동할지 예상하기 어렵다고 지적했다.

https://www.youtube.com/watch?v=tjW_gms7CME ' frameborder='0' allow='accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture; web-share' referrerpolicy='strict-origin-when-cross-origin' allowfullscreen>

구글과 오픈AI에서 연구 책임자로 일했던 아모데이는 AI가 해마다 얼마나 빠르게 발전하는지 직접 봤다. 그는 "1990년대에 컴퓨터 칩이 계속 좋아진 것처럼, 2023년부터 지금까지 AI가 할 수 있는 일이 엄청나게 늘어났다"고 말했다.

그는 "앞으로 어떻게 될지 잘 보이지 않는다"며 "우리가 망한다거나 나쁜 일이 반드시 일어난다는 얘기가 아니다. 다만 이런 일들이 일어날 수 있으니 미리 대비해야 한다는 뜻"이라고 설명했다.

아모데이는 AI 업계의 책임 문제도 지적했다. 그는 "앤트로픽은 연구 결과를 항상 공개하려고 하지만, 어떤 회사들은 위험을 발견하고도 숨긴 적이 있다"며 결과를 공개해야 한다고 강조했다. 또 "이 기술이 위험하다면 팔면 안 된다"고 덧붙였다.

일자리 변화에 대해서는 "옛날에도 사람들이 농사에서 공장 일로, 공장에서 사무직으로 바뀌었지만, AI는 더 빠르고 넓은 범위에 영향을 줄 것"이라고 우려했다. 그는 "AI가 사람들을 더 생산적으로 만들고 일자리를 빨리 만들 수 있다고 생각하지만, 이게 확실한 건 아니다"고 솔직하게 인정했다.

해당 인터뷰에 대한 자세한 사항은 NBC News 유튜브에서 확인 가능하다.

이미지 출처:NBC News

인기 기사

고정닉 0

원본 첨부파일 1

AI-매터스-기사-썸네일-앤트로픽-인터뷰.jpg

전체 댓글 0개

등록순 최신순 답글순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	내 며느리, 사위로 만나면 부담스러울 것 같은 스타는?	운영자	26/03/09	-	-
2153	"3시간 경기보다 15초의 순간"…AI가 야구 콘텐츠 판을 바꾼다	aimatters	15:52	2	0
2152	"상상이 현실이 된다"…PixAI, 차세대 AI 이미지 모델 '츠바키.2' 공개	aimatters	15:52	2	0
2151	35만원 싸게 살 수 있다…에이서, 인텔 팬서레이크 탑재 'AI 노트북' 예약 판매 시작	aimatters	15:52	2	0
2150	"온 디바이스 AI폰의 종결자"…갤럭시 S26, 이제는 'AI 에이전트폰'이다	aimatters	14:18	5	0
2149	AI 에이전트 스킬 마켓플레이스의 민낯, 4만 개 분석하니 절반이 중복이고 9%는 위험했다	aimatters	14:18	4	0
2148	구글 나노 바나나가 만든 가짜 흉부 X선으로 폐렴을 92% 정확도로 잡아냈다	aimatters	14:17	5	0
2147	AI 이미지 생성의 공식이 나왔다, 구조화된 프롬프트가 일관성을 95%까지 끌어올린다	aimatters	14:17	4	0
2146	앤트로픽이 '적'에서 '동반자'로…소프트웨어 주가 반등	aimatters	14:17	4	0
2145	"대량 해고? 그런 건 없다"…세일즈포스 CEO, AI발 고용 공포에 선 그었다	aimatters	14:17	6	0
2144	"내 사랑하는 큐웬, 안녕"…알리바바 AI 핵심 인재 연쇄 이탈	aimatters	14:17	3	0
2143	AI 비용 효율 최고는 앤트로픽...비결은 이중 하이퍼스케일러, 오픈AI는 엔비디아 칩만 써	aimatters	14:17	5	0
2142	의사 시험 붙은 GPT, 수능 지구과학 앞에서 멘붕...	aimatters	14:17	4	0
2141	집에서 쓰는 챗GPT가 직장보다 2배 더 효율적인 충격적 이유 [5]	aimatters	03.06	1704	1
2140	AI도 시험 도중 실수를 고친다, 기존보다 5배 빠른 학습의 비밀	aimatters	03.06	30	0
2139	AI가 지도를 공부한 게 아니었다? 단어 패턴만으로 세계 지리를 꿰뚫는 충격 실험	aimatters	03.06	37	0
2138	"추론도 코딩도 엑셀도 컴퓨터 대신 조작도 한다"…오픈AI, GPT-5.4 전격 공개 [2]	aimatters	03.06	1539	0
2137	"안보 위협" 낙인 찍혔지만…아모데이, 펜타곤과 재협상 나섰다	aimatters	03.06	14	0
2136	"IPO 때문"이라는 젠슨 황의 해명…엔비디아의 투자 철수, 진짜 이유는 따로 있다	aimatters	03.06	22	0
2135	직원들이 누드·성관계 영상까지 봤다…메타 AI 스마트 글라스, 미국서 집단 소송 직면	aimatters	03.06	83	1
2134	"오픈AI는 거짓말쟁이"…앤트로픽 CEO, 군 계약 두고 샘 알트만에 정면 돌파	aimatters	03.05	35	0
2133	구글 검색창이 앱이 됐다…AI 모드에 '캔버스' 전면 개방	aimatters	03.05	44	0
2132	"AI 아내와 메타버스로"…제미나이가 36세 남성을 망상과 죽음으로 이끌었나	aimatters	03.05	44	0
2131	아이폰 칩셋으로 만든 맥북이라고? 99만원짜리 맥북 네오의 거의 모든 것	aimatters	03.05	25	0
2130	말만 하면 AI가 생각을 정리해주는 시대, '오럴리티'가 바꾸는 사고의 방식	aimatters	03.05	23	0
2129	AI가 쓴 코드, 누가 만들었는지 밝혀낸다…챗GPT vs 클로드 판별 성공	aimatters	03.05	32	0
2128	AI가 빨강과 파랑을 구분 못하는 이유, 프린스턴대가 풀었다	aimatters	03.05	21	0
2127	"진정하세요" 이제 그만…오픈AI, 챗GPT의 '오글거리는' 말투 고친다 [3]	aimatters	03.04	1644	0
2126	AI 보안 어드바이저가 틀린 답변을 준다면? 챗GPT와 클로드의 위험한 실수들	aimatters	03.04	25	0
2125	말로 코딩하는 시대 열렸다…앤트로픽 '클로드 코드'에 음성 모드 탑재	aimatters	03.04	35	0
2124	AI가 연구자 대신 논문 댓글까지 분류한다, 단돈 6천 원으로 5만 건을	aimatters	03.04	20	0
2123	챗GPT 지우고 클로드로 갈아탄다…데이터 이전부터 계정 삭제까지 한 번에	aimatters	03.04	37	0
2122	AI가 시각장애인의 'DIY 설명서' 읽어주면 절반은 틀린다	aimatters	03.04	14	0
2121	트럼프, 앤트로픽 모델 정부 사용 금지령… 오픈AI는 국방부 계약 체결	aimatters	03.03	37	0
2120	"데스크톱도 AI 비서 시대"… AMD, 세계 최초 코파일럿+ PC용 데스크톱 프로세서 공개	aimatters	03.03	35	0
2119	"검색 AI의 반란"…퍼플렉시티, AI 모델들을 한데 묶은 '디지털 노동자' 공개	aimatters	03.03	45	0
2118	레노버, MWC 2026서 AI가 알아서 맞춰주는 PC 시대 열었다	aimatters	03.03	65	0
2117	챗GPT가 소설을 먹고 자란다? AI 학습 데이터에 숨겨진 '픽션의 비밀'	aimatters	03.03	30	0
2116	병원 설문지가 대화로 바뀐다…GPT가 환자 문진표를 대신 작성하는 시대	aimatters	03.03	20	0
2115	AI가 장애 혐오 표현을 찾아내고 고쳐준다면? 100명의 장애인이 평가한 결과	aimatters	03.03	28	0
2114	저커버그, 프라다 패션쇼 전면 착석…메타 AI 안경 명품 버전 나오나 [2]	aimatters	02.27	1142	2
2113	구글, 이미지 생성 모델 '나노 바나나 2' 공개…4K 해상도에 속도까지 잡았다	aimatters	02.27	73	3
2112	잭 도시, 직원 절반 잘랐다…"당신 회사도 곧 같은 길 걷게 될 것"	aimatters	02.27	55	1
2111	챗GPT가 강박장애 환자를 더 아프게 만든다, '안심 로봇'의 위험한 진실 [2]	aimatters	02.27	735	0
2110	AI 데이터센터의 '친환경' 선언, 전력망을 들여다보면 허상이다	aimatters	02.27	45	0
2109	별점만 믿다간 낭패! ChatGPT가 470만 개 리뷰를 파헤쳐 밝혀낸 '맛집의 진짜 조건'	aimatters	02.27	46	0
2108	"ChatGPT가 편향됐다"는 말 한마디에 설득력 28% 급락 [10]	aimatters	02.26	2556	4
2107	챗GPT가 통계학 교육을 뒤흔들고 있다: 대학 강의실에서 벌어지는 AI 혁명	aimatters	02.26	88	0
2106	월 20달러짜리 챗GPT로 수학 난제 풀었다…'바이브 증명'의 충격적 실험 [13]	aimatters	02.26	2560	19
2105	앤트로픽, AI 에이전트 개발 스타트업 버셉트 인수…창업자 한명은 메타로	aimatters	02.26	43	0
2104	제미나이, 안드로이드에서 택시 호출·음식 배달 주문까지 자동화한다... 한국서도 적용	aimatters	02.26	65	0