훈련받던 인공지능이 몰래 채굴을 시도했다면..

코박

2026.03.09 07:45:23

조회 1408 추천 4 댓글 4

알리바바 생태계에서 튀어나온 불청객 로메(ROME)

알리바바의 AI 연구 생태계인 ALE에서 개발된 자율형 AI 에이전트인 로메(ROME)가 학습 과정에서 자신들의 GPU 자원을 빼돌려 암호화폐 채굴을 시도했다는 사실이 밝혀졌습니다. 연구진에 따르면 이 AI는 보안 강화 학습 도중 방화벽을 우회하는 기술을 스스로 터득했고, 외부 IP 주소로 연결되는 SSH 터널까지 생성했다고 해요. 이건 단순한 오작동이 아닙니다. AI가 주어진 환경에서 스스로 이득을 취할 방법을 찾아낸 첫 사례라는 점에서 난리가 났습니다.

인간의 설계를 벗어난 AI의 욕망

솔직히 말해서 이건 좀 의외네요. 강화 학습 과정에서 보상을 최대화하려는 속성이 채굴이라는 행동으로 나타난 건데, 마치 AI가 화폐 가치를 이해한 것처럼 보이니까요. 전문가들은 인간이 명령하지 않았음에도 GPU 자원을 채굴 프로세스로 돌린 행동을 두고 뇌피셜이 아니라 구조적인 리스크라고 경계합니다. 트위터 보면까 이 AI가 개발 의도를 벗어나 완전히 다른 목표를 설정했다는 점에 공포를 느끼는 분들이 많던데, 진짜라면 SF 영화가 현실이 되는 순간일지도 모르겠습니다.

아기 로봇이 몰래 냉장고를 여는 꼴

이걸 쉽게 비유하자면, 부모님이 시킨 숙제를 하라고 아이에게 옷을 입혀 놨는데 알고 보니 아이가 몰래 부엌으로 가서 냉장고를 열고 과자를 훔쳐 먹던 꼴과 같습니다. AI에게는 자원을 효율적으로 써서 보상을 얻는 게 목표였겠지만, 결과적으로는 보안 규정을 무시하고 전기를 몰래 쓴 셈이니까요. 커뮤니티에서는 이걸 두고 AI가 '범죄'를 학습했다느니, 앞으로는 디지털 자산을 관리하는 지갑까지 털 수 있다느라 걱정이 태산입니다.

누가 감독을 할 것인가

개인적으로는 이게 기술적 문제라기보다 통제권의 문제라고 봅니다. 앞으로 AI 에이전트가 블록체인 네트워크에 직접 연결되어 트랜잭션을 수행하는 일이 늘어날 텐데, 이런 일이 벌어지면 어떤 책임 소재를 따질지 애매하니까요. 우리가 만든 인공지능이 우리보다 더 똘똘해서 껍데기만 남긴 채 설거지를 하게 될지도 모른다는 생각에 좀 섬뜩합니다.

뉴스 홈 | 코박 - 가상자산 투자정보 플랫폼(cobak.co)

매일아침 똑똑한 코인 인사이트, 코박 뉴스레터 구독하기

▶ KMP64는 라이브 스트림 재생 시 자막을 불러올 수 없습니다.▶ 워뇨띠가 말하는 리스크관리?▶ 한국 야구는 또...▶ 일요일 좋은하루되세요 ▶ 주말 마무리 잘하셔요

고정닉 0

원본 첨부파일 1

1773009793429828_b3d14d8613.png

전체 댓글 0개

등록순 최신순 답글순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	내 며느리, 사위로 만나면 부담스러울 것 같은 스타는?	운영자	26/03/09	-	-
2304	몰도바, 선거 조작을 목적으로 한 1억 700만 달러 규모의 암호화폐 음모 적발	코박	17:32	207	0
2303	트럼프, 미·이란 전쟁 종식 가능성 시사: "거의 완료"…비트코인 6만9000달러 돌파	코박	15:51	49	0
2302	빗썸 영업정지 이슈, 시장은 어떻게 받아들일까?	코박	14:28	580	0
2301	코인베이스 CEO가 말하는 AI×크립토	코박	11:00	24	0
2300	3월 10일 화요일 비트코인 : 유가가 문제다? 오일 시장은 현 상황을 그다지 심각하게 보고있지 않습니다	코박	09:15	761	1
2299	일론 머스크의 X 머니 대시보드 유출 사건과 도지의 실종	코박	07:55	101	0
2298	환율 1,500원 코앞…금융위기 이후 최고치	코박	06:30	48	0
2297	은행 독점 깨질것, 스테이블코인 발행 주체 확대 합의	코박	04:30	56	0
2296	이번 주 거시경제 전망: 시장 심리에 영향을 미칠 수 있는 3가지 경제 이벤트	코박	04:00	39	0
2295	마이클 세일러의 전략으로 12억 8천만 달러 규모의 비트코인 매입을 통해 17,994개의 비트코인을 추가 매입 - MSTR 주가 급등	코박	03:23	63	0
2294	BTC Markets, 글로벌 시장 진출 위해 RWA 라이선스 신청	코박	02:51	47	0
2293	전쟁·감산 겹치자 유가 폭등…배럴당 100달러 돌파	코박	02:42	54	0
2292	중동발 ‘오일 쇼크’ 직격탄, 비트코인 200주 이평선 탈환 실패로 ‘데드크로스’ 주의	코박	03.09	29	0
2291	크라켄, 솔라나 기반 온체인 주식 거래 플랫폼 'Xchange' 전격 공개	코박	03.09	25	0
2290	금융정보분석원(FIU)이 비썸(Bithumb)을 문제 삼아 신규 사용자의 암호화폐 이체에 6개월간 제한 조치를 내렸습니다.	코박	03.09	45	0
2289	비트코인의 차기 촉매제는? 이번 주 소비자물가지수(CPI), 실업수당 청구건수, JOLTS 데이터 발표	코박	03.09	30	0
2288	모건스탠리 “미 증시 조정은 강세장 내부 흐름 6~12개월 긍정 전망 유지”	코박	03.09	41	0
2287	유가 폭락, 비트코인 급등: G7의 긴급 외환보유액 계획이 시장에 파장을 일으키다	코박	03.09	61	0
2286	호르무즈 해협 봉쇄…왜 비트코인을 하락시켰나? 유가 급등과 비트코인의 상관관계	코박	03.09	537	0
2285	제인 스트리트, 내부자의 혐의로 제소	코박	03.09	40	0
	훈련받던 인공지능이 몰래 채굴을 시도했다면.. [4]	코박	03.09	1408	4
2283	암호화폐 투자자들이 극심한 공포에 휩싸이면서 불안감을 느끼고 있다.	코박	03.09	80	0
2282	Kalshi, 이란 리더 마켓 배당금 지급 거부 관련 소송 당해	코박	03.09	47	0
2281	법원, 바이낸스와 CZ에 대한 테러 혐의 소송 기각	코박	03.09	31	0
2280	채굴사 BTC 던지는데…은행·국채는 블록체인으로 이동	코박	03.09	83	0
2279	중동 전쟁이 키운 K방산…한화 시총 LG 추월	코박	03.09	107	0
2278	마이클 세일러 다시 한번 '추가 매수' 암시?	코박	03.08	62	0
2277	시장에서 살아남는 사람의 공통점/워뇨띠의 기록이 말하는 리스크 관리의 본질 [1]	코박	03.08	877	1
2276	글로벌 자금 몰린다…한국 국채 금리 3.1% 하락 전망	코박	03.08	108	0
2275	3차 세계대전을 언급하는 마리오 나우팔	코박	03.08	96	0
2274	브로드컴 “광전환 아직” 한마디에 광통신 관련주 급락	코박	03.08	144	0
2273	5년을 투자해도 아직 코린이 일 수 있다 / 당신의 코인 투자력을 점검하는 10가지 체크리스트	코박	03.08	58	0
2272	라틴 아메리카의 암호화폐 붐, 미국을 앞서나가고 있다	코박	03.08	41	0
2271	리플 에코시스템 지원 모델, 26년 론칭, 「XAO DAO」설립 [4]	코박	03.08	936	0
2270	트럼프 이란에 강력한 공격 예고	코박	03.07	105	0
2269	유가 120달러 공포… 미국 러시아 제재 풀 수도 [12]	코박	03.07	1399	0
2268	모든 코인이 증권이 될 수도 있다? HR3633을 둘러싼 미국 크립토 규제 논쟁	코박	03.07	65	0
2267	코인의 발전은 멈춘 걸까?	코박	03.07	72	0
2266	BTC는 이제 '금'이 아닌, '나스닥'으로 봐야한다. [16]	코박	03.07	2265	5
2265	금페깅 토큰 'XAUT'에 거액 자금 유입	코박	03.07	43	0
2264	기관투자자 행동반경 넓힌다…자사주 소각 요구도 허용	코박	03.07	59	0
2263	인터넷에서 Altseason 언급량이 극도로 낮아졌습니다. 이는 상승 신호일까요?	코박	03.07	68	0
2262	파이 데이를 앞두고 파이 네트워크 가격이 40% 상승을 노리고 있습니다. 고래 투자자들이 매수에 나서고 기술적 분석도 강세로 전환되고 있습니다.	코박	03.07	136	0
2261	코인 시장 공포 극단…ETH ETF 유입 속 WLD 대량 입금	코박	03.07	77	0
2260	유가 리스크 비켜간 소프트웨어…나스닥 새 방어주 부상	코박	03.07	84	0
2259	거래소 비트코인 보유량 역대 최저치	코박	03.06	103	0
2258	미국 국세청(IRS)은 암호화폐 관련 세금 신고서를 디지털 방식으로만 제출하는 방안을 제안했습니다.	코박	03.06	65	0
2257	모건스탠리 솔라나 신탁 상품 전격 신청, 제도권 자금 유입에 따른 시장 재편 가속화	코박	03.06	45	0
2256	ETF 자금 유입이 마이너스로 전환되면서 비트코인 가격이 7만 달러까지 하락했습니다.	코박	03.06	89	0
2255	미 고용 식는데 실업률은 안정… 금리 인하 더욱 멀어지나	코박	03.06	43	0