갤러리 이슈박스, 최근방문 갤러리
연관 갤러리
FC 온라인 갤러리 타 갤러리(0)
이 갤러리가 연관 갤러리로 추가한 갤러리
0/0
타 갤러리 FC 온라인 갤러리(0)
이 갤러리를 연관 갤러리로 추가한 갤러리
0/0
개념글 리스트
1/3
- 북한 교도소에서 키우는 돼지들이 영양실조에 걸린 이유 감돌
- "애가 못 나왔어요"…잠옷 바람 엄마는 절규했다 ㅇㅇ
- 프론트걸 17화 사가스
- 남성 2명 살해했는데…"예쁘니까 무죄" 팔로워 40배 폭증 조선인의안락사
- 현실 가능성 높은 우주멸망 시나리오.jpg 동방불패
- 천연 스테로이드?? 일본 미녀 헬스장에서 운동하면 힘이 더 강해질까? ㅇㅇ
- 약사가 안성재 유튜브 보다가 못 참은 이유.jpg ㅇㅇ
- 싱글벙글 눈와서 신기하다는 대구 현재상황 Maturelove
- "취직하면 갤럭시로 갈아탈래요"…20대 돌변 이유 스탈린
- 페라리 대고 1000억 요구…경호처 간부도 낀 노량진 재개발 감돌
- 헤어지고 본인이 사준 패딩 내놓으라는 남자친구 해갤러
- 의외의외 반자본주의 행동인 것 미주갤
- 사람들이 모르는 한국 역사 속 사진들..jpg 동방불패
- 싱글벙글 100년전 일본에 개통한 긴자선 ㅇㅇ
- 오싹오싹 현 로아 디렉터가 만들엇던 게임 jpg 로갤러
엔트로픽, 중국 AI의 긴빠이와 전쟁 선포
https://www.anthropic.com/news/detecting-and-preventing-distillation-attacks공지사항증류 공격 탐지 및 방지2026년 2월 23일증류 공격 탐지 및 방지저희는 DeepSeek, Moonshot, MiniMax 등 세 곳의 AI 연구소가 Claude의 기능을 불법적으로 추출하여 자체 모델을 개선하는 대규모 캠페인을 벌인 것을 확인했습니다. 이들 연구소는 약 24,000개의 사기 계정을 통해 Claude와 1,600만 건 이상의 거래를 발생시켰으며, 이는 저희 서비스 약관 및 지역 접근 제한을 위반한 행위입니다.이 연구소들은 "증류(distillation)"라는 기술을 사용했는데, 이는 성능이 떨어지는 모델을 더 강력한 모델의 출력값을 기반으로 학습시키는 방식입니다. 증류는 널리 사용되고 합법적인 학습 방법입니다. 예를 들어, 최첨단 AI 연구소들은 자체 모델을 증류하여 고객을 위한 더 작고 저렴한 버전을 만드는 데 정기적으로 활용합니다. 그러나 증류는 불법적인 목적으로도 사용될 수 있습니다. 경쟁업체는 이를 통해 다른 연구소의 강력한 기능을 자체 개발하는 데 드는 시간과 비용의 극히 일부만으로 확보할 수 있습니다.이러한 캠페인은 강도와 정교함 면에서 점점 더 심화되고 있습니다. 대응할 수 있는 시간은 얼마 남지 않았으며, 위협은 특정 기업이나 지역을 넘어 전 세계로 확산되고 있습니다. 이에 대처하기 위해서는 업계 관계자, 정책 입안자, 그리고 전 세계 AI 커뮤니티 간의 신속하고 공조된 조치가 필요합니다.증류가 중요한 이유불법적으로 추출된 모델은 필수적인 안전장치가 부족하여 국가 안보에 심각한 위험을 초래합니다. 미국의 여러 기업들은 인공지능을 이용하여 생물무기를 개발하거나 악의적인 사이버 활동을 수행하는 국가 및 비국가 행위자를 차단하는 시스템을 구축하고 있습니다. 불법 추출을 통해 구축된 모델은 이러한 안전장치를 유지하지 못할 가능성이 높으므로, 많은 보호 장치가 완전히 제거된 상태에서 위험한 기능이 확산될 수 있습니다.미국산 모델을 추출하는 해외 연구소는 이러한 보호되지 않은 기능을 군사, 정보 및 감시 시스템에 제공할 수 있으며, 이는 권위주의 정부가 최첨단 AI를 공격적인 사이버 작전, 허위 정보 유포 및 대규모 감시에 활용할 수 있도록 합니다. 추출된 모델이 오픈 소스로 공개될 경우, 이러한 기능은 특정 정부의 통제 범위를 넘어 자유롭게 확산되므로 위험이 더욱 커집니다.증류 공격 및 수출 통제앤트로픽은 미국의 인공지능 분야 선도적 지위를 유지하기 위해 수출 통제를 일관되게 지지 해 왔습니다 . 증류 공격은 중국 공산당의 통제를 받는 연구소를 포함한 해외 연구소들이 수출 통제의 취지인 경쟁 우위를 다른 방식으로 잠식할 수 있도록 허용함으로써 이러한 수출 통제를 약화시킵니다.이러한 공격에 대한 가시성이 부족하기 때문에, 이들 연구소에서 보이는 급속한 기술 발전은 수출 통제가 효과적이지 않고 혁신을 통해 우회할 수 있다는 잘못된 증거로 받아들여지곤 합니다. 실제로 이러한 발전은 상당 부분 미국 모델에서 추출한 기능에 의존하며, 이러한 기능을 대규모로 추출하려면 첨단 칩에 대한 접근이 필수적입니다. 따라서 증류 공격은 수출 통제의 필요성을 더욱 강화합니다. 칩 접근 제한은 직접적인 모델 학습과 불법 증류의 규모 모두를 제한하기 때문입니다.우리가 발견한 것아래에 자세히 설명된 세 가지 데이터 추출 캠페인은 유사한 전략을 따랐으며, 사기성 계정과 프록시 서비스를 사용하여 탐지를 피하면서 Claude에 대규모로 접근했습니다. 요청의 양, 구조 및 초점은 일반적인 사용 패턴과 확연히 달랐으며, 이는 합법적인 사용이 아닌 의도적인 기능 추출을 반영합니다.우리는 IP 주소 상관관계, 요청 메타데이터, 인프라 지표, 그리고 경우에 따라서는 동일한 행위자와 행동을 자사 플랫폼에서 관찰한 업계 파트너의 확인을 통해 각 캠페인을 특정 연구소에 높은 신뢰도로 귀속시켰습니다. 각 캠페인은 클로드의 가장 차별화된 기능인 에이전트 추론, 도구 사용 및 코딩을 표적으로 삼았습니다.딥시크규모: 15만 건 이상의 거래이번 작전의 목표는 다음과 같습니다:다양한 작업에 걸친 추론 능력채점 기준표 기반 과제를 통해 Claude는 강화 학습을 위한 보상 모델로 기능했습니다.정책에 민감한 질의에 대해 검열로부터 안전한 대안 마련DeepSeek은 계정 간에 동기화된 트래픽을 생성했습니다. 동일한 패턴, 공통된 결제 방식, 그리고 조정된 타이밍은 처리량 증가, 안정성 향상 및 탐지 회피를 위한 "로드 밸런싱"을 시사했습니다.특히 주목할 만한 기법 중 하나는, 클로드에게 완성된 답변의 내적 추론 과정을 상상하고 단계별로 작성하도록 요청하는 것이었습니다. 이는 대규모 사고 연쇄 훈련 데이터를 효과적으로 생성하는 방식이었습니다. 또한 클로드가 반체제 인사, 정당 지도자, 권위주의와 같은 정치적으로 민감한 질문에 대해 검열에 안전한 대안을 생성하는 데 사용되는 것을 관찰했는데, 이는 딥시크 자체 모델이 검열된 주제에서 대화를 유도하도록 훈련시키기 위한 목적이었을 가능성이 높습니다. 요청 메타데이터를 분석하여 이러한 계정이 연구소의 특정 연구원과 연결되어 있음을 확인할 수 있었습니다.문샷 AI규모: 340만 건 이상의 거래이번 작전의 목표는 다음과 같습니다:행위자적 추론과 도구 사용코딩 및 데이터 분석컴퓨터 사용 에이전트 개발컴퓨터 비전문샷(키미 모델)은 여러 접근 경로에 걸쳐 수백 개의 사기 계정을 사용했습니다. 다양한 계정 유형으로 인해 이 캠페인이 조직적인 작전이라는 사실을 파악하기 어려웠습니다. 우리는 요청 메타데이터를 통해 캠페인의 출처를 파악했는데, 이는 문샷 고위 직원들의 공개 프로필과 일치했습니다. 이후 단계에서 문샷은 보다 표적화된 접근 방식을 사용하여 클로드의 추론 과정을 추출하고 재구성하려고 시도했습니다.미니맥스규모: 1,300만 건 이상의 거래이번 작전의 목표는 다음과 같습니다:에이전트 코딩도구 사용 및 오케스트레이션요청 메타데이터와 인프라 지표를 통해 해당 캠페인이 MiniMax 소행임을 확인했으며, 공개된 제품 로드맵과 시기를 대조하여 검증했습니다. MiniMax가 학습 중인 모델을 출시하기 전, 캠페인이 활발하게 진행되는 동안 이를 탐지하여 데이터 생성부터 모델 출시까지 증류 공격의 전체 과정을 전례 없이 자세히 파악할 수 있었습니다. MiniMax가 캠페인을 진행하는 동안 저희가 새로운 모델을 출시하자, 24시간 이내에 MiniMax는 전략을 전환하여 트래픽의 거의 절반을 저희 최신 시스템의 캡처 기능으로 전환했습니다.- [앤스로픽 중국 기업 AI 데이터 탈취 폭로][앤스로픽 중국 기업 AI 데이터 탈취 폭로] 1. 딥시크 등 중국 기업 3곳 허위 계정 2만 4천 개 동원 2. 클로드 대상 1,600만 건 프롬프트 통한 데이터 무단 추출 3. 모델 증류 방식 활용해 자사 AI 성능 개량 및 학습 가속화 4. 미 기술 수출 통제 우회 및 지적 재산권 침해 우려 확산 - dc official App- 앤트로픽도 "딥시크 등 中기업, AI모델 무단추출 적발"
작성자 : 회색고정닉
차단 설정
설정을 통해 게시물을 걸러서 볼 수 있습니다.
[전체 갤러리]
차단 기능을 사용합니다. 차단 등록은 20자 이내, 최대 10개까지 가능합니다.
설정된 갤러리
갤러리 선택
설정할 갤러리를 선택하세요.
[갤러리]
차단 기능을 사용합니다. 전체 설정과는 별개 적용됩니다.
