오픈AI(OpenAI), 앤트로픽(Anthropic), 구글(Google)이 중국 AI 기업들의 불법 모델 증류(distillation) 시도에 맞서 전례 없는 공동 대응 체제를 구축했다. 재팬타임스(The Japan Times)에 따르면, 세 회사는 2023년 마이크로소프트(Microsoft)와 함께 설립한 업계 비영리 단체 '프런티어 모델 포럼(Frontier Model Forum)'을 통해 이용 약관을 위반한 적대적 증류 시도를 탐지하기 위한 정보를 공유하고 있다.
증류(distillation)는 기존 AI 모델의 출력값을 활용해 더 저렴한 모방 모델을 훈련시키는 기법이다. 미국 당국은 적대적 증류가 미국 AI 연구소들에 매년 수십억 달러의 수익 손실을 초래하는 것으로 추산하고 있다. 중국 AI 스타트업 딥시크(DeepSeek)가 오픈AI 모델의 출력물을 활용해 자사 모델을 훈련시켰다는 의혹이 제기된 이후, 이 문제는 업계 전반의 핵심 화두로 떠올랐다. 딥시크의 등장은 미국 AI 업계에 큰 충격을 주었고, 기술 자산 보호의 필요성을 다시금 상기시켜줬다.
세 회사는 의심스러운 API 사용 패턴, 즉 사용자가 대량의 쿼리를 전송하거나 다른 AI 모델의 출력물처럼 보이는 프롬프트를 제출하는 경우를 자동으로 탐지하는 시스템을 공동 개발 중인 것으로 알려졌다. 이를 위해 API 요청의 메타데이터와 사용 패턴을 분석하는 새로운 감지 알고리즘이 도입될 예정이다. 또한 탐지된 의심 사례는 프런티어 모델 포럼을 통해 세 회사가 공유하며, 위반 행위 발생 시 관련 계정을 즉각 정지하는 조치를 취할 수 있다.
업계 전문가들은 이 조치가 글로벌 AI 패권 경쟁에서 중요한 전환점이 될 수 있다고 평가한다. 미국의 대표적인 AI 기업들이 공개적인 경쟁 관계에도 불구하고 공동의 위협에 맞서 협력하는 이례적인 모습을 보인 것이다. 프런티어 모델 포럼은 그동안 AI 안전 기준을 논의하는 포럼으로 활동해왔지만, 이번처럼 기업들이 공동으로 경쟁 위협에 대응하는 실질적인 행동에 나선 것은 처음이다.
이번 협력이 실질적인 효과를 낼 수 있을지에 대해서는 다양한 시각이 존재한다. 중국 AI 기업들이 어떤 방식으로 증류를 시도하는지 정확히 탐지하는 것은 기술적으로 매우 어려운 과제다. 그러나 세계 최강의 AI 기업들이 단결해 공동 대응에 나섰다는 것 자체가 업계에 강력한 신호를 보내는 것으로, 개발도상국 AI 기업들에 대한 경각심을 높이는 효과를 낼 수 있다는 분석도 나오고 있다. 특히 미국 정부의 AI 기술 수출 통제 강화 기조와 맞물려 이번 공동전선은 더욱 큰 의미를 지닌다.
자세한 내용은 재팬타임스(The Japan Times)에서 확인할 수 있다.
이미지 출처: 이디오그램 생성
댓글 영역
획득법
① NFT 발행
작성한 게시물을 NFT로 발행하면 일주일 동안 사용할 수 있습니다. (최초 1회)
② NFT 구매
다른 이용자의 NFT를 구매하면 한 달 동안 사용할 수 있습니다. (구매 시마다 갱신)
사용법
디시콘에서지갑연결시 바로 사용 가능합니다.