https://www.aitimes.com/news/articleView.html?idxno=159794

구글, LLM 내부 살펴볼 수 있는 '모델 익스플로러' 공개

구글이 대형언어모델(LLM)의 내부를 탐색할 수 있도록 신경망을 시각화하는 도구를 공개했다. 이를 통해 블랙박스와 같은 인공지능(AI) 모델의 내부 동작을 이해하고, 디버깅하고, 최적화할 수 있다는 설명이다.벤처비트는 17일(현지시간) 구글이 대규모 AI 모델을 시각화해 내부 동작을 이해하고 디버깅을 통해 모델을 최적화할 수 있게 해주는 도구 ‘모델 익스플로러(Model Explorer)’를 오픈 소스로 출시했다고 전했다.이에 따르면 AI 모델이 규모가 커지고 복잡해짐에 따라, 모델을 이해하고 해석하는 것이 더욱 어려워지고 있다.

www.aitimes.com

구글이 대형언어모델(LLM)의 내부를 탐색할 수 있도록 신경망을 시각화하는 도구를 공개했다. 이를 통해 블랙박스와 같은 인공지능(AI) 모델의 내부 동작을 이해하고, 디버깅하고, 최적화할 수 있다는 설명이다.

벤처비트는 17일(현지시간) 구글이 대규모 AI 모델을 시각화해 내부 동작을 이해하고 디버깅을 통해 모델을 최적화할 수 있게 해주는 도구 ‘모델 익스플로러(Model Explorer)’를 오픈 소스로 출시했다고 전했다.

이에 따르면 AI 모델이 규모가 커지고 복잡해짐에 따라, 모델을 이해하고 해석하는 것이 더욱 어려워지고 있다. 하지만 복잡한 AI 모델, 특히 여러 계층과 복잡한 연결이 있는 대규모 모델을 이해하면 잠재적인 문제와 개선 범위를 쉽게 추적할 수 있다.

이를 위해서는 정확한 그래프 시각화 도구가 필수적이다. 시각화를 통해 모델 내부에서 데이터가 이동하는 방식과 구성 요소들이 상호 작용하는 방식을 명확하게 묘사, 모델을 만드는 과정에서 문제를 디버그하고 아키텍처를 최적화할 수 있다. 

예를 들어 수많은 컨벌루션 레이어가 있는 대규모 이미지 인식 모델에서 정확한 시각화 도구를 사용하면, 각 레이어가 이미지에서 특징을 단계별로 추출하는 방법을 확인할 수 있어 특정 레이어가 중요한 세부 정보를 흐리게 하거나 분류 오류를 범할 수 있는지 식별하는 데 도움이 된다.

모델 익스플로러는 그래픽 렌더링 기술을 활용해 LLM을 원활하게 시각화하는 동시에, 구조 탐색을 위한 인터페이스를 제공한다. 사용자가 최첨단 LLM 및 확산 네트워크와 같이 복잡한 신경망도 원활하게 탐색할 수 있도록 하는 계층적 접근 방식을 활용해 모델 작업을 중첩된 레이어로 구성한다. 이 계층 구조를 통해 사용자는 레이어를 확장하거나 축소할 수 있기 때문에 모델의 특정 부분을 집중적으로 분석할 수 있다. 

이 도구는 텐서플로우, 파이토치, JAX 등의 머신러닝(ML) 프레임워크에서 일반적으로 사용되는 여러 그래프 형식을 지원하여 다양한 모델과의 호환성을 보장한다. 모델 탐색기는 WebGL 및 three.js를 통해 GPU 가속 그래프 렌더링을 활용하여 대규모 그래프를 원활하게 렌더링하는 문제를 해결한다. 이 접근 방식을 통해 수만개의 노드가 포함된 그래프에서도 초당 60프레임의 렌더링을 지원한다. 또 모델 탐색기는 모델 성능을 최적화하기 위해 인스턴스 렌더링 기술을 통합했다.

결론적으로 구글의 모델 익스플로러는 대규모 AI 모델을 이해하고 디버깅하며 최적화하는 문제에 대한 솔루션을 제공한다.

계층적 시각화 접근 방식을 제공하고 GPU 가속 렌더링을 활용하여 복잡한 모델 아키텍처를 명확하고 효율적으로 탐색할 수 있게 한다. 모델 익스플로러의 상호작용 기능, 예를 들어 모델 간 비교 및 노드별 데이터 오버레이는 효과적인 디버깅 및 최적화 워크플로우를 촉진한다.

벤처비트는 "모델 익스플로러는 대규모 AI 모델의 성능을 분석하고 개선하는 데 도움을 주는 최첨단 AI 시각화 모델"이라고 정리했다.