openai 블로그에 다 나와있다

인간과의 협업을 위한 훈련

모델을 확장하고 더 복잡한 문제를 해결할수록, 인간의 필요와 의도를 더 깊이 이해하도록 가르치는 것이 점점 더 중요해집니다.

GPT-4.5의 경우, 소형 모델에서 얻은 데이터를 활용하여 더 크고 강력한 모델을 훈련할 수 있는 새로운 확장 가능한 기법을 개발했습니다. 이러한 기법을 통해 GPT-4.5는 사용자의 지시에 더욱 잘 따를 수 있고(steerability), 미묘한 뉘앙스를 이해하며, 보다 자연스러운 대화를 수행하는 능력이 향상되었습니다.

세계를 깊이 이해하는 능력과 향상된 협업 능력이 결합되면, 아이디어를 자연스럽게 통합하고, 따뜻하고 직관적인 대화를 형성하며, 인간과의 협업에 더욱 조화로운 모델이 탄생합니다.

GPT-4.5는 사람들이 말하는 의미를 더 잘 이해하고, 미묘한 단서나 암묵적인 기대를 보다 섬세하게 해석하는 능력이 향상되었습니다. 또한, 더 뛰어난 감성 지능(EQ)을 갖추고 있습니다.

뿐만 아니라, GPT-4.5는 미적 직관(aesthetic intuition)과 창의성이 더욱 강화되었으며, 글쓰기 및 디자인 작업을 지원하는 데 뛰어난 역량을 발휘합니다.

비지도 학습 확장

우리는 인공지능 역량을 발전시키기 위해 비지도 학습과 추론(reasoning)이라는 두 가지 상호 보완적인 패러다임을 확장하고 있습니다. 이 두 가지는 인공지능의 두 축을 형성합니다.

추론 확장(scaling reasoning)은 모델이 응답하기 전에 사고하고, 일련의 논리적 사고 과정을 거치도록 가르치는 것입니다. 이를 통해 복잡한 STEM(과학, 기술, 공학, 수학) 문제나 논리적 문제를 해결할 수 있도록 합니다. OpenAI의 o1 및 o3-mini 모델은 이러한 추론 확장 패러다임을 발전시키는 예시입니다.

반면, 비지도 학습(unsupervised learning)은 모델의 세계에 대한 이해도를 높이고, 직관(intuition)을 강화하는 역할을 합니다.

GPT-4.5는 비지도 학습을 확장한 대표적인 사례로, 컴퓨팅 자원과 데이터 규모를 확대하는 동시에 모델 아키텍처와 최적화 방식의 혁신을 적용하여 개발되었습니다. GPT-4.5는 Microsoft Azure AI 슈퍼컴퓨터에서 학습되었습니다. 그 결과, 모델의 지식 범위가 더욱 넓어지고 세계에 대한 이해가 깊어졌으며, 이는 잘못된 정보 생성(환각) 감소와 다양한 주제에 대한 신뢰도 향상으로 이어졌습니다.

더 강력한 추론을 향하여

GPT-4.5는 응답하기 전에 생각하지 않으며, 이 점에서 OpenAI o1과 같은 추론 모델과는 뚜렷한 차이를 보입니다. OpenAI o1 및 OpenAI o3-mini와 비교했을 때, GPT-4.5는 보다 범용적이며, 본질적으로 더 높은 지능을 가진 모델입니다.

우리는 추론(reasoning)이 미래 모델의 핵심 역량이 될 것이라고 믿으며, 사전 학습(pre-training)과 추론을 확장하는 두 가지 접근 방식이 서로를 보완하게 될 것으로 예상합니다.

GPT-4.5와 같은 모델이 사전 학습을 통해 더 스마트하고 더 많은 지식을 갖출수록, 이는 추론 및 도구 활용(agent-based reasoning and tool use) 능력을 갖춘 모델을 위한 더욱 강력한 기반이 될 것입니다.

위 내용들을 보면

모델 개발을 할 때 중요한 것은 "모델 개발의 초점을 어디에 두느냐" 인데, 이제 베이스 모델에서는 수학과 과학 같은 추론 능력이 필요한 분야에서의 성능 확장이 중요한 것이 아니라 알잘딱깔센 즉, EQ 능력의 향상을 핵심 역량으로 두는 것 같다.

또한, 베이스 모델의 스케일링 확장이 종료되었다 라는 말은 약간 과한 것 같고, 효율이 많이 떨어졌다는 것은 거의 확실해진 것 같다

그렇기에 앞으로 다른 회사들도 이 패러다임으로 가져가지 않을까 라고 생각함

그리고 사전 학습을 아예 버리는 것이 아니라, 추론 모델도 결국 베이스 모델을 기반으로 개발하는 것이기 때문에,

베이스 모델의 성능 약간 향상 -> 추론 모델의 더 큰 성능 향상 으로 진행되지 않을까 싶음

마지막으로

플러스 유저들은 다음주부터 쓸 수 있게 해준다고 한다