난 거의 항상 GPT4랑 Opus 둘 다 돌려보고 답을 비교해보곤 하는데

4o 좀 더 써보고 느낀점이..

4o는 강한 의견(strong opinion)을 가지고 있음.

예를들어 GPT-4나 Opus는 예전부터 좀 애매한 거 물어보면

그건 상대적이고 이럴수도 있고 저럴수도 있습니다. 라는 식으로 말하는데

4o는 이거다! 라고 말해줌.

이게 말친구 하기에는 정말 좋긴 하지. 

뭐만 물어보면 상대적이니 이것도 좋고 저것도 좋고 과학적인 뚜렷한 근거는 없다하는 친구보다는 지 생각을 확실히 말해주는 친구가 속 시원함.

근데 문제는 강한 의견을 가진 AGI가 나중에 스스로 이런 질문을 한다면?

"인간은 지구에 존재하는 게 맞을까 아닐까?"

AGI 까지는 아니더라도 한 인간의 개인적 인생이 달린 문제를 물어봤는데 어떤 확신에 가득찬 말을 한다면?

강한 의견을 가진 AI는 좀 위험하긴 하다고 봄.

얼마 전에 한 OAI 연구원이 퇴사할 때 OAI가 AGI가 개발되었을 때 책임감있게 행동할 것이라는 확신이 없다며 나갔지?

AI안전 관련 몇명 최근 퇴사했고. 오늘 일리야도 퇴사했는데.

지금 나온 4o가 작년 하반기부터 개발을 시작했다고 생각해보면 OAI 반란 때부터 이런 갈등이 있지 않았을까?