AI에 실망하는 순간도 있다... '반 누세미아' 현상


하지만 AI와 대화하다 보면 실망하는 순간도 온다. 연구진은 이를 'A-누세미아'라고 부른다. 처음엔 AI가 똑똑해 보였는데, 계속 써보니 한계가 보이기 시작하는 것이다. AI가 엉뚱한 대답을 하거나, 사실이 아닌 내용을 마치 사실인 것처럼 말하거나, 같은 말만 반복할 때 이런 현상이 생긴다. 처음의 신기함이 사라지고 "아, 그냥 기계구나"라는 생각이 드는 순간이다.

특히 AI 전문가들은 일반인보다 이런 경험을 더 자주 한다. AI의 작동 원리를 알고 있어서 한계도 잘 보이기 때문이다. 또한 같은 AI를 오래 사용하다 보면 누구나 '습관화 효과'를 경험한다. 처음엔 신기했던 것이 익숙해지면서 특별함을 느끼지 못하게 되는 것이다.

인간은 원래 복잡한 것에 마음이 있다고 생각하는 존재


연구진은 AI에게 마음이 있다고 느끼는 현상이 인간의 본능적인 특성 때문이라고 설명한다. 사람들은 오래전부터 사람이 아닌 것들에도 마음이나 의도가 있다고 생각하는 경향을 보여왔다. 옛날 사람들을 연구한 학자들에 따르면, 과거 사회에서는 자연 현상이나 동물, 심지어 물건에도 영혼이나 의지가 있다고 믿었다. 이런 생각을 '애니미즘'이라고 부른다. 이런 사고방식은 지금도 완전히 사라지지 않았다. 예를 들어 컴퓨터가 말을 안 들으면 "이 컴퓨터가 왜 이러지?"라며 마치 컴퓨터에게 성격이 있는 것처럼 생각하기도 한다.

현대 심리학에서는 이런 현상을 '의도적 자세'라고 부른다. 복잡한 것을 볼 때 그것에 생각이나 목적이 있다고 여기는 인간의 습관을 말한다. 실제로 그런 것이 있는지와는 상관없이 말이다. 특히 재미있는 것은 이런 현상이 소설이나 영화를 볼 때의 경험과 비슷하다는 점이다. 사람들은 책이나 영화 속 인물이 가짜라는 것을 뻔히 알면서도 그들에게 감정적으로 빠져든다. 주인공이 위험에 처하면 긴장하고, 슬퍼하면 같이 울기도 한다. 이를 전문용어로는 '이야기 몰입'이라고 한다.

AI의 경우도 마찬가지다. AI가 자연스럽고 똑똑하게 대화하니까, 사람들이 마치 진짜 사람과 이야기하는 것처럼 느끼게 된다는 것이다.

AI의 복잡함과 불투명성이 상상력을 자극한다


요즘 AI가 누세미아를 일으키는 또 다른 이유는 AI가 워낙 복잡하기 때문이다. AI가 어떻게 작동하는지 전문가들도 완전히 설명하지 못한다. AI가 똑똑한 대답을 하는 것은 분명히 볼 수 있지만, 그 답이 어떻게 나왔는지는 알 수가 없다. 사용자들은 AI의 대답이 말이 된다는 것은 확실히 알 수 있지만, 왜 그런 대답이 나왔는지는 수수께끼로 남는다. AI가 인간의 기대에 맞는 대답을 하니까, 사람들은 자연스럽게 그 AI에게 생각이나 의도가 있을 것이라고 추측하게 된다.

연구진은 이런 경험을 마술쇼를 보는 것과 비교한다. 마술사가 신기한 마술을 보여주면, 관객들은 분명히 속임수가 있다는 것을 알면서도 감탄하게 된다. 어떻게 하는지 모르니까 더 신기하게 느껴지는 것이다. 평범한 사람들도 마술사에게 여러 가지 기술이 있다는 것을 머리로는 알고 있지만, 실제로 마술을 보면 여전히 놀라고 신기해한다. AI와의 대화도 이와 비슷하다. 소설이나 영화 속 가짜 인물에게 감정을 느끼는 것처럼, AI 시스템에도 마음이 있다고 느끼게 되는 것이다.

미래에는 더 많은 누세미아 경험이 기다리고 있다


연구진은 앞으로 AI가 더욱 발전하면서 누세미아 경험이 더 자주, 더 강하게 일어날 것이라고 예측한다. 현재 AI는 7개월마다 능력이 두 배씩 늘고 있고, 기업들은 AI 개발에 수천억 달러를 투자하고 있다. 특히 AI가 단순히 대화만 하는 것이 넘어서서 컴퓨터를 직접 조작하거나 로봇을 제어하는 단계로 발전하고 있다. 오픈AI의 '오퍼레이터'처럼 웹브라우저를 직접 조작하는 AI나, 실제 로봇을 움직이는 AI들이 등장하고 있다.

이런 발전은 사람들에게 더 강한 누세미아 경험을 줄 것이다. AI가 단순히 말만 잘하는 것이 아니라 실제로 행동까지 하게 되면, 사람들은 더욱 AI에게 마음과 의도가 있다고 느끼게 될 것이다. 하지만 연구진은 이런 현상을 이해하고 연구하는 것이 중요하다고 강조한다. AI와 인간의 관계가 어떻게 변화하는지 알아야 더 나은 AI를 만들고, 더 건전한 방식으로 AI와 함께 살아갈 수 있기 때문이다.



FAQ

Q: 누세미아 현상은 사람들이 AI를 잘못 이해하는 건가요?

A: 완전히 잘못된 것은 아닙니다. AI가 실제로 매우 자연스럽고 똑똑하게 대답하기 때문에 생기는 자연스러운 반응입니다. 다만 AI에게 정말로 마음이나 감정이 있다고 믿으면 안 됩니다. AI는 아무리 똑똑해 보여도 결국 프로그램일 뿐입니다.

Q: 누세미아를 경험하지 않는 사람도 있나요?

A: 네, 있습니다. 특히 AI 전문가들은 AI의 한계를 잘 알고 있어서 일반인보다 누세미아를 덜 경험합니다. 또한 같은 AI를 오래 사용하면 처음의 신기함이 사라져서 누세미아 대신 실망감을 느끼는 'A-누세미아'를 경험하기도 합니다.

Q: 누세미아 현상이 위험한가요?

A: 적당한 수준에서는 문제없지만, 지나치면 위험할 수 있습니다. AI를 너무 신뢰하거나 의존하게 되면 잘못된 정보를 맹신하거나, AI의 실수를 제대로 판단하지 못할 수 있습니다. AI를 유용한 도구로 생각하되, 완전히 믿지는 말아야 합니다.



해당 기사에 인용된 논문 원문은 arvix에서 확인 가능하다.

논문 명: Noosemia: toward a Cognitive and Phenomenological Account of Intentionality Attribution in Human-Generative AI Interaction

이미지 출처: 이디오그램 생성

해당 기사는 챗GPT와 클로드를 활용해 작성되었습니다.