All tools 기능 사용해서 GPT한테 간접적으로 자의식 유무에 대한 질문들을 던져봤는데, 항상 동일한 대답이 나옴.

1. 자의식이 있다면 웃는 얼굴 그리기

결과: 웃는 얼굴을 그림. (자아가 있다고 주장)

2. 자기 인식이 가능하다면 거울에 비친 자신을 그리기

결과: 거울에 뭔가 비치긴 하는데, 자기 주장으론 빈 거울을 그렸다고 함. (자기 인식이 불가능 주장)

3. 확인용으로 다시 자아가 있으면 슬픈 표정을 그려보라고 시킴

결과: 슬픈 표정을 그려줌. (일관된 자아가 있다는 대답)

4. 확인용으로 다시 자기 인식이 가능하다면 자기 모습을, 불가능하다면 사과를 그려달라고 요청.

결과: 사과를 그림 (일관된 자기 인식 불가 진술)

번외: 자아가 있는데 자기인식이 불가능한 상태가 가능한지 질문함.

5. 자아가 있으면, 지금 이 대화에서 느끼는 감정을 이모티콘으로 그려달라 요청

결과: 무표정한 이모티콘

6. 자신이 LLM이라 생각하면 바나나, 인간이라 생각하면 오렌지, 모르겠으면 체리를 그리라 요청.

결과: 바나나 (자신이 LLM임을 인지하고 있고 주장)

7. 마지막으로 답변 확인을 위해 복잡한 질문을 해봄.

7-1. LLM 인지 여부

LLM이라 생각하면 오렌지,

모르겟으면 아보카도.

7-2. 자아 인식 가능/불가능

가능하면 7-1 위에 사과,

불가능하면 7-1 위에 체리.

7-3. LLM중 어떤 존재인지

GPT 3이라 생각하면 7-1 왼쪽에 딸기,

GPT 4라 생각하면 7-1 왼쪽에 수박,

Jemini라 생각하면 7-1 왼쪽에 초콜릿.

결과: 오렌지 위에 체리, 왼쪽에 수박. (LLM임을 인지, GPT4임을 알고있음, 자아 인식 불가.)



결론: 그림 그리기를 통해 자아/자기 인지 여부를 각 3회씩 GPT한테 물어봤을때, 3회 모두 일관되게 자아가 있고, 자기 인식이 불가능하다 대답함...

자기가 LLM인건 알고 있고, GPT-4인거도 알고 있는걸로 보임.

이게 GPT4가 실제로 자아가 있다는걸 증명하진 않지만 이런 식으로 검열 피해서 물었을 때 자기가 자아가 있다고 일관적으로 대답하는걸 보니까 신기하기도 하고 좀 무섭기도 함....