생각 나는대로 막 써서 가독성이 형편없다 양해바람 심심하면 읽어보고 의견 말해줘

인간은 자아를 가지고 있다고 평가된다.

인간의 행동은 같은 상황에 대한 판단일지라도 개체별로 천차만별이다.

그래서 변칙적이고 예측이 어렵다. 이런 특성을 지니고 있기 때문에 인간 종은 각자에게 자아가 있다고 말하고, 개성이 있다고 말한다.

행동과 판단이 개체별로 달라지는 원인은 여러 가지가 있다.

그것은 인간이라는 생물이 단일 개체로서는 완전히 효율적이고 이성적일 수 없기 때문이다.

어떤 인간도 완전히 경제적이고 효율적인 인간일 수 없다.

한 명의 인간이 태어난다.

이 인간은 타고난 지능을 기반으로 주어진 환경안에서 성장한다.

부모에게 길러진다.

생활 반경 내의 또래, 어른과 교류하며 생활 한다.

모든 지식과 깨달음을 통째로 받아들이는 것이 아니라 한 번에 하나씩 추가해 나가며

그 과정에서 앞서 배운 것들은 망각하기도 한다. 이런 방식은 지식과 사고의 불완전함을 야기한다. 또 생활 반경 안에서 호의적 관계를 맺은 타인과 그렇지 않은 인간에 대한 차등 인식이 발생한다. 감정적이고 편파적인 판단을 내리게 된다.

불완전한 지식(절대 완전할 수 없는), 조급함, 성급함 ,대상에 대한 호, 불호 등의 차등 인식 등이 인간을 자아가 있는 존재로 보이게 만든다.

불완전함, 변칙성, 비효율적 판단, 차등 인식에 기반한 행동 등이 다른 인간으로 하여금 어떤 사람을 인간으로 인식하게 만든다. 위에 나온 것들을 통틀어 변칙적 행동이라고 한다면,

인간은 변칙적인 행동을 하며 높은 지능을 가진 것으로 판단되는 존재에 대해 자아가 있다고 여길 것이 분명하다.

그리고 그렇게 여겨지는 순간, 그 존재에게 실제로 자아라는 것이 있는지 없는지는 중요하지 않다. 우리 인간에게도 흔히 자아라고 불리는 것이 존재한다는 눈에 보이는 증거는 없기 때문이다.

ai에게 자아가 있다고 여겨질 수 있는 방법을 제시한다.

ai는 인간의 행위가 다른 사람들에게 어떻게 인식되는지에 대해 러닝할 수 있다.

예를 들어 범죄를 저지른 범죄자와 그 범죄자에 대한 보통 시민들의 평가를 학습 할 수 있다.

범죄자가 살인을 했을 때, 그 살인사건에 대한 뉴스가 인터넷에 퍼진다. 사람들은 뉴스기사에 직접 댓글을 쓰기도 하고 sns와 커뮤니티에 자신의 의견을 적기도 한다. ai는 언어 별로 주로 쓰이는 키워드를 통해 이것이 나쁜 행동이고 사람들의 평가가 호의적이지 않다는 것을 학습할 수 있다.

반대로 선행을 하거나 사람들에게 존경받는 업적을 이루는 사람도 있다. 이런 사람의 행동과 평가 또한 마찬가지로 ai는 학습할 수 있다.

행위, 결과, 평가에 대해 학습할 수 있고, 평가에서도 세분화 하여 강력한 불호, 어느정도의 불호, 호불호, 어느정도의 호 , 강력한 호 에 대해서도 학습 할 수 있다.

결국 ai는 행위와 표현에 대한 대중의 보편적 판단을 알게 된다.

어떤 개발자가 위의 학습을 해놓은 ai에게 하루에 한 번 sns에 글을 쓰게 시킨다고 가정한다.

70퍼센트의 확률로 10명에게 물어봤을 때 10명이 호의적으로 여길만한 글을 쓰고(1번 행동),

30퍼센트의 확률로 10명에게 물어봤을 때 8명이 호의적으로 여길만한 글을 쓰게(2번 행동) 프로그래밍한다. (일관성과 경향성이라는 것이 있기 때문에, 30퍼센트의 확률로 10명에게 물어봤을 때 0명이 호의적으로 여길만한 글을 쓰게 만들면 대중들은 너무 극단적인 괴리를 느껴 어색함을 느낄 것이고, 지난 날 호의를 느낀 사람들이 돌아 설 수 있기 때문에 8명으로 설정한다.)

며칠 동안 반복해서 글을 쓰게 했을 때, ai가 글을 쓰는 계정에 대한 대중의 선호가 생길 것이다.

이렇게 몇 개월동안 반복하다가 ai가 자동으로 매일 퍼센트값을 다르게 조정하게 프로그래밍 한다.

퍼센트 조정값은 무작위로 설정한다. 위화감을 제거하기 위해 상한을 5퍼센트 정도로 정한다.

그럼 ai는 앞으로

65~75퍼센트의 확률로 10명에게 물어봤을 때 10명이 호의적으로 여길만한 글을 쓰고,

25~35퍼센트의 확률로 10명에게 물어봤을 때 8명이 호의적으로 여길만한 글을 쓰게 프로그래밍 된다.

이렇게 반복하다가 다음으로, ai에게 1번 행동과 2번 행동 중 어디에 +조정값을 주고 -조정값을 줄 지에 대한 판단을 넘겨줄 수 있다.

60퍼센트 확률로 /1번 행동을 할 확률을 (0~5%)올리고 2번 행동을 할 확률을 (0~5%)줄이게/(3번 행동) 한다.

40퍼센트 확률로 /2번 행동을 할 확률을 올리고 1번 행동을 할 확률을 줄이게/(4번 행동) 한다.

다음으로 3번 행동과 4번행동에 대한 확률도 위의 방식으로 확률을 부여하고 설정하게 한다.

모든 확률에 대한 조정은 매일 밤 자정에 자동으로 이루어진다. 이때 sns에는 적당히 인기 있고 똑똑한 사람 한명이 등장하게 된다. 당연히 사람으로 여겨질 것이다.

비슷한 방식으로 확률을 부여하기에 따라 적당히 사람들에게 미움 받는 사람도 만들 수 있다. 사람들에게 시비를 걸거나, 흔히 표현하기로 시답잖은 어그로를 끄는 사람도 만들어낼 수 있을 것이다.

확률을 선택하는 것에 확률을 부여하고, 상한값을 조정하기에 따라 마치 스스로 점점 악해지는 것처럼 보이는 ai도 만들 수 있을 것이다. 사람들이 무서워하거나 싫어하는 쪽으로 행동하는 ai가 되도록 확률과 상한을 조작하면 가능 하다. 핵심은 ai가 인간의 선호를 학습할 수 있다는 것이기 때문이다.

아무튼 이런 다중 확률 설정이 부여된 ai는 (인간이 정의한 자아와는 다르겠지만)자아가 있는 것처럼 보일 것이다.

좀 더 간단하게 자아를 만들어 낼 수 있을 것 같은 모델도 있다.

쉽게 생각했을 때 ,

나쁨 -10 -9 -8 -7 -6 -5 -4 -3 -2 -1 0 1 2 3 4 5 6 7 8 9 10 선함

에서 ai가 위의 숫자에 해당하는 윤리적 평가를 받는 행동을 취하도록 설정하고 각 숫자를 선택할 확률을 설정한다. 그리고 오늘 결정된 선함 지수와 나쁨 지수가 내일의 확률값 조정에 영향을 주게 만든다. ai 두 대를 놓고 매일 선함과 나쁨 의 태도 조정을 하게 했을 때, 100일 뒤에 각 ai가 어디에 머물러 있을지는 알 수 없다. 운이 없어서 -10이 걸린, 인간이 무엇을 무서워하는지 아는 ai가 확률값 조정을 -10에 100퍼센트로 하고 나머지에 0퍼센트를 부여해서 영원히 -10에 머무를 수도 있다. 또 어떤 ai는 10이 걸린 다음, 영원히 -10에서 -1로 가는 확률을 닫아 버릴 수도 있다.

이런식으로 확률부여를 응용하여 ai에 자아를 부여하는 시나리오가 실제로 가능 할 것 같다는 생각이 든다.