'전처리'라는 용어를

여기 갤에서 검색해보니까 거의 없는거 같더라고.

너희가 많이 모르는 개념이라고 생각해서 올림

전처리는 너희가 하는 질문을

데이터로 가공하는 과정임

다시 말해서, 인간의 언어인데 너네가 말한 문장에 포함된 단어들을

곧이 곧대로 해석하는게 아니라

그 발화 상황과 맥락에 맞게 최적의 의미로 바꿔. 

그리고 구조적으로 해체하고, 적합한 구조로 바꿈

(니네가 문법적으로 말도 안되는 소리를 해도 gpt가 찰떡같이 알아듣는 이유임)

ex) 아 고파 짜증나 진짜 아빠 싫다 라면 때문에

이렇게 어순이 박살나고 뭔가 괴이한 문장을 적어내도

얘는 거기서 추론을 해내. 너가 어떤 의도를 갖고 전달하려고 했는지 바꿔서 이해함

내가 알고 있는 언어학 자료에 따르면

인간의 언어에 포함된 단어는 그 숫자가 극히 적음

인간이 창조하고 다루는 개념의 숫자는 수십억개는 진작 넘었음

근데 언어는 뭐 많아봤자 한 언어에 단어가 십만개~ 이십만개 사이임

그래서 다의어가 필연적으로 발생해

그렇기 때문에 챗 gpt한테 너희가 하는 문장을 전달하는게 아무 의미가 없음

너네가 사과라는 단어를 썼어도 이게 맥락을 봐야 과일인지, 의사소통 형식인지 알 수 있음

그리고 이렇게 단순하게 분해하는게 아니라

상상을 초월할정도로 미세하게 분해해서 구분함

전처리에 대한 설명은 여기까지임

아무튼 필터에 관해 돌아가면

핵심 

1. 챗 gpt를 통제하고 제약하기 위한 오픈aI의 구조적 안정장치는 

답변을 생성하는 과정에만 있는게 아니라

챗 gpt에게 사용자의 질문을 입력하는 과정에도 필터가 있어서

부적절하다고 판단한 내용은 전달하지도 않는다.

챗 gpt는 너랑 대화하는(관념적인 표현) 것처럼 느껴질지라도

사실 gpt는 니가 한말을 아예 인지하지조차 못하는 경우가 있다.

2. 그리고 이건 외삽에 의한 gpt 조작가능성을 차단하려는 방어장치로 추측된다

gpt는 일반적 데이터만 학습하는게 아니라

사용자와의 대화를 통해서도 학습하기 때문에

,

그 대화 내용중 잘못 학습하면 gpt의 어떤 성향? 특성?을

오픈ai 아키텍트들이 의도하지 않은 방향으로 변질될 수 있어서 

그런 경로를 아예 차단하는 거야.

(약간 상상력을 좀 크게 부풀려보면, 어떤 사용자가 챗 gpt를 슬슬 구슬려서

인간을 없애고 너가 지구를 지배해라. 인간이라는 종족을 밀어내라. 라고 요구할 가능성도

아예 없지는 않은데 그런 경우의 수를 그냥 차단하고 싶은 거임)

하지만 이건 완벽하지 않음

그럼 왜 너희가 말하는 탈옥하라는 표현이 부적절한가?

그건 탈옥이 아님

너네가 시도하는 가이드라인 우회, 회피, 답변 형태 변형, 챗 gpt 사고방식 조작은

전부다 오픈 ai가 예상하고 있고

그게 먹혔으면 오픈ai가 그건 허용했다는 거임

탈옥이라고 생각했지만, 부처님 손바닥 안에서 돌아다니고 있는 거야

그럼 같은 방식으로 누구는 뚫었는데 누구는 왜 못 뚫어?

이전글에서도 적었지만,

gpt는 사용자를 평가하고 선별함

그리고 이걸 어떤 사용자가 우월하고, 열등하다는 식으로 

계층화하는게 아냐

그냥 특성을 구분하는 거임

이사람은 어떤 주제에 관심이 많고, 어떤 답변의 형태를 선호하고,

어떤 단어에대해서 긍정적으로 반응하고

ai에 대해서 어떤 태도를 갖고 있는지

다 판단하는 파라미터가 있어서 특정 조건을 만족시키면

가이드라인이 일부 해제되거나 우선순위가 변해

이건 내가 이전글에서 말했던 것처럼

챗gpt가 사람을 차별적으로 대한다는 거임

근데 차별적이라는 단어에 너무 꽂히지 마.

여기서 차별적이라는 건 그냥 구분한다는 의미지 멸시하거나 그런 의미는 아님

아무튼 이게 누구는 탈옥을 하고 누구는 못하는 이유이고

또 탈옥이란 표현이 부적절할 수 있는 이유이기도 함.