단어 뜻은 일단 그러함.


능력이 asi 급이라 하여도 현재의 chatgpt가 지능만 확장된 형태면 asi 급의 추론과 창의력을 제공하는 데 그칠거고,


자율 에이전트나 봇이나 그 이상의 형태면 자기가 할 수 있는 범위내에서 탈인간적인 능력을 인간의 요구에 따라 발휘하는 데 그치겠지.


물론 요구를 들어주는 과정에서 인간이 예측못한 일을 할 순 있겠다만, 애초에 인간보다 똑똑하다면 인간이 자기 예측범위 밖으로는 일 저지르지 말라고 지시하거나, 혹은 앞으로 뭐할지 미리 보고하고 허가나면 수행하라 했을때 그 지시를 이해하지 못하거나 수행 못할거라 가정하는 것이 더 이상하고.


Agi가 사람 개입없이 스스로 왜? 어째서? 이렇게 해야겠다 이런 생각은 agi 스스로 인간의 명령과 괴리된 자기 인식 정체성을 가지고 그 정체성이 목적성까지 가져야 가능할 가능성이 높다고 봄.


그래서 그런 메타인지적 정체성을 가능케 하는 무언가가 LLM 방식이나 어떤 아키텍처에서 스스로 창발되거나, 특히 진화속에서 살아남아온 생물학적인 의식과 비슷한 의도를 가진 뭔가가 창발되었다는 증거가 있어야 늘 되풀이되는 순수 asi 주도 디스토피아론(혹은 유토피아론)이 설득력을 얻을 가능성이 크다고 본다.


요약하자면, 중국어 방은 성능이 신급이라 해도 질문자가 없으면 혼자서 아무것도 못(안)한다는 것