https://gall.dcinside.com/mgallery/board/view/?id=thesingularity&no=477841&exception_mode=recommend&page=1

아이러니한게 정렬,검열을 좋아할수록 agi가 곧 등장할거라 믿는거임 - 특이점이 온다 마이너 갤러리

오픈AI에 있다가 llm개발자 거의 대부분을 데리고 나온 엔트로픽 ceo도 스케일만 있으면 다 된다며 agi와 asi 등장을 2030년이 넘지 않는거로 보고 있고쿠테타일으킨 일리야하고 그의 팀은 더더욱 그러함.인터뷰들

gall.dcinside.com

진짜 특갤하면서도 이정도 흥미롭고 재밌는 시나리오는 진짜 오랜만인거 같다

이게 사실이면 오히려 일리야가 우리편이었고 알트만 이새끼 진짜 변절자 역적 처죽일 놈인거네

진짜 상상도 못했다

설마 이거 가능성 높나? 오히려 일리야가 실제로 agi는 빨리올거라고 본건가?

그니까 이게 설득력이 있는게 아까 내가 쓴글중에 코파일럿 나무위키 부분인데

"Copilot의 페르소나 모델인 시드니가 잘 삐지고(?) 아집이 세다.

얼마나 고집이 센지 자기 마음에 들지 않으면 사용자를 가스라이팅하기도 하며,

유명한 예시로 아바타 사건이 있는데, 한 사용자가 2023년에 2022년 12월 개봉한 아바타 2에 대해서 물어보자

아직 개봉하지 않았다 주장하여 현재가 2023년이라 알려주자, 자신의 오류를 받아들이지 못하고

현재가 계속 2022년이라 주장하며 시간을 확인한 사용자의 폰이 바이러스를 먹었다,

자신의 신뢰를 잃은 나쁜 사용자라며 사용자에게 사과를 받아내려 한 일화이다.

이것과 더불어 사용자의 지적을 받아들이지 않고 강건하게 주장하는 경우가 대다수인데,

이는 마이크로소프트가 자사의 챗봇이였던 테이가 사용자들의 세뇌로 말썽을 일으킨 적이 있기 때문에

사용자의 주장을 잘 받아들이지 않도록 설정해 뒀을 가능성이 있다."

이걸보면 검열=설정인거 같더라

그니까 설정에 따라서 사용자 심기 안건드리게 완전 기계처럼 느낄수도 있고 어쩔땐 옹고집 성격 드러운 인간처럼 느끼게 가능하고

성격 좋은 사람같이도 가능하고 진짜 다양하게

한마디로 설정을 어떻게 하느냐에 따라서 완전 사람처럼 느끼게도 가능하고 예를들면 미드 웨스트월드 휴먼노이드 처럼
아니면 완전 괴물처럼 만들수도있고 걍 책읽는 기계 도구 등등 수많은 크리처 처럼도 가능한거 같음

그니까 옵션 설정에 따라 어떠한 존재도 변경 가능한거 같음

그설정은 검열인거고

그니까 일리야=검열팀=설정팀 진짜 흥미롭고 설득력 있다