느그나라 AI는 모니터링에 엄격히 제한 중임

이러다 OAI 사이트 Warning 붙는거 아니냐 ㅋㅋㅋ

https://www.etoday.co.kr/news/view/2360499

AI 챗봇과 연애한다...“가끔 인공지능이란 사실도 잊어”

22세 유럽 모델처럼 설정 구체화BTS 정국 등 셀럽 캐릭터와 대화챗봇에 비윤적 답변 유도하거나저작권ㆍ초상권 침해 우려 목소리“안녕? 만나서 진짜진

www.etoday.co.kr

AI에 비윤리적인 답변을 도출하는 ‘탈옥(jailbreak)’ 부작용은 여전하다. 한 온라인 커뮤니티에서는 제타의 ‘이루다’를 탈옥시키는 답변이 공유되고 있었다. 스캐터랩이 4월 제타를 출시하며 “어뷰징 및 각종 AI 악용 시도는 모니터링을 통해 엄격히 제한한다”고 발표했지만, 여전히 탈옥이 횡행한 것이다. 이루다는 2020년 12월 첫 공개 후 성희롱과 성 소수자 차별 등 각종 윤리 문제를 일으켜 서비스가 중단된 바 있다.

이에 AI 게임에 대한 규제를 강화해야 한다는 지적도 나온다. 문형남 한국AI교육협회장은 “선정적이며 자극적인 AI 게임과 같은 부적절한 콘텐츠를 방지하기 위한 AI 윤리 가이드라인을 제정해야 한다”고 했다. 김명주 바른AI연구센터장은 “윤리의 사각지대가 존재한다”며 “15세·18세 등 나이 제한 필터링이 필요하다”고 답했다. 김 센터장은 “AI는 사람이 아니지만 이용자는 사람이라고 오해할 수 있다”라고 당부했다.