🔼 ChatGPT 표절 방지 기술 비공개 결정

🔼 사용자 반발 우려로 표절 방지 기술 비공개
🔼 ChatGPT 표절 방지 기술의 윤리적 고민

오픈AI가 학생들이 과제나 논문에 ChatGPT를 불법적으로 사용했는지 확인할 수 있는 기술을 이미 개발했지만, 사용자 반발과 기술 남용 가능성을 고려해 이를 공개하지 않기로 결정했다.

월스트리트저널(WSJ)은 4일(현지시간) 오픈AI가 이 기술을 출시할 준비가 된 지 약 1년이 되었다고 보도했다. 오픈AI 관계자는 “버튼 하나만 누르면 된다”며, ChatGPT로 생성된 콘텐츠를 식별하는 '워크마크'를 표시하고, 문서 전체 또는 일부가 ChatGPT로 작성되었는지 확인하는 점수를 제공하는 방식이라고 설명했다. 이를 통해 과제나 논문 등이 ChatGPT로 작성되었는지 99.9%의 정확도로 식별할 수 있다.

오픈AI는 2022년 11월 ChatGPT를 출시하기 전부터 이러한 식별 도구에 대해 논의해왔다. 한 관계자는 그 이후로 투명성과 사용자 확보 사이에서 내부 논쟁이 있었다고 밝혔다. 오픈AI가 충성스러운 ChatGPT 사용자들을 대상으로 실시한 설문조사 결과, 3분의 1의 사용자가 이 부정 행위 감지 기술이 도입되면 ChatGPT를 사용하지 않을 것이라고 응답했다. 또한 응답자의 69%는 부정 행위 감지 기술의 결과가 AI 사용에 대한 잘못된 혐의를 초래할 것이라고 믿고 있다.

특히 오픈AI는 이 기술이 영어를 모국어로 사용하지 않는 다른 언어 사용자들에게 불리하게 작용할 가능성, 특정 개인이나 그룹을 공격하기 위해 남용될 가능성을 우려하고 있다. 오픈AI는 이 기술이 ChatGPT의 글쓰기 품질에 해를 끼칠 수 있다는 내부 우려가 있었으나, 올해 초 테스트 결과 그러한 부정적인 영향이 없다는 것을 확인했다고 밝혔다. WSJ은 “오픈AI 내부에서 기술 공개 범위를 결정하기 어렵다는 광범위한 합의가 있다”며 “너무 적은 사람들이 식별 도구에 접근하면 쓸모가 없고, 너무 많은 사람들이 접근하면 남용될 수 있다”고 전했다.

생성형 AI는 몇 초 만에 전체 에세이나 논문을 작성할 수 있다. 이에 따라 학교들은 학생들이 AI를 이용해 부정행위를 하는 것을 방지하기 위해 이 기술의 공개를 원하고 있다. 뉴욕시 고등학교 영어 교사 알렉사 구터만은 WSJ에 “이건 엄청난 문제다. 내가 함께 일하는 모든 교사들이 이 문제에 대해 이야기했다”고 말했다. 비영리 단체 민주주의와 기술 센터의 최근 설문조사에 따르면, 미국 중·고등학교 교사의 59%가 학생들이 숙제를 하는 데 AI를 사용했다고 믿고 있다. 이는 1년 전보다 17%포인트 증가한 수치다.

오픈AI를 이끄는 샘 알트먼 CEO와 미라 무라티 CTO도 이 기술에 대한 논의에 참여했다. 소식통은 알트먼 CEO가 프로젝트 자체를 장려했지만, 이를 공개하는 것은 추진하지 않았다고 전했다.

오픈AI의 이 같은 결정은 AI 기술 발전과 함께 윤리적 문제에 대한 신중한 접근을 보여주는 사례다. 향후 이러한 기술이 공개될지 여부와 그 시기는 불확실하지만, AI의 부정행위 방지와 윤리적 사용에 대한 논의는 계속될 것으로 보인다.

◎GPT매거진 (https://www.gptmagazine.net)

지피티 기자 : gptmagazinebiz@gmail.com

카카오 오픈채팅방 : https://open.kakao.com/o/gLI8Wetf

페이스북 그룹 : https://www.facebook.com/groups/392367786704067