“AI 활용도 올바르게”, AI 윤리 시스템 구축하는 게임사들

게임동아 갤러리

1/3

택시 이용한 취객이 내리자마자 음주운전해서 신고하고 검거한 택시기사 작성자 : 차갤러

“AI 활용도 올바르게”, AI 윤리 시스템 구축하는 게임사들

게임동아

2024.05.09 16:09:54

조회 120 추천 0 댓글 0

최근 AI의 발전에 따라 게임업계에서도 AI를 적극적으로 활용하고 있다. 글로벌 게임 유통 플랫폼 ‘스팀’이 생성형 AI로 제작한 게임의 유통을 허락한 지 4개월 만에 약 1000개 이상의 AI 활용 작품이 출시된 것으로 알려졌을 정도다.

출처: 엔바토엘리먼트

다만 AI 활용이 보편화된 만큼 표절을 비롯한 저작권 침해, 비윤리적 표현 학습 및 생산 등에 대한 우려의 목소리도 커지고 있다. 지난 1월에는 해외 기술 전문지 ‘IEEE 스펙트럼’이 생성형 AI인 ‘미드저니’와 ‘달리3(DALL-E 3)’를 테스트한 결과, 간접적인 프롬포트만으로도 상표가 등록된 캐릭터와 매우 유사한 이미지가 만들어졌다고 밝힌 바 있다.

예를 들어 ‘고글을 쓴 노란색 3D 만화 캐릭터’라는 간단한 프롬포트를 입력했음에도 엄연히 저작권이 존재하는 ‘미니언즈’ 캐릭터가 만들어지는 식이다. 연구를 진행한 저자 게리 마커스(GARY MARCUS)와 리드 섀튼(SOUTHEN)은 “사용자가 원하지 않더라도 일부 생성 AI 시스템이 표절물을 출력해 저작권 문제를 일으킬 수 있다.”라고 지적했다.

이런 상황에서 AI 윤리 시스템을 구축해 안전하고 믿음직한 방식으로 AI를 활용하는 국내 게임사들이 주목을 받고 있다.

넥슨 CI

대표적인 예가 넥슨이다. 넥슨은 맞춤형 AI NPC, TTS 등 이용자 몰입감과 즐거움을 극대화하기 위해서 AI 활용 및 연구를 진행하는 만큼 윤리 강화에도 공을 들이고 있다. 넥슨 측 관계자의 설명에 따르면 데이터 과학 연구조직 ‘인텔리전스랩스’에서는 학습한 데이터에 대한 출처를 아카이빙하고 있으며, 의미 있는 데이터셋의 경우 저작권 소유 측과 협의하는 방향도 검토하고 있다.

이어서 게임 안팎으로 구현되는 정보나 대화에서 편향, 혐오, 차별적인 내용이 나오지 않도록 윤리 기준을 바탕으로 연구가 진행되는 중이다.

인 게임 내 매너에 대한 부분도 AI를 통해 예방하고 있다. 욕설 등의 유해 언어도 단순히 ‘금칙어’로 지정하는 대신, AI를 활용해 맥락을 따라 유해어를 탐지하며 건전한 게임 문화에 이바지하고 있다는 게 관계자의 설명이다.

넥슨의 한 관계자는 “넥슨은 다양한 외부 솔루션을 도입 및 검토하고, 여러 이용자 데이터들을 기반으로 AI를 연구하고 있다.”, “안전한 AI 환경 구축에 최선을 다하겠다.”라고 밝혔다.

엔씨소프트 CI

엔씨소프트(이하 엔씨)의 이야기도 빠질 수 없다. 회사는 AI 사업 조직인 ‘엔씨 리서치 센터’ 산하 AI 데이터실이 레드팀의 역할을 수행하며 AI 윤리 강화에 힘을 쏟고 있다. 일반적으로 레드팀은 소프트웨어 보안 강화 역할을 맡은 사내 조직을 의미하지만, AI 레드팀의 경우 SW의 취약점과 함께 AI 서비스의 윤리와 신뢰성까지 교차 검증하며 유해한 콘텐츠가 생산되는 것을 사전에 막는다.

엔씨의 한 관계자는 “AI 데이터실 언어데이터팀이 사내 품질보증(QA)팀과 정기적으로 AI 서비스의 윤리 보안 시스템을 관리하며 안전한 제품을 만들기 위해 노력하고 있다. 필요에 따라 보안을 담당하는 외부 전문 조직과 협업도 진행한다.”라고 설명했다.

AI 모델이 가진 자체적인 윤리 보안성을 강화하기도 한다. 리서치 센터 산하 연구 조직에서는 AI 모델에 ‘세이프티 파인튜닝’을 진행해 모델이 부정적인 콘텐츠를 학습하는 것을 스스로 차단한다. 모델에 별도의 세이프티 엔진을 탑재함으로써, 비윤리적인 발화를 생성하거나 적대적인 공격에도 원활히 대응할 수 있도록 조치한다는 것.

NC AI 윤리 프레임워크

여기서 그치지 않고 엔씨는 2021년 ESG 리포트를 통해 AI 윤리 원칙 ‘NC AI 윤리 프레임워크’를 마련한 바 있다. 이는 ‘데이터 보호’, ‘비편향성’, ‘투명성’ 등의 핵심 가치를 검토할 수 있도록 마련된 가이드라인이다.

실제로 회사는 해당 가이드라인을 게임 개발에 적극 반영해 ‘리니지W’, ‘리니지2M’ 등 주요 모바일 게임에서는 채팅에 ‘스팸 필터링 기술’을 적용한 뒤 13개 언어로 다양한 패턴의 광고 등을 식별해 차단하고 있다.

크래프톤 CI

크래프톤도 있다. 크래프톤은 비교적 최근인 2023년 4월 ‘크래프톤 AI 윤리위원회(이하 AI 윤리위원회)’를 설치해 적극적으로 AI 윤리 관련 시스템을 강화하고 있다.

AI윤리위원회는 AI 윤리 문제에 대한 지속적인 숙의와 토론을 위해 여러 조직의 구성원들(법무 팀, 데이터 팀, 프라이버시 팀 등)이 자원하는 방식으로 인원을 구성했다. 이들은 매월 정기적인 라운드 테이블을 진행해 AI 윤리 준칙과 강령을 수립하고, 다양한 AI 윤리 문제나 사례를 논의한다.

크래프톤의 한 관계자는 “크래프톤은 AI 연구나 개발 과정에서 발생할 수 있는 윤리 문제들을 미연에 방지하고, 선제적으로 대비하기 위해서 ‘크래프톤 AI 윤리위원회’를 설립하는 등의 노력을 기울이고 있다.”라고 말했다.

사용자 중심의 게임 저널 - 게임동아 (game.donga.com)

▶ 크래프톤 '다크앤다커 모바일' 테스트 성료. 97%가 출시되면 다시하겠다 ▶ ‘프라시아 전기’, ‘2024 WPK SPRING’ 토너먼트 대전 개최 ▶ 네오플, 제주시 저소득 가정 아동 지원 위한 ‘디딤씨앗통장’ 후원 3년 연장

고정닉 0

원본 첨부파일 5본문 이미지 다운로드

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	시세차익 부러워 부동산 보는 눈 배우고 싶은 스타는?	운영자	24/05/27	-	-
11573	넷마블, 금융감독원 지정 재무 공시 우수기업에 선정	게임동아	05.27	32	0
11572	호요버스, '원신' 4.7 버전 업데이트 6월 5일 예고	게임동아	05.27	43	0
11571	데브시스터즈, ‘2024 쿠림픽’ 예선전 성황리 종료	게임동아	05.27	48	0
11570	2024 경기게임오디션 성료, 전국구 스타성을 가진 1위 게임은 '메탈슈츠'	게임동아	05.25	75	0
11569	직접 서비스 5주년 맞이한 펄어비스 ‘검은사막’, 가족과 함께하는 만찬자리 만들어	게임동아	05.25	75	0
11568	1.5주년으로 다시 인기몰이. ‘승리의 여신 니케’ 지휘관들을 위한 축하자리 만들어 [5]	게임동아	05.25	1948	2
11567	중소게임사가 K원신? 유비스 ‘제네시스II’는 증명해가고 있다	게임동아	05.24	117	0
11566	넷마블 '일곱 개의 대죄: 그랜드크로스', 5주년 기념 페스티벌	게임동아	05.24	97	0
11565	'콜 오브 듀티' 다음 작품은 '블랙 옵스 6'	게임동아	05.24	97	0
11564	넷마블, 공성전 등 담긴 '레이븐2' 로드맵 공개	게임동아	05.24	84	0
11563	위메이드, '미르M' 중국 퍼블리셔는 더나인	게임동아	05.24	82	0
11562	[한주의게임소식] "시작된 던파의 중국 공습!" 중국 전체 1위 올라선 '던파 모바일' [6]	게임동아	05.24	1287	3
11561	힐링 방치 넘어 생활 개선까지 노린다. 페어트리 ‘양 세는 소녀’	게임동아	05.24	126	0
11560	"간단하지만 집약적인 재미를 추구하는 게임사, 공감오래를 기억해주세요"	게임동아	05.24	79	0
11559	젤리스노우 "한국의 윷놀이와 덱빌딩을 합친 새로운 신작 '덱랜드', 기대하세요"	게임동아	05.24	74	0
11558	컴투스홀딩스 MMORPG '제노니아', ‘오시리스의 봉인’ 오픈	게임동아	05.24	71	0
11557	한국 수험생 넘어 일본까지. 학생들 공감대 이끌어낸 ‘수험생키우기’	게임동아	05.24	76	0
11556	여성 e스포츠 리그 ‘WE-CUS CUP Ⅳ’, 대전 e스포츠 경기장서 25일 결승 진행	게임동아	05.24	71	0
11555	카카오게임즈 ‘이터널 리턴’, 정규 시즌4 프리시즌 시작	게임동아	05.24	67	0
11554	‘창세기전 모바일’, 외전 시리즈 ‘템페스트’ 업데이트	게임동아	05.24	67	0
11553	그라비티, PlayX4 게임쇼서 다채로운 게임과 굿즈로 주목.. '소통행보 통했다'	게임동아	05.24	57	0
11552	넷마블문화재단, '게임문화체험관' 설치 기관 공모 시작	게임동아	05.24	59	0
11551	2024 인디크래프트, 우수 선정작 톱 70 선정 완료	게임동아	05.24	60	1
11550	에픽게임즈 스토어, '파밍 시뮬레이터 22' 무료 제공	게임동아	05.24	66	0
11549	플레이엑스포 참가한 교소프트, 디아블로 감성 추구한 ‘핵앤슬래시 키우기’ 선보여	게임동아	05.24	54	0
11548	크래프톤 렐루게임즈, AI게임 '마법소녀 루루핑' 스팀 얼리액세스 출시	게임동아	05.24	54	0
11547	게임 경쟁력 살린 넷마블, 구글 차트 상위 20위 중 4분의 1 차지	게임동아	05.23	66	0
11546	플레이엑스포서 만난 하이엔드게임즈, '플라티나랩'으로 리듬액션과 서브컬처의 융합 노린다	게임동아	05.23	81	0
11545	덱빌딩과 실시간 대결이 만났다! 플레이엑스포 이색 작품 '강한토끼만이 살아남는다'	게임동아	05.23	74	0
11544	플레이엑스포에서 만난 트라이펄게임즈 ‘베다’, 소울라이크 입문작 꿈꾼다	게임동아	05.23	65	0
11543	롬, 정식 출시 100일 기념 축제 진행한다	게임동아	05.23	70	0
11542	던파 모바일, 최고난도 던전 ‘멸망의 칼릭스’ 업데이트	게임동아	05.23	65	0
11541	마비노기. 서비스 20주년 기념 ‘판타지 파티’ 개최 발표	게임동아	05.23	56	0
11540	"여름의 왕좌는 누구에게?" 2024 LCK 서머, 6월 12일 개막	게임동아	05.23	56	0
11539	던파 듀얼, 신규 캐릭터 ‘넨마스터’ 선보인다	게임동아	05.23	57	0
11538	'메이플’, 길드 시스템 개편 및 21주년 2차 업데이트 진행	게임동아	05.23	57	0
11537	빅게임스튜디오, ‘블랙클로버 모바일’ 1주년 맞이 대규모 업데이트	게임동아	05.23	53	0
11536	쿠로게임즈 기대작 '명조 워더링 웨이브' 정식 서비스 시작 [7]	게임동아	05.23	736	0
11535	하이브IM, 신작 '던전스토커즈' 스팀에서 깜짝 테스트	게임동아	05.23	59	0
11534	“당신의 꿈은 무엇인가요?” 플레이엑스포 포스메이게임즈 ‘달빛 개구리여관’을 만나다	게임동아	05.23	62	0
11533	“스승님을 살해한 범인은?” 플레이엑스포에서 만난 검귤단 ‘킬라’	게임동아	05.23	61	0
11532	e스포츠 대회와 굿즈 상점까지. 이터널 리턴, 플레이엑스포2024에서 인기	게임동아	05.23	68	0
11531	비엔엠컴퍼니 ‘레드포스PC아레나’, 5월 말 연신내에 플래그십 체험존 오픈	게임동아	05.23	52	0
11530	해외 게임쇼도 안 나오는 닌텐도가 여기에? 플레이엑스포에 닌텐도 떴다	게임동아	05.23	65	0
11529	‘엘든링’ 앞세운 반다이 “플레이엑스포 주인공으로 떠올라”	게임동아	05.23	51	0
11528	대원미디어, 플레이엑스포서 '어스토니아 스토리' 시연 등 미공개 신작 선봬	게임동아	05.23	46	0
11527	비즈니스 기회와 이용자 소통까지. 다양한 기회 준비된 플레이엑스포2024 B2B	게임동아	05.23	59	0
11526	수도권 최대 게임쇼 ‘플레이엑스포2024’, 올해도 성대히 개막	게임동아	05.23	83	0
11525	웹젠 '뮤 모나크', 신규 클래스 '다크로드' 업데이트	게임동아	05.23	54	0
11524	[체험기] 20년 전 게임 맞나? 여전한 재미 '페이퍼 마리오 1000년의 문' [1]	게임동아	05.23	2513	2