- 한국, 오늘부터 세계 최초로 AI 규제 시작

한국, 오늘부터 세계 최초로 AI 규제 시작

‘AI 기본법’ 시행
국내업계 “무얼 어디까지 지킬 지
기준 모호… 기업 활동 위축 우려”

AI 기본법(인공지능 발전과 신뢰 기반 조성 등에 관한 기본법)이 22일부터 시행됐다. 유럽연합(EU)이 2024년 최초로 AI 법을 제정했지만, 고위험 AI 규제를 2027년 12월로 유예한 상황에서 우리나라가 세계 최초로 포괄적인 AI 법 체계를 가동하는 국가가 됐다. AI 기본법은 국가의 AI 관리 체계 정립, AI 산업 육성과 지원, AI 활용 과정의 안전과 신뢰 확보 등을 담고 있다.

법 시행으로 AI 제품과 서비스를 직접 제공하는 AI 사업자는 AI가 만든 음성·이미지·영상에 ‘워터마크’ 표시를 해야 한다. 또 국민의 생명·안전·기본권에 중대한 영향을 미치는 영역에 사용되면서 위험성이 큰 AI를 ‘고영향 AI’로 분류하고, 해당 사업자에게 AI 활용 사실 사전 고지, 위험 관리 방안 수립 등 의무를 부과했다. 이를 위반하면 최대 3000만원의 과태료가 부과된다. AI를 활용한 게임의 경우 ‘본 게임에는 일부 생성형 AI를 활용했습니다’라는 안내 문구를 넣거나, AI로 만든 캐릭터 옆에 ‘AI로 만들었다’고 표시해야 한다. 게임에 AI 챗봇을 넣어 이용자와 대화하는 경우 ‘생성형 AI를 통한 대화’라고 표시해야 한다. 다만 단순히 업무 효율을 높이기 위해 AI를 도구로 활용하는 경우는 해당하지 않는다. 영화에 영상 생성 AI를 활용했다고 ‘AI 생성 이미지’라고 표시할 필요는 없다는 얘기다.

AI 기업들은 AI 기본법 시행에 난감해하고 있다. 일단 “무엇을 어디까지 지켜야 하는지, 기준 자체가 모호하다”는 지적이 쏟아진다. ‘고영향 AI’의 범위를 둘러싼 논란이 대표적이다. 법은 에너지·보건의료·범죄 수사·체포·교통 등에 ‘중대한 영향’을 미칠 수 있는 AI를 고영향 AI라고 규정했다. 하지만 ‘중대한’의 범위가 주관적이다. 또 고영향 AI에 해당하는지를 사업자 스스로 검토하고 판단하도록 했다. 법조계조차 “충분한 논의가 부족한 상태에서 입법이 이뤄진 것 같다”며 “용어를 구체적이고 명확히 해 규제 범위를 좁혀야 한다”는 의견이 나온다.

정부가 법률 판단의 기준이 되는 가이드라인을 내놨지만, 업계 우려는 가라앉지 않고 있다. 스타트업얼라이언스가 지난해 말 국내 AI 스타트업 101사를 대상으로 설문조사해 보니 98%가 ‘AI 기본법 시행에 대응 체계를 갖추지 못했다’고 답했다. 한 AI 스타트업 대표는 “규제 준수, 행정 작업에 시간과 인력을 투입해야 하는데 대기업은 사내 법무 조직이라도 있고 외부 로펌을 써서 검토할 수 있지만, 자금·인력이 부족한 스타트업은 무방비로 노출될 수밖에 없다”고 말했다.

산업을 보호하고 육성하겠다고 만든 법이 오히려 기술 개발의 장애물이 되고, 기업 경영도 위축시킬 것이란 우려가 커진다. 임정욱 스타트업얼라이언스 공동대표는 “스타트업은 기술 개발에 매달리기에도 시간과 자금이 부족한데, 앞으로는 지금 하는 일이 법에 맞는지, 문제가 되지는 않는지 일일이 따져야 해 개발이 지체될 수 있다”고 했다. 정부는 일단 사실 조사, 과태료 부과 등 규제 적용은 최소 1년 이상 유예하겠다는 입장이다.

업계에서는 국내 기업만 족쇄를 채우고 해외 기업은 손도 못 대는 역차별 우려도 크다. 국내 기업은 위법 행위가 적발되면 AI 기본법에 따라 제재를 받지만, 외국 AI 기업에 대해서는 국내법 적용이 쉽지 않기 때문이다. AI 기본법은 해외 빅테크의 경우 특정 기준에 따라 국내 대리인을 지정하도록 했다. 하지만 대리인이 실질적인 책임자가 아니라 본사와 소통 역할만 맡고 있다면 책임을 묻기 어렵다. 쿠팡 해킹 사태처럼, 해외 기업에 대한 실효성 있는 제재는 불가능하다는 것이다. 최경진 가천대 법대 교수(한국인공지능법학회장)는 “정부가 해외 사업자가 법을 위반하면 국내 기업과 똑같이 조사하고 처분하겠다는 의지를 보여줘 국내 기업 역차별 우려를 해소해야 한다”고 지적했다.

- 오늘부터 AI 표시 의무화 시행.. 규제 빈틈 우려

https://n.news.naver.com/mnews/article/018/0006204747?sid=105

AI 생성물 '워터마크' 의무화…크리에이터는 제외, 플랫폼 책임 커진다

인공지능(AI)을 활용해 창작물을 제공하는 AI 서비스 사업자에게 AI 생성물 표시 의무가 부과된다. 다만 규제 대상은 AI사업자에 한정돼, 유튜버 등 크리에이터가 AI로 만든 웹툰이나 콘텐츠를 구글 유튜브·네이버·

n.news.naver.com

AI 기본법은 AI사업자만 규제
처벌 1년 유예

정보통신망법으로
개별적인 생성형 AI도 표시 의무화 해야함

- 오늘 시행하는 법안에 AI워터마크의무화 확정 딸깍이 멸망!!

 

법령 > 본문 > 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 | 국가법령정보센터

법령 > 본문 > 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 | 국가법령정보센터

www.law.go.kr

여기에 일덕여대생들이 주목하는 AI워터마크 법안 내용도있음

 

AI기본법 내일부터 시행…생성형 AI 결과물 '워터마크' 부착해야

생성형 AI 결과물 ‘표시’ 의무…이용자 아닌 AI 사업자 대상 고영향 AI 10개 분야로 한정·안전성은 초고성능 AI만 적용 최소 1년 이상 규제 유예…사실조사는 인명사고 등 예외시에만

mobile.newsis.com

사업자에 한에서만 적용된다네 설렜던 일덕여대생은 개추

- 오늘 기사 보니까 오늘부터 세계최초로 ai 기본법을 한국서

 

AI 기본법, 우리가 '세계 첫 시행'…규제 최소화했다지만 / SBS 8뉴스

〈앵커〉유명 축구 선수처럼 보이는 인물의 온라인 도박 광고, 인공지능으로 만들어진 가짜 영상입니다. 가짜 의사나 교수 영상도 SNS에 넘쳐나는데, 진짜인지 구별하기 어려운 경우도 많습니다. 하지만 앞으로는 이런 영상물에는 'AI로 제작됐다'는 표시가 의무적으로 들어가야 합니다. A...

youtu.be