“ 인공지능 콘텐츠 제작물에 표시 의무 부과하여
허위 정보로 인한 사회적 혼란 방지해야 ”
이상헌 의원 , ‘AI 제작 콘텐츠 표기 의무법 ’ 대표발의
국회 문화체육관광위원회 소속 이상헌 의원 ( 더불어민주당 , 울산 북구 ) 은 22 일 ( 월 ), 인공지능을 이용하여 제작된 콘텐츠라는 사실을 표시하도록 하는 「 콘텐츠산업 진흥법 일부개정법률안 」 을 대표발의했다 .
챗 GPT, 미드저니 등의 생성형 인공지능 (AI) 기술이 빠른 속도로 발전하면서 , 이에 대한 적절한 규제가 필요하다는 주장이 제기되고 있다 .
최근 SNS 에서는 프란치스코 교황이 명품 패딩을 입고 산책하는 모습의 사진이 화제가 되었다 . 이는 인공지능을 이용해 만든 허위 이미지로 밝혀졌다 . 지난 13 일 , 트럼프 전 미국 대통령은 자신의 SNS 계정에 CNN 앵커가 바이든 대통령을 비난하는 영상을 올렸다 . 이 또한 인공지능이 만든 가짜 영상이었다 .
생성형 인공지능이 만들어내는 이미지 , 영상 , 음성 등이 갈수록 정교해지고 있는 것이다 . 때문에 사용자들은 진위를 쉽게 파악할 수 없게 되었다 . 인공지능 발 ( 發 ) 허위 콘텐츠로 인한 혼란을 막기 위해서는 제도적 개선이 시급하다는 의견이 다수 제기되었다 .
이에 이상헌 의원이 발의한 「 콘텐츠산업 진흥법 일부개정법률안 」 은 텍스트 , 이미지 , 음악 등의 콘텐츠가 인공지능 기술을 이용하여 만들어졌을 경우 , 해당 콘텐 츠가 인공지능 기술을 이용하여 제작된 콘텐츠라는 사실을 표시하도록 하는 내용을 담았다 . 개정안이 통과되면 사용자들이 진위 여부를 알 수 있게 되어 허위 정보로 인한 사회적 혼란이 방지될 것으로 보인다 .
이상헌 의원은 “ 인공지능 기술 발전 속도가 지나치게 빨라지면서 오 · 남용으로 인한 부작용이 우려되고 있다 . 현재 EU 에서는 인공지능이 만든 콘텐츠에 표기를 의무화하는 규제안이 검토되고 있으며 , 미국에서도 AI 로 만든 정치 광고영상과 사진에 출처를 의무적으로 표기하도록 하는 법안이 발의되어 있는 상황 ” 이라며 , “ 우리나라도 AI 오 · 남용을 막기 위한 관리 방안을 마련하여 인공지능 시대의 규범적 틀을 확립해야 한다 .” 라고 입법 취지를 밝혔다 . ( 첨부 : 「 콘텐츠산업 진흥법 」 )
콘텐츠산업 진흥법 일부개정법률안
( 이상헌 의원 대표발의 )
의 안
번 호
발의연월일 : 2023. 5. 22.
발 의 자 : 이상헌 ㆍ한준호ㆍ신정훈신동근ㆍ유정주ㆍ박 정조정훈ㆍ양경숙ㆍ양정숙 장철민 의원 (10 인 )
제안이유 및 주요내용
인터넷 상의 데이터를 학습하여 텍스트 , 이미지 , 음악 등의 콘텐츠를 생성하는 인공지능 기술은 이미 일정 수준 이상의 콘텐츠를 생산하고 있으며 앞으로 그 발전 속도는 더욱 빨라질 것으로 예상됨 .
이와 같은 인공지능 생성 콘텐츠의 발전속도와 파급력을 감안할 때이용자들이 인공지능 기술로 작성된 콘텐츠를 이용함에 있어 , 해당 콘텐츠가 인공지능 기술로 만들어진 것이라는 사실 등을 인식할 수 있도록 관련 법 · 제도 마련이 필요하다는 의견이 제기됨 .
이에 콘텐츠제작자는 대통령령으로 정하는 인공지능 기술을 이용하여 콘텐츠를 제작한 경우에는 해당 콘텐츠가 인공지능 기술을 이용하여 제작된 콘텐츠라는 사실을 표시하도록 함으로써 이용자의 혼선을 방지하고 인공지능 콘텐츠의 신뢰성과 책임성을 강화하려는 것임 ( 안 제 26 조제 3 항 및 제 4 항 신설 ).
법률 제 호
콘텐츠산업 진흥법 일부개정법률안
콘텐츠산업 진흥법 일부를 다음과 같이 개정한다 .
제 26 조제 3 항을 제 5 항으로 하고 , 같은 조에 제 3 항 및 제 4 항을 각각 다음과 같이 신설한다 .
③ 콘텐츠제작자는 대통령령으로 정하는 인공지능 기술을 이용하여 콘텐츠를 제작한 경우에는 해당 콘텐츠가 인공지능 기술을 이용하여 제작된 콘텐츠라는 사실을 표시하여야 한다 .
④ 제 3 항에 따른 표시의 내용과 방법에 필요한 사항은 대통령령으로 정한다 .
부 칙
이 법은 공포 후 1 년이 경과한 날부터 시행한다 .
신 · 구조문대비표
현 행
개 정 안
제 26 조 ( 이용자 보호시책 등 ) ① · ② ( 생 략 )
제 26 조 ( 이용자 보호시책 등 ) ① · ② ( 현행과 같음 )
< 신 설 >
③ 콘텐츠제작자는 대통령령으로 정하는 인공지능 기술을 이용하여 콘텐츠를 제작한 경우에는 해당 콘텐츠가 인공지능 기술을 이용하여 제작된 콘텐츠라는 사실을 표시하여야 한다 .
< 신 설 >
④ 제 3 항에 따른 표시의 내용과 방법에 필요한 사항은 대통령령으로 정한다 .
③ ( 생 략 )
⑤ ( 현행 제 3 항과 같음 )
서울시 영등포구 의사당대로 1 (여의도동) 07233 | 대한민국국회
이메일을 수신하고 싶지 않으시다면, [수신거부]를 클릭해 주십시오.
이전 메일
안읽은 메일
보낸 사람강선우 의원실
[받은메일함]메일 제목강선우 의원 , ‘ 당뇨병콩팥병 및 만성콩팥병의 국
