인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 일부개정법률안
인공지능 생성 음향·이미지·영상에 워터마크를 넣어야 하고 훼손하면 처벌받아요
- 제안일
- 2026.05.11
- 의안번호
- 2218919
- 소관위원회
- 과학기술정보방송통신위원회
대표발의자
총 10명김대식 의원
국민의힘
발의자 전체보기 · 외 9인접기
-
김예지 의원
국민의힘
-
김용태 의원
국민의힘
-
박덕흠 의원
국민의힘
-
서일준 의원
국민의힘
-
서지영 의원
국민의힘
-
윤한홍 의원
국민의힘
-
이철규 의원
국민의힘
-
정성국 의원
국민의힘
-
조지연 의원
국민의힘
진행상황
-
접수05.112026.05.11
-
위원회 심사05.122026.05.12
-
체계자구
심사 -
본회의
-
공포
관련 법령
같은 법령 · 시행령 · 시행규칙 8건 · 바뀌는 내용이 가까운 순-
위원회 심사 2216804 · 이상휘 2026.02.12
인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 일부개정법률안
생성형 AI 결과물의 표시를 훼손·위조·변조하면 안 되고 위반 시 과태료를 내야 해요
-
위원회 심사 2219835 · 김우영 2026.07.08
인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 일부개정법률안
AI 사업자는 예술·창의적 표현물을 작품당 한 번만 AI 생성 표시하면 돼요
-
위원회 심사 2216221 · 정춘생 2026.01.22
인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 일부개정법률안
인공지능사업자가 의료·법률·금융 결과물에 전문가 판단 대체 불가를 고지해야 해요
-
위원회 심사 2220998 · 안상훈 2026.09.01
인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 일부개정법률안
대화형 인공지능 사업자가 대화 중에도 상대가 인공지능임을 알리도록 고지해야 해요
-
위원회 심사 2220174 · 안철수 2026.07.27
인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 일부개정법률안
생성형 AI 개발사업자는 결과물을 기계판독 방식으로 표시해야 해요
-
위원회 심사 2219563 · 이훈기 2026.06.26
인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 일부개정법률안
민간 인공지능사업자가 개인정보가 아닌 학습용데이터를 안전 기준에 따라 활용할 수 있어요
-
위원회 심사 2219516 · 김현 2026.06.25
인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 일부개정법률안
인공지능 에이전트를 개발·제공하는 사업자는 권한 범위를 정하고 위험을 관리해야 해요
-
위원회 심사 2220043 · 전종덕 2026.07.20
인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 일부개정법률안
인공지능 개발·활용 때 차별 금지 원칙이 생기고 국가가 인권침해를 감독해요
핵심 요약
-
01
인공지능 생성물 고지 대상 확대
현행법은 고지·표시 대상을 한정하지 않아 유통 과정에서 생성 사실이 빠질 수 있어요. 개정안은 이런 사각지대를 줄이려는 목적이에요.
변경 사항
| 항목 | 변경 전 | 변경 후 |
|---|---|---|
| 인공지능 생성물의 고지·표시 의무 대상 | 고지 또는 표시 대상을 한정하지 않은 상태로, 결과물이 인공지능으로 생성되었다는 사실을 이용자가 명확히 인식할 수 있도록 고지·표시하는 의무만 있어요. | 가상의 음향, 이미지, 영상 등 결과물 자체에 워터마크를 생성해 인공지능 생성 사실을 고지·표시하도록 해요. |
용어 설명
- 워터마크
- 결과물에 식별 정보를 넣어 출처나 생성 방식을 알려 주는 표시예요. 이 법에서는 인공지능으로 만들어졌다는 사실을 나타내는 데 쓰여요.
AI 가 원문을 바탕으로 정리한 내용이라 틀릴 수 있습니다. 정확한 내용은 「원문 확인」 탭에서 확인하세요. 본 서비스가 제공하는 요약·검토 포인트는 법령 및 정책 변화에 대한 일반적인 정보 제공을 목적으로 하며, 개별 기업의 구체적 사안에 대한 법률 자문이 아닙니다. 실제 적용 여부와 대응 방안은 변호사 등 전문가와 상담하시기 바랍니다.
관련 뉴스
불러오는 중…
제안이유 및 주요내용
현행법은 인공지능시스템을 이용한 가상의 음향, 이미지 또는 영상 등의 결과물이 인공지능시스템을 이용하여 생성되었다는 사실을 이용자가 명확하게 인식할 수 있는 방식으로 고지 또는 표시할 의무를 인공지능사업자에게 부과하고 있음.
그러나, 현행법은 고지 또는 표시의 대상을 한정하고 있지 않아 유통 과정의 가공 등으로 인하여 해당 결과물이 인공지능시스템을 이용하여 생성되었다는 사실이 이용자에게 전달되지 아니하고 사람이 직접 만들거나 실제로 존재하는 정보로 유통될 위험이 있음.
따라서, 해당 결과물 자체에 코드 또는 문자ㆍ부호 등을 삽입한 비가시적 또는 가시적 워터마크를 생성하여 인공지능시스템을 이용한 생성 사실을 고지ㆍ표시하도록 하고, 이와 같은 고지ㆍ표시를 훼손 또는 위작ㆍ변작하는 행위를 금지하면서 위반 시 2년 이하의 징역 또는 2천만원 이하의 벌금에 처함으로써 인공지능 투명성 규제의 사각지대를 해소하려는 것임(안 제31조제3항ㆍ제4항 및 제42조제2항 신설).
제개정내용 · 부칙 · 신구조문 대비표
의안 원문에 실려 있습니다. 원문 파일에서 조문별 개정 내용과 부칙, 현행·개정안 대비표를 확인하세요.
적용대상 (일반)
법령상 인공지능사업자가 주된 적용 대상으로 예정되어 있어요. 인공지능시스템으로 가상의 음향, 이미지, 영상 등 결과물을 생성하는 사업자가 해당될 가능성이 있어요.
주요 의무 (일반)
인공지능으로 생성한 결과물에 워터마크를 삽입해 생성 사실을 고지·표시해야 하며, 해당 워터마크를 훼손하거나 위작·변작하지 않아야 해요.
위반 시 제재
위반 시 2년 이하의 징역 또는 2천만원 이하의 벌금에 처하는 형사처벌이 제안되어 있어요.
검토 포인트
내 회사에 맞는 검토가 필요하신가요?
이 항목이 우리 회사에 어떻게 적용되는지 문의하시면 변호사가 직접 답변 또는 자문 안내를 드립니다.