인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 일부개정법률안
대화형 인공지능 사업자가 대화 중에도 상대가 인공지능임을 알리도록 고지해야 해요
- 제안일
- 2026.09.01
- 의안번호
- 2220998
- 소관위원회
- 과학기술정보방송통신위원회
대표발의자
총 11명안상훈 의원
국민의힘
발의자 전체보기 · 외 10인접기
-
고동진 의원
국민의힘
-
권영세 의원
국민의힘
-
김미애 의원
국민의힘
-
김예지 의원
국민의힘
-
박덕흠 의원
국민의힘
-
박상웅 의원
국민의힘
-
이소희 의원
국민의힘
-
이종배 의원
국민의힘
-
이종욱 의원
국민의힘
-
한지아 의원
국민의힘
진행상황
-
접수09.012026.09.01
-
위원회 심사09.022026.09.02
-
체계자구
심사 -
본회의
-
공포
관련 법령
같은 법령 · 시행령 · 시행규칙 8건 · 바뀌는 내용이 가까운 순-
위원회 심사 2220174 · 안철수 2026.07.27
인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 일부개정법률안
생성형 AI 개발사업자는 결과물을 기계판독 방식으로 표시해야 해요
-
위원회 심사 2216221 · 정춘생 2026.01.22
인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 일부개정법률안
인공지능사업자가 의료·법률·금융 결과물에 전문가 판단 대체 불가를 고지해야 해요
-
위원회 심사 2219835 · 김우영 2026.07.08
인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 일부개정법률안
AI 사업자는 예술·창의적 표현물을 작품당 한 번만 AI 생성 표시하면 돼요
-
위원회 심사 2210903 · 김기현 2025.06.17
인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 일부개정법률안
저작물 권리자가 요청하면 생성형 AI 학습에 쓰였는지 확인할 절차가 생겨요
-
위원회 심사 2218919 · 김대식 2026.05.11
인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 일부개정법률안
인공지능 생성 음향·이미지·영상에 워터마크를 넣어야 하고 훼손하면 처벌받아요
-
위원회 심사 2216804 · 이상휘 2026.02.12
인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 일부개정법률안
생성형 AI 결과물의 표시를 훼손·위조·변조하면 안 되고 위반 시 과태료를 내야 해요
-
위원회 심사 2215298 · 최민희 2025.12.16
인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 일부개정법률안
고영향 인공지능 사업자가 이용자 요구 시 결과에 대해 설명해야 해요
-
위원회 심사 2210815 · 박수현 2025.06.13
인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 일부개정법률안
창작자는 자신의 저작물이 AI 학습에 쓰였는지 확인을 요청할 수 있어요
핵심 요약
-
01
대화 중에도 AI 여부를 알려야 해요
이용자와 대화하는 방식의 인공지능 서비스를 제공하는 사업자는 대화 도중에도 상대가 인공지능이라는 사실을 명확히 알 수 있도록 고지해야 해요.
변경 사항
| 항목 | 변경 전 | 변경 후 |
|---|---|---|
| 대화 중 인공지능 고지 의무 | 이용자가 대화 도중 상대가 인공지능임을 인식하도록 하는 의무가 없어요. | 대화 중에도 이용자가 인공지능과 상호작용하고 있음을 명확히 인식할 수 있도록 고지하는 등 필요한 조치를 해야 해요. |
용어 설명
- 인공지능사업자
- 인공지능 시스템을 활용해 제품이나 서비스를 만들고 이용자에게 제공하는 사업자를 말해요.
AI 가 원문을 바탕으로 정리한 내용이라 틀릴 수 있습니다. 정확한 내용은 「원문 확인」 탭에서 확인하세요. 본 서비스가 제공하는 요약·검토 포인트는 법령 및 정책 변화에 대한 일반적인 정보 제공을 목적으로 하며, 개별 기업의 구체적 사안에 대한 법률 자문이 아닙니다. 실제 적용 여부와 대응 방안은 변호사 등 전문가와 상담하시기 바랍니다.
관련 뉴스
불러오는 중…
제안이유 및 주요내용
현행법은 인공지능사업자가 생성형 인공지능 등을 이용한 제품ㆍ서비스를 제공하는 경우 이용자에게 인공지능 기반 운용 사실을 사전에 고지하도록 하고 있으며, 대화형 서비스의 경우 이용 전 안내 등으로 이를 갈음할 수 있도록 하고 있음.
그러나 이용자가 대화 도중 상대방이 인공지능임을 인식할 수 있도록 하는 의무는 없어, 이용자가 장시간 대화하거나 정서적으로 몰입하는 경우 인공지능을 실제 사람으로 오인할 우려가 있음.
이에 이용자와 대화하는 방식으로 상호작용하는 인공지능시스템을 이용한 제품ㆍ서비스를 제공하는 인공지능사업자가 이용자로 하여금 그 대화 중에도 인공지능과 상호작용하고 있다는 사실을 명확하게 인식할 수 있도록 고지하는 등 필요한 조치를 하도록 하고, 그 조치의 방법ㆍ주기 등은 대통령령으로 정하도록 하며, 해당 의무 위반을 사실조사 및 시정명령의 대상에 포함함으로써 대화형 인공지능 이용자의 알 권리를 보호하려는 것임(안 제31조제4항 신설 및 제40조제1항).
제개정내용 · 부칙 · 신구조문 대비표
의안 원문에 실려 있습니다. 원문 파일에서 조문별 개정 내용과 부칙, 현행·개정안 대비표를 확인하세요.
적용대상 (일반)
AI 기본법은 일반적으로 인공지능사업자(개발·제공자) 및 인공지능 이용사업자 등 인공지능 관련 사업을 영위하는 자에게 적용되는 것으로 알려져 있습니다. 이번 개정안의 구체적 적용 범위는 의안 원문 확인 후 판단이 필요합니다.
주요 의무 (일반)
현행법상 고영향 인공지능 및 생성형 인공지능에 대한 고지·표시, 위험관리, 설명 가능성 확보, 국내대리인 지정 등의 의무가 규정되어 있는 것으로 알려져 있습니다. 개정안에 따른 의무 변경 여부는 원문 확인이 필요합니다.
위반 시 제재
개정안 원문이 확인되지 않아 제재 수준의 변경 여부를 특정하기 어렵습니다. 현행법상으로는 시정명령 및 과태료 규정이 있는 것으로 알려져 있습니다.
검토 포인트
내 회사에 맞는 검토가 필요하신가요?
이 항목이 우리 회사에 어떻게 적용되는지 문의하시면 변호사가 직접 답변 또는 자문 안내를 드립니다.