인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 일부개정법률안
인공지능사업자가 의료·법률·금융 결과물에 전문가 판단 대체 불가를 고지해야 해요
- 제안일
- 2026.01.22
- 의안번호
- 2216221
- 소관위원회
- 과학기술정보방송통신위원회
대표발의자
총 10명정춘생 의원
조국혁신당
발의자 전체보기 · 외 9인접기
-
전진숙 의원
더불어민주당
-
허성무 의원
더불어민주당
-
강경숙 의원
조국혁신당
-
김선민 의원
조국혁신당
-
김준형 의원
조국혁신당
-
백선희 의원
조국혁신당
-
서왕진 의원
조국혁신당
-
신장식 의원
조국혁신당
-
황운하 의원
조국혁신당
진행상황
-
접수01.222026.01.22
-
위원회 심사01.232026.01.23
-
체계자구
심사 -
본회의
-
공포
관련 법령
같은 법령 · 시행령 · 시행규칙 8건 · 바뀌는 내용이 가까운 순-
위원회 심사 2220174 · 안철수 2026.07.27
인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 일부개정법률안
생성형 AI 개발사업자는 결과물을 기계판독 방식으로 표시해야 해요
-
위원회 심사 2216804 · 이상휘 2026.02.12
인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 일부개정법률안
생성형 AI 결과물의 표시를 훼손·위조·변조하면 안 되고 위반 시 과태료를 내야 해요
-
위원회 심사 2220998 · 안상훈 2026.09.01
인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 일부개정법률안
대화형 인공지능 사업자가 대화 중에도 상대가 인공지능임을 알리도록 고지해야 해요
-
위원회 심사 2219835 · 김우영 2026.07.08
인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 일부개정법률안
AI 사업자는 예술·창의적 표현물을 작품당 한 번만 AI 생성 표시하면 돼요
-
위원회 심사 2219516 · 김현 2026.06.25
인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 일부개정법률안
인공지능 에이전트를 개발·제공하는 사업자는 권한 범위를 정하고 위험을 관리해야 해요
-
위원회 심사 2218919 · 김대식 2026.05.11
인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 일부개정법률안
인공지능 생성 음향·이미지·영상에 워터마크를 넣어야 하고 훼손하면 처벌받아요
-
위원회 심사 2215298 · 최민희 2025.12.16
인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 일부개정법률안
고영향 인공지능 사업자가 이용자 요구 시 결과에 대해 설명해야 해요
-
위원회 심사 2218933 · 조인철 2026.05.12
인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 일부개정법률안
국내에 영업소가 없는 인공지능사업자는 국내대리인을 바꾸면 장관에게 신고해야 해요
핵심 요약
-
01
전문분야 결과물에 고지·표시 의무 신설
의료, 법률, 금융 등 전문분야 결과물을 제공하는 인공지능사업자는 그 결과물이 전문가의 판단을 대체할 수 없다는 사실을 알려야 해요.
변경 사항
| 항목 | 변경 전 | 변경 후 |
|---|---|---|
| 전문분야 결과물 제공 시 고지·표시 | 원문에 현행 내용 없음 (현행법에 생성형 인공지능의 전문분야 정보 제공에 대한 규정이 없다고 설명됨) | 전문분야 결과물이 전문가의 판단을 대체할 수 없다는 사실을 고지 또는 표시해야 함(제31조제4항 신설) |
AI 가 원문을 바탕으로 정리한 내용이라 틀릴 수 있습니다. 정확한 내용은 「원문 확인」 탭에서 확인하세요. 본 서비스가 제공하는 요약·검토 포인트는 법령 및 정책 변화에 대한 일반적인 정보 제공을 목적으로 하며, 개별 기업의 구체적 사안에 대한 법률 자문이 아닙니다. 실제 적용 여부와 대응 방안은 변호사 등 전문가와 상담하시기 바랍니다.
관련 뉴스
불러오는 중…
제안이유 및 주요내용
「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」은 생성형 인공지능을 통해 전문분야의 정보를 제공하거나 청소년이 이용하는 경우에 대한 규정을 두지 않음.
최근 의료ㆍ법률ㆍ금융 등 전문분야와 관련하여 이용자가 잘못된 정보를 얻는 사례가 늘고 있음. 또한, 청소년이 자살 방법이나 선정적ㆍ폭력적인 정보에 노출되면서 이용자 보호 필요성이 높아지는 상황임.
실제로 최근 일론 머스크의 xAI ‘그록’이 생성한 아동ㆍ청소년 성착취 사진으로 인해 전세계적으로 논란이 되고 있으며, 2024년 2월과 작년 4월 미국에서는 청소년이 인공지능 챗봇과 대화를 나누다 자살한 사건이 발생한 바 있음.
이에 따라 작년 9월 미국 캘리포니아주에서는 자살이나 성적 이미지 관련 규제하는 법안을 통과시키도 했으며, 미국 연방거래위원회(FTC)는 구글, 오픈AI, 메타 등 AI 챗봇 제작기업 7곳에 대해 AI 챗봇이 아동에게 미치는 영향과 관련한 자료를 제출하라고 통보한 바 있음.
우리나라에서도 인공지능사업자는 생성형 인공지능 또는 이를 이용한 제품ㆍ서비스를 통하여 보건의료ㆍ법률ㆍ금융 등 전문분야의 결과물을 제공하려는 경우 해당 결과물이 전문가의 판단을 대체할 수 없다는 사실을 고지 또는 표시하도록 하고, 청소년을 대상으로 인공지능 서비스를 제공하는 경우에는 청소년 보호를 위한 기술적 조치를 이행하도록 함으로써 인공지능기술 이용의 투명성과 안전성을 강화하는 내용을 담고자 함(안 제31조제4항, 제32조제4항 신설 등).
제개정내용 · 부칙 · 신구조문 대비표
의안 원문에 실려 있습니다. 원문 파일에서 조문별 개정 내용과 부칙, 현행·개정안 대비표를 확인하세요.
적용대상 (일반)
법령상 인공지능사업자 중 생성형 인공지능 또는 이를 이용한 제품·서비스로 전문분야 결과물을 제공하는 사업자와, 청소년을 대상으로 인공지능 서비스를 제공하는 사업자가 주된 적용 대상으로 예상돼요. 구체적인 적용 여부는 개별 서비스 구조에 따라 달라질 수 있어요.
주요 의무 (일반)
전문분야 결과물에 대해 전문가 판단을 대체할 수 없다는 사실을 고지 또는 표시해야 하며, 청소년 대상 서비스에는 청소년 보호를 위한 기술적 조치를 이행해야 해요.
위반 시 제재
-
검토 포인트
내 회사에 맞는 검토가 필요하신가요?
이 항목이 우리 회사에 어떻게 적용되는지 문의하시면 변호사가 직접 답변 또는 자문 안내를 드립니다.