인공지능책임법안
인공지능사업자가 고위험인공지능을 쓸 때 이용자에게 설명하고 이의를 받아야 해요
- 제안일
- 2024.08.27
- 의안번호
- 2203235
- 소관위원회
- 과학기술정보방송통신위원회
대표발의자
총 10명황희 의원
더불어민주당
발의자 전체보기 · 외 9인접기
-
문진석 의원
더불어민주당
-
박정 의원
더불어민주당
-
어기구 의원
더불어민주당
-
이기헌 의원
더불어민주당
-
이병진 의원
더불어민주당
-
이용선 의원
더불어민주당
-
이학영 의원
더불어민주당
-
한민수 의원
더불어민주당
-
황정아 의원
더불어민주당
진행상황
-
접수08.272024.08.27
-
위원회 심사08.282024.08.28
-
체계자구
심사 -
본회의
-
공포
대안반영폐기 — 이 법안은 위 단계 밖에서 처리가 끝났습니다.
핵심 요약
-
01
안전하고 신뢰할 수 있는 인공지능 기반 마련
이 법은 인공지능 기술의 개발과 이용에 관한 기본원칙을 정하고, 관련 산업을 키울 사회적 기반을 만드는 것을 목적으로 해요.
용어 설명
- 인공지능
- 사람의 판단이나 학습 같은 지능적인 작업을 컴퓨터가 흉내 내도록 만든 기술이에요. 이 법에서는 정의 조항에서 자세히 정해요.
AI 가 원문을 바탕으로 정리한 내용이라 틀릴 수 있습니다. 정확한 내용은 「원문 확인」 탭에서 확인하세요. 본 서비스가 제공하는 요약·검토 포인트는 법령 및 정책 변화에 대한 일반적인 정보 제공을 목적으로 하며, 개별 기업의 구체적 사안에 대한 법률 자문이 아닙니다. 실제 적용 여부와 대응 방안은 변호사 등 전문가와 상담하시기 바랍니다.
관련 뉴스
불러오는 중…
제안이유
인공지능은 오늘날 교통, 의료, 서비스 등 다양한 분야에 활용되면서 우리의 일상을 광범위하게 바꾸고 있으며 국가생존을 위한 최상위 정책과제로 부상하고 있음. EU, 미국, 중국 등 주요국에서는 인공지능을 통한 국가경쟁력 유지와 인공지능 산업의 주도권을 확보하기 위하여 과감한 투자와 법률적 기반 구축 등을 경쟁적으로 추진하고 있음.
인공지능 기술은 예상보다 짧은 시간에 거의 모든 산업에 적용되어 부가가치를 창출하고 있으며 세계인의 일상 깊숙이 침투하여 디지털 대전환의 시대를 이끌어 나가고 있음. 특히 2022년?12월 미국의 인공지능연구소에서 개발한 ‘챗GPT(Generative Pre-trained Transformer)’는 사용자가 대화창에 질문을 채팅하듯 텍스트로 입력하면 그에 맞춰 곧바로 답을 제공해주는 인공지능 서비스로, 공개된 지 5일 만에 이용자 100만명 돌파 기록을 세웠으며, 난이도 높은 학술논문, 에세이, 시, 보고서 등을 단숨에 써내고, 소프트웨어 프로그램 코딩까지 수행해내고 있음.
그러나 인공지능의 본질은 결정과 행위를 사전에 설계한 알고리즘에 따라 자동화하는 기술이므로 필연적으로 그 결정과 수행 과정에서 인간의 개입을 배제하게 됨. 이로 인해 인공지능의 편리함과 기술적 수준의 경이로움 너머로 개인정보의 침해, 알고리즘 왜곡으로 인한 차별 논란 등 이용자 피해 발생, 보안 문제 증대, 시스템 신뢰도 저하, 인공지능 윤리 문제 등 인공지능의 역기능적 측면에 대한 사회적 우려도 높아지고 있음. 기술은 궁극적으로 인류를 위한 것이어야 한다는 점에서 인공지능의 양면성에 대해 충분한 사회적 논의가 필요한 시점이며 데이터의 사용과 알고리즘 설계에 있어 선제적 윤리 대응이 필수적인 상황임.
이에 제정안은 인공지능 관련 법적ㆍ윤리적ㆍ제도적 관점에서의 사회적 논의를 포괄적으로 수렴하여 인공지능의 개발 및 이용에 관한 기본원칙을 정하고, 국가, 사업자의 책무와 이용자의 권리를 규정하며, 고위험인공지능으로부터 이용자를 보호하기 위한 시책과 분쟁 발생 시 조정절차 등을 규정함으로써 안전하고 신뢰할 수 있는 인공지능 기술ㆍ정책의 제도적 기반을 조성하려는 것임.
주요내용
가. 이 법은 안전하고 신뢰할 수 있는 인공지능 기술의 개발 및 이용, 관련 산업의 육성을 위한 사회적 기반을 마련하는데 필요한 사항을 정함으로써 경제 발전과 국민의 삶의 질 향상에 이바지함을 목적으로 함(안 제1조).
나. “인공지능”, “고위험인공지능”, “인공지능사업자” 등에 대하여 정의함(안 제2조).
다. 인공지능의 개발 및 이용의 기본원칙이 인류의 발전과 편의 도모를 위함임을 명시하고, 인공지능사업자로 하여금 사업자책임위원회를 운영하도록 함(안 제3조 및 제5조).
라. 인공지능 기술의 개발, 기술기준의 마련, 표준화 및 실용화ㆍ사업화 등 인공지능 산업의 진흥을 위한 정부의 역할을 규정하고, 인공지능에 대한 규제 원칙을 정함(안 제7조부터 제17조까지).
마. 고위험인공지능으로부터 이용자 보호를 위한 정부의 역할, 사업자 책무 그리고 이용자의 설명요구권, 이의제기권 및 책임의 일반원칙 등을 규정함(안 제18조부터 제22조까지).
바. 인공지능에 관한 분쟁 조정을 위하여 인공지능분쟁조정위원회를 설치하고 관련 절차를 마련함(안 제23조부터 제32조까지).
제개정내용 · 부칙 · 신구조문 대비표
의안 원문에 실려 있습니다. 원문 파일에서 조문별 개정 내용과 부칙, 현행·개정안 대비표를 확인하세요.
적용대상 (일반)
인공지능을 개발·이용하는 사업자 및 국가기관, 인공지능 서비스의 이용자 등 광범위한 주체를 대상으로 합니다.
주요 의무 (일반)
인공지능사업자는 사업자책임위원회를 운영하고, 고위험 AI의 경우 이용자에게 설명 정보를 제공하며, 사업자 책임 원칙을 준수해야 합니다.
위반 시 제재
-
검토 포인트
내 회사에 맞는 검토가 필요하신가요?
이 항목이 우리 회사에 어떻게 적용되는지 문의하시면 변호사가 직접 답변 또는 자문 안내를 드립니다.