- 키워드: AI, 인공지능, 사이버보안, 거버넌스, 알고리즘, 인공지능 시스템 관리ㆍ감독
1. 인공지능에 관한 국내 법령 현황
우리나라에서는 인공지능의 기본 체계를 구성하는 법령이 아직 제정되지 않았습니다. 인공지능에 관한 거버넌스, 보안, 정보보호 법제의 근간을 마련하려는 다수 법률안이 발의되었으나 지난 21대 국회에서는 통과되지 못했습니다. 인공지능 관련 기본법의 제정은 22대 국회의 과제로 남아 있습니다. 해외 입법례를 참고할 필요가 있습니다.
2. 세계 각국의 인공지능에 관한 법제 동향
세계 각국은 최근 인공지능에 관하여 아래와 같은 법령 내지 지침을 제정하였습니다.
| 국가 |
법령, 계획 또는
지침 |
내용 |
| 미국 |
2023. 10. 30.
행정명령
|
8개 분야에 대한 규제 및 지침
- 인공지능을 위한 새로운 안전 및 보안 기준 마련: 안보나 경제, 공중보건에 관한 인공지능 개발 시 정부 검증전문가팀의 안정성 평가를 받고 이를 정부에 보고하여야 함
- 개인정보 보호
- 형평과 시민권 증진
- 소비자 보호
- 노동자 지원
- 혁신과 경쟁 촉진: 인공지능에 관한 특허 법령 개정
- 국제 파트너와의 협력: 미국의 인공지능에 관한 기준을 국제적으로 사용하도록 장려
- 연방정부의 AI 조달을 위한 지침 개발
|
|
국가 인공지능
구상법 2020
|
- 백악관 과학기술처 산하 국가인공지능구상실 신설
- 국가인공지능자문위원회 조직을 통한 정책 제안
|
|
의회 계류 중인
법률안
|
국가인공지능위원회법(안)
- 미국의 AI 산업 분야에서의 혁신에 있어 선두 주자의 지위를 공고히 하기 위하여 연방정부의 AI 관련 정책 검토
- 인공지능 시스템을 관리ㆍ감독할 수 있는 정부 기관 신설 제안
알고리즘책임법(안)
- 알고리즘 및 증강의사결정시스템에 관하여 평가하고 관리할 수 있는 기준을 제시하여 안전한 인공지능 시스템의 사용 장려 목적
|
유럽
연합 |
AI법 (Artificial Intelligence Act)
|
제정 목적
- 고위험 AI로부터 인간의 기본권과 민주주의, 법치, 환경적 지속가능성을 보호하는 동시에 혁신을 촉진하고 유럽이 AI 분야의 선구자로 자리매김하기 위함
- 민감한 특성을 기반으로 한 생체 인식 분류 시스템, 얼굴 인식 데이터베이스를 생성하기 위한 인터넷 또는 CCTV 영상에서의 얼굴 이미지 무작위 수집 등 시민의 권리를 위협하는 AI 애플리케이션 사용 금지
- 직장과 학교에서 감정 분석 또는 사회적 점수 평가에 사용하거나 오로지 개인의 특성 평가에 기반한 예측적 치안 유지 활동에 활용하는 것 금지
- 인간 행동을 조작하거나 인간의 취약성을 이용하는 AI 금지
- 실시간 원격 생체 인식 시스템을 법 집행기관이 공개된 공간에서 사용하는 것은 원칙적으로 금지
(예외에 대한 예시) 실종자를 수색하거나 테러 범죄를 예방하기 위한 목적으로 사용하는 경우 시간적ㆍ지리적 범위를 제한하여야 하며 사전에 사법적 또는 행정적 승인을 받아 사용 가능
- 건강ㆍ안전ㆍ기본권ㆍ환경ㆍ민주주의ㆍ법치에 대하여 잠재적으로 높은 위험을 내포하는 고위험 AI 시스템에 대한 의무 규정
벌칙규정
- AI 사용 금지 규정을 위반하는 경우 위반자에게 최대 3,500만 유로(약 512억 원) 또는 해당 기업의 직전 회계연도 총 매출액 7% 중 더 큰 금액이 벌금으로 부과
- AI 시스템이 제조업자, 수입업자와 같은 경제 행위자나 인증기관과 관련한 규정을 위반하는 경우 위반자에게 최대 1,500만 유로(약 219억 원) 또는 해당 기업의 직전 회계연도 총 매출액 3% 중 더 큰 금액이 벌금으로 부과
|
| 프랑스 |
인공지능 개발
국가전략
|
- 2018 ~ 2022: 연구능력 강화 기간
- 인공지능과 관련한 다양한 분야 간의 연구망 신설 및 그 개발의 촉진
- 인공지능 분야의 우수한 교수진 지원
- 박사 프로그램 지원
- 2021 ~ 2025: 연구개발 분야의 결과 도출 기간
- 5년간 20억 유로의 예산 투입
|
|
인공지능위원회
|
- 2023. 9. 19. 출범
- 프랑스의 문화, 경제, 기술 및 연구 분야의 주체들이 정부와 협업하여 인공지능 분야의 기술혁신을 이룩하고 주도적인 지위를 갖추도록 하는 것을 목적으로 출범하여, 아래 사항들을 포함하는 25가지 권고 사항을 대통령실에 전달
- AI 기술의 공유(일명 “AI카페” 활용)
- 교육 및 연구개발
- AI의 대중 전파
- 경제부문에서의 AI 전파
- 프랑스, 유럽 및 전세계적 거버넌스 구축
|
| UAE |
UAE 국가
AI 전략 2031
|
- 인공지능디지털경제부 신설
- AI전문대학원 설립
- 교통, 교육, 보건, 의료, 에너지, 자원, 사이버보안 등 각 분야에서 인공지능 기술 활용을 장려
|
|
2022 AI 윤리
가이드라인
|
- AI 시스템의 설계, 개발 및 적용 단계에 걸쳐 고려하여야 하는 윤리 원칙 및 기준 제시
|
|
딥페이크지침
|
- 인공지능디지털경제부의 지침
- 딥페이크 기술의 문제점 정의 및 감지, 보호에 대한 방안 규정
- 딥페이크 기술이 이용된 범죄 신고 방안 등 후속 대책 제시
|
| 인도 |
국가 전략 - “모두를 위한 AI”(2018)
|
- 경제성장, 사회개발, 농업, 보건 및 교육 분야의 성장을 위하여 AI 활용 전략에 대한 방향 제시
- 학생들에게 AI에 관한 교육을 제공하여 AI에 익숙해질 수 있는 기회 제공
|
|
디지털인도법(안)
|
- AI, 양자컴퓨터, 딥페이크 등 신기술 관련 규제를 위한 법안
- 현행 정보기술법(Intelligence Technology Act)를 대체하기 위하여 발의
- 국민들에게 인터넷과 신기술에 대한 접근성을 보장하면서도 안전한 사용을 할 수 있도록 사용자의 권리에 대한 명문화 및 권리 침해에 대한 구제 방안 제시
|
| 인도네시아 |
AI 윤리지침
|
- 공공 및 민간영역 전자시스템운영자를 대상으로 하는 지침
- 인본주의, 포용성, 신뢰성, 책임성을 포함하는 AI의 윤리원칙 제시
- 윤리원칙의 실천 및 AI 사용에 따른 책임 규정
- AI 개발 위험 및 위기 관리 방안 제시
|
|
AI 윤리강령(안)
|
- 금융감독청 및 핀테크협회 주도하에 작성되고 있는 금융기술 부문의 윤리강령
- 금융산업에서 AI 사용에 따른 위험 인식
- 인식된 위험에 대한 대응 방안 및 위험 발생의 예방을 위한 기준 제시 목적
|
| 말레이시아 |
2024 사이버보안법
|
- 사이버보안 관리를 위한 조치, 표준 및 절차 제정
- 국가 사이버보안 환경 개선 목적
|
|
2021-2025
AI 로드맵
|
- AI 사용과 발전 측면에서 편견의 개입 배제
- 신뢰를 바탕으로 보안 및 통제 보장
- 개인정보보호 및 안정성을 통한 정보 보호
- 포괄성으로 다양한 사회 계층의 능력 함양 도구화
- AI 구성 알고리즘의 투명성 보장
- AI 시스템 설계자가 시스템 작동 원리 및 적용에 대한 책임을 부담
- 국민권익 및 행복추구를 달성하는 수단
|
3. 해외 동향의 의의
1) 인공지능에 관하여 국가별로 지침 또는 계획을 수립하고 있으며 발 빠른 나라에서는 법령 제정으로 나아가 거버넌스 구축, 기술 관리, 안전한 사용 등 사용자 보호를 위한 안전망을 포함해 인공지능에 대한 전반적인 기틀을 마련하고 있음
2) 미국이나 EU와 같이 인공지능에 대한 투자가 활발하여 기술적으로 앞서 있는 지역에서는 2020년경 인공지능에 관한 법령을 제정한 뒤 행정명령 등을 통한 구체화 작업을 진행 중이거나(미국), 포괄적인 기준을 제시하는 법령을 제정하되 각 국가별로 개발이나 규제에 대한 자율성을 보장해 인공지능 분야에서 선두 주자가 되기 위한 발판을 마련하고 있음(EU)
3) 22대 국회에서 인공지능 관련 법령을 제정하게 되면, 미국이나 EU와 같이 이미 포괄적인 인공지능 기본법을 제정한 선행 국가들의 법령 및 행정명령, 지침들을 검토하여 인공지능기본법을 제정할 필요가 있음
4) 특히, 인공지능의 기술 개발 및 학습 속도에 맞추어 쟁점별 이슈에 대한 대응 방안을 마련하고 인공지능을 이용한 범죄(가령 딥페이크 기술을 이용한 범죄 등)에 대한 규제 및 처벌 기준도 제시할 필요가 있음. 기업 및 민간 영역에서도 해외 국가들의 대응 방안들을 지속적으로 확인하여 우리나라 법령의 제정 방향을 전망하며 선제적으로 대응할 필요가 있음
5) 뿐만 아니라, 우리나라의 경우 미국, EU 또는 중국과 같이 기술력과 자본력으로 인공지능 산업 전반에서 주도권을 확보하기 위한 노력을 할 것인지, 특정 분야(금융산업, 정보통신산업 등)에 초점을 맞추어 특화된 기술력을 갖추는 전략을 수립할 것인지에 대한 논의가 선행되어야 할 것으로 보임. 인공지능 산업의 발전과 사용자 보호라는 기본적인 내용을 인공지능 기본법안에 담는 것을 넘어 인공지능 산업에서 우리나라가 지향하는 기조를 수립해 거시적ㆍ미시적 방향성을 제시할 수 있어야 함
