소통·알림
‘EU AI 법’ 시행, “韓도 법적·제도적 기반 조속히 마련해야.. ”
작성일2024.08.21 조회수5,707
‘EU AI 법’ 시행, “韓도 법적·제도적 기반 조속히 마련해야.. ”
- ‘안전한 AI’의 국제 규범화, 한국은 AI관련 법제 미비로 영향력 있는 역할 수행에 한계 -
- STEPI, 「과학기술정책 Brief」 Vol.31 발간 -
□ 과학기술정책연구원(이하 STEPI, 원장 직무 대행 양승우)은 지난 1일부로 발효된 유럽연합 인공지능법(EU AI Act, 이하 EU AI법) 분석을 통해 ‘안전한 AI’와 관련 국내 규제체계와 산업육성의 균형점 모색 등의 시사점을 제시한 「과학기술정책 Brief」 Vol.31를 발간함
□ ‘EU AI법’는 AI기술에 대한 인식과 접근 방향 재정립 중
○ AI 산업육성과 규제 사이의 절충을 고민한 ‘EU AI법’
- 미국과 중국 등 주요 경쟁국들에 비해 뒤처진 AI 분야를 AI 규제 법안 마련을 통해 EU 중심으로 재편하며, 특히 시민의 기본권 보호에 맞춰 AI 윤리의 발전을 보장해야 함을 강조
○ ‘EU AI법’는 AI 관련 위험으로부터 EU 핵심가치와 시민의 기본권을 보호하는데 방점
○ EU 역내 활용될 AI 시스템의 ①안전성, ②투명성, ③추적가능성, ④비차별성, ⑤환경친화성 등 보장
○ AI로 인한 위험수준에 따라 공급자(provider)와 배포자(deployer)의 의무를 설정함
- ‘EU AI법’는 주된 적용대상을 배포자로 규정하지만 예외적으로 서비스 제공을 위해 제3자의 인프라를 사용하는 경우를 포함하여 공급자도 적용대상으로 한다는 점에서 차이 존재
□ 위험기반 접근(risk-based approach)에 따른 차등적 규제
○ ‘EU AI법’는 AI를 ▲허용불가한 위험 ▲고위험 ▲투명성 위험 ▲최소 위험 등급으로 분류하여 차등 규제함
○ 범용 AI(GPAI) 모델과 시스템적 위험을 초래하는 범용 AI 모델에 대한 규칙 제공
- 모든 GPAI 모델은 최신 기술문서를 작성·유지해야 하며 AI 시스템의 다운스트림 공급자가 정보와 문서를 사용할 수 있어야 함을 제시
□ 과징금 등 제재 규정 및 예외·조정 거버넌스 마련
○ 위반에 대한 제재 및 기업규모별 과징금의 차등 부과
○ 중소기업·스타트업 등에 대해서는 완화된 규제 적용
- ‘EU AI법’은 규제 샌드박스를 도입하여 EU 기업들의 혁신과 경쟁력 강화를 유도하는 한편, 개발된 AI 제품과 서비스가 규정을 제대로 준수하는지 상용화 전 사전테스트를 해 볼 수 있는 환경도 보장
○ EU 역내 AI 조정·감독 거버넌스 수립
- EU AI 사무국(AI Office)을 신설하여 법 이행을 위한 EU 내 단일 거버넌스 체계 유지 및 AI 모델에 대한 감독·심사를 수행하도록 명시
□ 시사점
○ ‘EU AI법’ 시행에 따른 모니터링 체계 구축 시급
- ‘EU AI법’은 AI 기술의 빠른 진보와 잠재적 위험이 국가안보에 미칠 영향을 예측, 제도적으로 제한하는 수단 등을 마련하고 있음
- 한국은 고위험 AI 규제 필요성에 대해 국내 정책 방향 설정과 신흥기술의 국가안보 위협 시 국가차원의 대응을 위한 공공·민간 주체의 임무와 역할에 대한 정립이 필요함
○ AI 훈련·개발에 필수적인 사용자 데이터의 순환과 재사용 규제 관련 목표 설정 및 제도 정비 검토
- 관련 목표 설정 및 제도 정비 미비 시, 리바운드 효과로 인해 데이터 재사용이 유해한 합성 콘텐츠 생산으로 오남용 될 수 있음
○ ‘안전한 AI’ 의제로 국제 규범화 대세에 참여하기 위해 AI 규제와 혁신정책 간 균형점 모색과 새로운 국가 아젠다 설정 및 관련 법제도 정비 시급
□ 성경모 과학기술외교안보연구단장은 “EU AI법과 미(美) AI 행정명령에 이어 영국 주도의 AI 안전성 정상회담까지 ‘안전한 AI’의 국제 규범화가 대세이다”라면서 “한국은 AI관련 법제 미비로 영향력 있는 역할 수행에 한계가 있기에, 법적·제도적 기반한 대응체계 마련이 필요하다”라고 주장함
