컨텐츠 바로가기 영역
대메뉴로 바로가기
본문으로 바로가기

정책연구

HOME > 발간물 > 연구보고서 > 정책연구

정부의 장단기 정책발굴 및 정책대안 제시를 위해 발간한 연구성과물입니다.

정책연구 본문 내용
제목 인공지능 기술 전망과 혁신정책 방향(2차년도) - 안전하고 윤리적인 인공지능 R&D 및 활용을 위한 제도 개선 방안을 중심으로 -
권호 정책연구 19-13
저자 이제영, 김단비, 양희태 저자별 발간물 찾기 발간일 2019-12-30
조회수 2353 다운수 516
주제분류  
키워드 인공지능 기술, 인공지능 안전성, 인공지능 투명성, 인공지능 윤리, 인공지능 법제도 
원문다운로드 P19-13.pdf  페이지수 192
정책연구 본문 내용
  • 요약
  • 목차

 [연구목적]


○ 인공지능이 다양한 제품과 서비스로 상용화되어 인간의 삶에 획기적인 도움을 줄 수 있도록 미리 안전성 및 윤리 관련 이슈들을 검토해보고 실효성 높은 대안을 제시
○ 안전하고 윤리적인 인공지능 연구개발(R&D) 및 활용을 위해 개선되거나 신설되어야 하는 법제도에 대한 논의

 

 

[주요내용]


○ 인공지능 안전성 및 윤리 개념 정립
- 인공지능 안전성은 인공지능의 기술적 한계에 의해 발생할 수 있는 위험 해소가 목적
- 인공지능 윤리는 인공지능 R&D 및 이용 시 지켜야 할 보편적 사회규범 수립 및 관련 기술 개발이 목적
○ 글로벌 기업 및 학계/연구계, 주요국 대응 동향
- (기업) 인공지능 원칙 수립, 인공지능 윤리 교육 및 훈련과정 개설 등
- (학계/연구계) 인공지능 윤리지침, 표준규정 및 가이드라인 제시
- (해외 주요국) 안전한 인공지능 상용화를 위한 국가 차원의 전략 마련에 중점
○ 법제도적 이슈정리 및 개선방안
- 주요 인공지능 이슈를 포괄하는 7개 개별법 (i.e., 민법, 지식재산권법, 형법, 정보보호법, 공정거래법, 도로교통법, 제조물책임법)에 대한 법제도적 이슈 도출
- 법제도 개선의 시급성, 용이성, 파급성에 대한 전문가 설문 실시 후 개선방안 도출
○ 인공지능 윤리와 안전성 확보를 위한 R&D 방향
- 인공지능 안전과 윤리를 통해 위험은 관리하고 활용은 극대화할 수 있는 국가전략 수립

 

 

[정책대안]


○ 인공지능 윤리 가이드라인의 고도화
- 인공지능 기술의 급격한 발전에 민첩한 대응이 가능한 스타트업을 중심으로 인공지능 윤리 고도화를 장기적 안목에서 기획하고 추진
○ 인공지능 기초·원천기술에 대한 지속적인 투자
- 범용 인공지능으로 향하는 R&D를 통해 더 강건한(robust) 인공지능 알고리즘을 개발할 필요
- 장기적인 R&D 과제로 추진하되 선택과 집중으로 우리가 투자할 방향을 설정
○ 인공지능 안전 및 윤리교육 강화
- 인공지능 개발 과정상에 있어 고려해야 할 데이터 수집, 의사결정의 편향(bias), 개인 정보주권 확립 등 인공지능 윤리 수립에 필요한 교육 강화
○ 데이터 관련법 정비 및 데이터 보호를 위한 디지털 윤리 가이드라인 개선
- 데이터 활용도는 높이고 개인정보에 대한 안전장치는 강화하는 방향으로 데이터 관련 제도를 정비

 

목 차

 

요 약

i

 

 

1장 서 론: 연구의 목적

1

1절 연구 배경

1

1. 인공지능 시대의 개화

1

2. 인공지능의 안전성과 윤리 이슈 대두

3

2절 연구 목적 및 프레임워크

4

 

 

2장 인공지능 안전성 및 윤리의 개념

6

1절 인공지능 안전성(AI Safety)

6

1. 인공지능 안전성의 개념 및 중요성

6

2. 인공지능 안전성 침해 사례

10

2절 인공지능 윤리

12

1. 인공지능 윤리(AI Ethics)의 개념 및 중요성

12

2. 인공지능 윤리 침해 사례

16

3절 인공지능 안전성 및 윤리의 개념적 범위

19

 

 

3장 기업 및 학계/연구계 대응 동향

20

1절 글로벌 기업 대응 동향

21

1. 인공지능 윤리 전문가 채용

21

2. 인공지능 개발자가 지켜야 할 원칙 수립

24

3. 인공지능의 사회적 영향 연구 및 감시 전담부서 설치

28

4. 인공지능 감사(Algorithm Auditing) 실시

31

5. 인공지능 윤리교육 실시

32

6. 인공지능을 활용한 사회적 공익 프로젝트 운영

33

7. 협회 구성 또는 외부 시민 단체와 공동 대응

35

2절 학계/연구계 대응 동향

36

1. 인공지능 윤리지침, 표준규정 및 가이드라인 제시

36

2. 인공지능 윤리 프로젝트 운영

43

3. 인공지능 윤리교육 강화 및 방법론 연구

45

3절 시사점

47

 

 

4장 주요국 정부 대응 동향

50

1절 주요국 정부 대응 동향

50

1. 미국

50

2. EU

64

3. 일본

72

4. 중국

78

5. OECD AI 권고안

85

6. 시사점

89

2절 국내 기업·정부·학계 대응 동향

90

1. 기업 대응 동향

90

2. 학계 대응 동향

100

3. 정부 대응 동향

108

3절 기업 및 학계/연구계, 주요국 정부 대응 동향 종합

122

 

 

5장 정책제언

124

1절 법제도 개선 방안

124

1. 법제도적 이슈 정리

124

2. 법제도 개선 우선순위 도출

135

3. 법제도 개선 방안

139

2절 결론 및 시사점

161

1. 인공지능 안전·윤리 R&D의 방향

161

2. 인공지능 윤리 확보를 위한 R&D 방향

164

3. 인공지능 안전성 확보를 위한 R&D 방향

167

4. 데이터 이슈를 고려한 인공지능 정책방향

168

 

 

참고문헌

171

 

 

부 록

185

 

 

Summary

189

 

 

Contents

191

 

 

페이스북 트위터

◎ 담당 : 연구관리팀 최미(044-287-2035) ◎ 구독신청 : 연구관리팀 이상훈 ( lsh4595@stepi.re.kr)

RSS

URL : http://www.stepi.re.kr/app/report/rss.jsp?cmsCd=CM0012