과기정통부, 「신뢰할 수 있는 인공지능 실현전략」발표
- “누구나 신뢰할 수 있는 인공지능, 모두가 누릴 수 있는
인공지능 구현”을 위한 3대 전략 10대 실천과제 제시 -
- 2025년까지 지속·단계적으로 추진할 계획 -
▶ 신뢰구현 법제도·윤리·기술적 요구사항을 종합한 인공지능 ‘개발 가이드북’ 제작·보급
▶ 인공지능 제품·서비스에 대한 민간 자율의 인증제 도입·지원
▶ 인공지능 일괄(One-Stop) 지원 플랫폼 운영 : 데이터 - 컴퓨팅 파워 – 신뢰성 검증 지원
▶ 설명가능성·공정성·견고성 등 향상을 위한 신뢰성 원천기술 개발 추진
▶ 학습용 데이터의 신뢰성 확보를 위한 표준 기준 제시 및 데이터 개방
▶ 고위험 인공지능에 대한 국민 안전·신뢰성 향상 방안 연구
▶ 인공지능 윤리기준 실천을 위한 윤리 교육 강화 및 개발자·이용자용 체크리스트 보급
▶ 윤리·신뢰성 향상을 위한 공론의 장인 ’윤리 정책 플랫폼‘ 운영
□ 과학기술정보통신부(장관 최기영, 이하 과기정통부)는 5월 13일 대통령 직속 4차산업혁명위원회 제22차 전체회의에서 ’사람이 중심이 되는 인공지능을 위한 ｢신뢰할 수 있는 인공지능 실현전략｣‘을 발표했다.
1. 수립배경 |
□ 4차 산업혁명을 견인하는 범용기술인 인공지능이 전 산업･사회에 빠르게 도입･확산되며 혁신을 창출하고 있으나, 확산에 따른 예상하지 못한 사회적 이슈*와 우려도 함께 대두되고 있다.
* 인공지능 챗봇 ‘이루다’(’21.1.), 오바마 전대통령 딥페이크(’18.7.), MIT개발 사이코패스 인공지능(’18.6.) 등
□ 이에, 주요국은 인공지능에 대한 사회적 신뢰(Trust) 확보를 인공지능의 사회적·산업적 수용의 전제요소로 인식하고, 인공지능의 신뢰성을 강조하며 그 실현을 위한 적극적인 정책을 추진하고 있다.
ㅇ 특히, 유럽(EU)은 사람에게 부정적 영향을 미칠 수 있는 고위험 인공지능을 중심으로 한 제도 정립을 선도 중이며, 미국은 기술개발과 민간 자율규제를 중심으로 인공지능에 대한 신뢰성 확보를 추진 중에 있다.
< 글로벌 주요국의 인공지능 신뢰 확보를 위한 정책 추진 현황 >
유럽 (EU) | ▸｢인공지능 법안｣으로 고위험 인공지능 중심 규제(공급자 의무 부과 등) 제안(’21.4.)
▸‘자동화된 의사결정’에 대한 사업자의 활용 고지 의무 및 이용자의 이용거부, 설명요구 및 이의제기 권리를 제도화(｢유럽개인정보보호법｣, ’18.~)
▸민간 신뢰성 자율점검 체크리스트 보급(’20), 신뢰가능한 인공지능 3대요소 제시(’19) |
미국 | ▸국가 인공지능 연구개발 전략으로 ‘기술적으로 안전한 인공지능 개발’ 채택(’19)
▸주요 기업(IBM, MS, 구글 등)을 중심으로 인공지능 개발원칙 마련, 공정성 점검도구 개발･공유 등 윤리적 인공지능 실현을 위한 자율규제 전개
▸과잉규제 지양과 위험기반 사후규제 기조하에 연방정부 차원에서 인공지능 신뢰확보 10대 원칙(투명성, 공정성 등)을 담은 규제 가이드라인 발표(’20) |
프랑스 | ▸기업･시민 등 3천명이 참여한 숙의적인 공개 토론을 통해 ‘인간을 위한 인공지능’ 구현에 필요한 권고사항 도출(’18) |
영국 | ▸5대 윤리규범(’18.4.), 공공부문 안전한 인공지능 활용을 위한 지침(’19.6.), 설명 가능한 인공지능 가이드라인(’20.5.) 등 수립 |
일본 | ▸인공지능과 관련된 모든 이해관계자들이 유의해야 할 7대 기본 원칙을 담은 ｢인간 중심의 인공지능 사회 원칙｣(’18.3.) 발표 |
□ 이러한 흐름 속에서, 사람이 중심이 되는 ‘인공지능 강국’으로 도약하기 위해 신뢰할 수 있는 인공지능 실현을 위한 지원 정책이 조속히 필요하다는 판단에 따라 이번 전략을 마련하였다.
ㅇ 동 전략은 지난해 발표한 ｢인공지능 윤리기준*｣(’20.12.)의 실천방안을 구체화하고, 민간 자율적으로 신뢰성을 확보할 수 있도록 지원체계를 구축하며 재정·기술력이 부족한 스타트업 등에 대한 지원책을 담은 것이 특징이다.
* ‘인간성을 위한 인공지능’(AI for Humanity)을 위해 모든 사회구성원이 지켜야 할 3대 원칙(인간 존엄성, 사회 공공선, 기술의 합목적성)과 10대 요건(책임성, 안전성, 투명성 등)을 제시
2. 비전 및 추진전략 |
□ 이번 전략은 “누구나 신뢰할 수 있는 인공지능, 모두가 누릴 수 있는 인공지능 구현”을 비전으로 하여, 기술･제도･윤리 측면의 3대 전략과 10대 실행과제를 통해 ‘25년까지 단계적으로 추진되며,
ㅇ 민간의 인공지능 서비스 구현을 체계적으로 지원하고, 이용자가 믿고 안전하게 사용할 수 있도록 제도를 보완하며, 사회 전반에 건전한 인공지능 윤리를 확산하는 것이 중점 방향이다.
< 신뢰 할 수 있는 인공지능 실현전략의 비전･목표･추진전략 >
3. 주요내용 |
1. 신뢰 가능한 인공지능 구현 환경 조성
[1] 인공지능 제품·서비스 구현단계별 신뢰 확보 체계를 마련한다.
ㅇ 민간에서 인공지능 제품･서비스를 구현하는 단계(개발 → 검증 → 인증)에 따라, 기업, 개발자, 제3자 등이 신뢰성 구현을 위해 참조할 수 있는 신뢰 확보 기준과 방법론을 제시하고 지원한다.
< 인공지능 제품･서비스 구현단계별 지원 흐름도>
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 개발 단계 |
|
|
| 검증 단계 |
|
|
| 인증 단계 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 수요발생 |
|
| 제품･서비스 기획 |
|
|
| 기술･윤리적 검증(➋검증체계) |
|
|
| ➌신뢰성 인증(요건 확인) |
|
| 출시 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 설계/개발(➊가이드북) |
|
|
| 검증 완료 |
|
|
| 인증 완료 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
- ‘개발’단계에서는 국내･외 신뢰성 관련 법･제도･윤리･기술적 요구사항을 한 번에 확인할 수 있는 ‘개발 가이드북’을 제작･보급한다.
- ‘검증’단계에서는 개발 가이드북을 준수한 신뢰성 확보 여부와 그 수준을 확인하고 평가할 수 있는 검증절차･항목･방법 등의 ’검증체계’를 마련하고 제시한다.
- ‘인증’단계에서는 기술·윤리적 요구사항을 충족하여 검증체계를 통과한 제품·서비스에 대해 민간 자율 인증과 공시를 추진한다.
[2] 민간의 인공지능 신뢰성 확보를 지원한다.
ㅇ 기술･재정적 상황이 열악한 스타트업 등도 체계적으로 신뢰성을 확보해 나갈 수 있도록 인공지능 구현을 위한 ‘데이터 확보→ 알고리즘 학습→ 검증’을 통합 지원하는 플랫폼을 운영한다.
- 학습용 데이터와 컴퓨팅 자원을 지원 중인 인공지능 허브(AI Hub) 플랫폼에서 검증체계에 따른 신뢰 속성별 수준 분석, 실(實)환경 테스트 등의 기능을 추가 개발·연계하여 일괄적으로 지원한다.
< ‘데이터 확보 → 알고리즘 학습(컴퓨팅) → 검증’ One-Stop 지원 플랫폼 구성안 >
|
[3] 인공지능 신뢰성 원천기술을 개발한다.
ㅇ 이미 구현된 시스템에 인공지능이 판단기준 등을 설명할 수 있는 기능을 추가할 수 있고, 인공지능이 스스로 법･제도･윤리적 편향성을 진단하고 효율적으로 제거할 수 있도록,
- 인공지능의 설명가능성, 공정성, 견고성 제고를 위한 원천기술 개발을 추진한다.
< ‘설명’, ‘공정’, ‘견고’ 분야 원천기술 개발과제(안) >
구분 | ‘설명가능’ 분야 기술개발(안) | ‘공정’ 분야 기술개발(안) | ‘견고’ 분야 기술개발(안) |
기간/ 예산 | ‘22~‘26년(총 5년) / 총 450억원* | ‘22~‘26년(총 5년) / 총 200억원* | ‘22~‘26년(총 5년) / 기획 추진 중 |
주요 내용 | 설명가능성에 대한 고려 없이 개발된 모델에 전문가 보고서 생성 수준의 설명가능성 제공 | 규정 등으로부터 스스로 편향 요인을 식별, 편향 가능성 진단하고 최적의 제거 방안을 판단･적용 | 복합 정보를 이용한 인공지능 공격에 대한 선제적 대응 기술 개발 |
* 예타 통과 금액 기준 | |||
2. 안전한 인공지능 활용을 위한 기반 마련
[1] 인공지능 학습용 데이터의 신뢰성을 제고한다.
ㅇ 민･관이 인공지능 학습용 데이터 제작공정에서 공통적으로 준수해야할 신뢰 확보 검증지표 등의 표준 기준*을 민간과 함께 마련하여 통일성 있게 구축 될 수 있도록 확산한다.
* 학습용 데이터 활용 목적에 따라 신뢰 확보 요구사항을 세분화･구체화하고 검증지표, 측정방법 등 제시.
ㅇ 한편, 디지털 뉴딜로 추진되는 ‘데이터 댐’ 사업에서는 구축 전 과정에서 저작권, 개인정보보호와 같은 법·제도 준수 여부 등의 신뢰성 확보 고려사항을 선제적으로 적용하여 품질을 향상할 계획이다.
[2] 고위험 인공지능에 대한 신뢰 확보를 추진한다.
ㅇ 국민의 안전이나 기본권에 잠재적 위험을 미칠 수 있는 고위험 인공지능의 범주를 설정하고, 서비스 제공 전에 해당 인공지능의 활용 여부를 이용자에게 ‘고지’하도록 할 계획이다.
ㅇ 고지 이후, 해당 인공지능 기반 서비스에 대한 ‘이용 거부’, 인공지능의 판단 근거에 대한 ‘결과 설명’ 및 이에 대한 ‘이의제기’ 등의 제도화에 대해서는
- 글로벌 입법･제도화 동향, 산업적 파급력, 사회적 합의･수용성, 기술적 실현 가능성 등을 고려하여 종합적으로 중장기 검토할 계획이다.
[3] 인공지능 영향평가를 실시한다.
ㅇ 인공지능이 국민생활 전반에 미치는 영향을 종합･체계적으로 분석하고 대응하기 위해 ｢지능정보화기본법｣ 제56조*에 규정된 사회적 영향평가를 도입할 계획이다
* 국가 및 지방자치단체는 국민의 생활에 파급력이 큰 지능정보서비스 등의 활용과 확산이 사회ㆍ경제ㆍ문화 및 국민의 일상생활 등에 미치는 영향에 대하여 다음 각 호의 사항을 조사ㆍ평가할 수 있다
- 신뢰성 요소(안전성, 투명성 등)를 토대로 인공지능의 영향력을 종합 분석하여 향후 인공지능 관련 정책이나 기술･관리적 조치방안 수립 시 활용할 계획이다.
[4] 인공지능 신뢰 강화를 위한 제도를 개선한다.
ㅇ 지난해 ｢인공지능 법･제도･규제 정비 로드맵｣(’20.12.)을 통해 발굴된 과제 중 인공지능에 대한 신뢰 확보, 이용자의 생명·신체보호 등과 관련된 과제인
- ①업계 자율적 알고리즘 관리･감독환경 조성, ②플랫폼 알고리즘 공정성･투명성 확보, ③영업비밀 보장을 위한 알고리즘 공개기준 마련, ④고위험 기술기준 마련 등 관련 제도를 개선할 계획이다.
3. 사회 전반 건전한 인공지능 의식 확산
[1] 인공지능 윤리 교육을 강화한다.
ㅇ 인공지능이 사회에 미치는 영향, 인간-인공지능 간 상호작용 등 사회·인문학적 관점과 윤리 기준의 사회 실천을 인식할 수 있는 내용을 담은 인공지능 윤리교육 총론을 마련하고, 이를 토대로 연구·개발자, 일반시민 등 맞춤형 윤리 교육을 개발·실시한다.
[2] 주체별 체크리스트를 마련･배포한다.
ㅇ 인공지능 윤리기준에 대한 구체적인 행위지침으로, 연구･개발자, 이용자 등이 업무, 일상생활 등의 속에서 윤리 준수 여부를 자율점검을 할 수 있는 체크리스트 개발하여 보급한다.
- 기술발전의 양상을 반영하고 인공지능 윤리기준을 기본원칙으로 하여 타 분야의 자율점검표(예: 개인정보위 개인정보보호 자율점검표)와도 체계성과 정합성을 유지하여 현장의 실천 가능성을 제고한다.
< 예시 : 체크리스트 문항 예시 >
체크리스트 문항 | 윤리기준 요건 |
▪인공지능이 개인정보를 활용 또는 처리하여 훈련하거나 개발되었는가? | 사생활 보호, 데이터관리 |
▪인공지능 개발 단계에서 사회에 존재하는 선호의 다양성, 이용자 간 수용 능력 차이를 고려하였는가? | 다양성 존중, 공공성 |
▪훈련데이터 출처 기록 등 감사를 위해 인공지능 개발과정을 추적 | 책임성, 투명성 |
▪인공지능 시스템 결과를 사용자에게 설명할 수 있는가? | 투명성 |
[3] 윤리 정책 플랫폼을 운영한다.
ㅇ 학계·기업·시민단체·공공 등 다양한 사회 구성원이 참여하여 인공지능 윤리에 대해 깊이 있게 토의하고 의견 수렴 및 발전방향을 논의하는 공론의 장을 마련･운영한다.
4. 정책 메시지 |
□ 금번 전략 수립과 관련하여 과기정통부 최기영 장관은 최근 발생했던 챗봇 사건은 우리 사회가 인공지능의 신뢰성에 대해 어떻게 대처해야 하는지 많은 숙제를 안기는 계기가 되었다’고 생각한다며,
ㅇ ‘과기정통부는 기업·연구자 등이 인공지능 제품·서비스 개발 과정에서 혼란을 겪거나 이로 인해 국민이 피해 보지 않도록 인공지능 신뢰 확보 기준을 명확화하고,
ㅇ 기술적·재정적으로 부족한 중소기업 등이 신뢰성 기준을 준수하는 데 어려움이 없도록 지원 방안을 마련하는 등 사람이 중심이 되는 인공지능 강국 실현을 위해 동 전략을 차질 없이 추진해나갈 계획이다’고 밝혔다.
