안전하고 신뢰할 수 있는 인공지능 확산을 위한 국내 최초 인공지능 신뢰성 단체표준 제정 |
▸ ‘신뢰할 수 있는 인공지능 개발안내서’ 내용을 중심으로 인공지능 시스템의 신뢰성 확보를 위한 기술 요구사항 및 적용절차 표준화 |
과학기술정보통신부(장관 이종호, 이하 ‘과기정통부’)와 한국정보통신기술협회(회장 손승현, 이하 ‘TTA’)는 12월 6일(수) TTA 제104차 정보통신표준총회를 통해 ‘인공지능(이하 ‘AI’) 시스템 신뢰성 제고를 위한 요구사항*’ 정보통신단체표준(이하 ‘단체표준’)을 제정했다고 밝혔다.
* (영문명) Requirements to enhancing trustworthiness for AI systems
※ (표준전문 링크) https://aitrustops.or.kr/common/bbs/tcntr/selectBbs.do?bbs_seq=7661&sch_text=¤tPage=1
과기정통부와 TTA는 2021년부터 국내 산업계 전반에 AI 윤리·신뢰성에 대한 인식을 확산하고, 기업들이 AI 신뢰성을 확보해 나갈 수 있도록 분야별 ‘신뢰할 수 있는 AI 개발안내서’를 개발·보급하고, ‘AI 신뢰성 컨설팅’ 서비스를 제공하는 등 정책적 노력을 지속하고 있다.
이번에 제정된 단체표준은 과기정통부의 ‘국가 AI 윤리기준’(’20.12.), 분야별 ‘신뢰할 수 있는 AI 개발안내서’(’22년 3종, ’23년 3종)를 기반으로 신뢰성 적용범위, 특성1), 시스템 생명주기2) 및 이해관계자3) 등 AI 시스템 신뢰성 구성요소와 요구사항4)을 제시하였다.
1) (세부특성) 견고성, 보안성, 설명가능성, 신뢰성, 안전성, 예측가능성, 제어가능성, 책임성, 투명성, 공정성, 프라이버시, 회복탄력성
2) (생명주기) 초기, 설계‧개발, 검증‧확인, 배치, 운영‧모니터링, 지속적 확인, 재평가, 폐기
3) (이해관계자) AI 제공자, AI 생산자, AI 고객, AI 파트너, AI 영향대상, 관계기관
4) (요구사항) AI 시스템 위험관리 계획 및 수행, 수집‧가공된 학습데이터의 편향 제거, AI 모델의 편향 제거, AI 시스템의 안전모드 구현 및 문제발생 알림절차 수립 등 15가지
이번 단체표준 제정으로 그동안 모호한 개념으로 인식되었던 AI 신뢰성 확보를 위한 기준을 정립하고, 국내 AI 산업의 신뢰성 저변 확대를 위한 발판이 마련될 것으로 기대된다. 또한, AI 신뢰성 관련 국제표준인 ISO/IEC TR 24028(신뢰성 개요), ISO/IEC 23894(위험관리), ISO/IEC 22989(용어)의 신뢰성 개념과 용어, 요구사항과의 내용 일관성을 유지함으로써 국제 호환성을 확보하였다.
과기정통부와 TTA는 이번 단체표준 제정을 시작으로 향후 단체표준의 요구사항에 대한 검증 프로세스를 표준화하고, 단체표준의 내용을 분야별로 확대하여 위험 기반의 검증 항목·절차에 대한 표준화를 지속 추진하겠다고 밝혔다.
아울러, 표준화 단체인 ISO/IEC의 AI 그룹인 JTC1/SC42에 AI 신뢰성 신규 표준 제안과 함께 미국‧영국 등 글로벌 주요국과 표준화 협력을 강화하여 AI 윤리·신뢰성 관련 표준에 대한 글로벌 주도권을 확보해 나갈 계획이다.
과기정통부 박윤규 2차관은 “전세계적으로 심화되는 AI 경쟁 속에서도 AI 기술 혁신과 활용 확산을 위한 전제조건이 AI 윤리‧신뢰성 확보라는 공감대가 형성되고 있다”면서, “그간 정부가 추진해 왔던 AI 윤리‧신뢰성 제고를 위한 정책적 노력으로써 AI 시스템의 신뢰성 확보를 위한 기준이 마련되었다는 점에서 의미가 크다”고 밝혔다. 아울러 박윤규 2차관은 “국내 AI 산업의 신뢰성을 확보하기 위해 정책적 지원을 확대하고, 국내기업들이 글로벌 진출을 확대해 나갈 수 있도록 AI 신뢰성 분야 국제표준화도 적극 추진해 나가겠다”라고 언급하였다.
