인공지능 신뢰성 확보를 위해 현장의 목소리를 담다

- 인공지능 개발 안내서(안), 윤리 자율점검표(안), 윤리 교육 총론[안]에 대한

대국민 의견 수렴을 위해 공개 발표회(세미나) 개최  -
 

□ 과학기술정보통신부(장관 임혜숙, 이하 ‘과기정통부’)는 정보통신정책연구원(원장 권호열), 한국정보통신기술협회(회장 최영해)와 함께 11월 23일(화) 서울 더케이호텔에서 ‘인공지능 신뢰성* 제고를 위한 공개 발표회(세미나)’를 개최하였다.

  * 인공지능이 내포한 위험과 기술적 한계를 해결하고, 활용·확산 과정에서의 위험·부작용을 방지하기 위한 가치 기준으로서, 안전, 설명가능, 투명, 견고, 공정 등을 핵심요소로 포함

 ㅇ 이번 발표회는 올해 5월 발표한「신뢰할 수 있는 인공지능 실현전략」의 후속조치로 준비 중인 인공지능 윤리 자율점검표, 인공지능 개발 안내서(가이드북) 및 인공지능 윤리 교육 총론 초안에 대해 각 계의 의견을 폭넓게 수렴하고자 마련되었다.

  ① ‘인공지능 윤리 자율점검표’는「인공지능 윤리기준」(‘20.12)의 3대 원칙 및 10대 핵심 요건*을 구체화한 것으로, 기획자, 관리자 등 인공지능 제품·서비스의 기획 과정에 참여하는 주체가 인공지능 윤리 항목들을 자율적으로 확인할 수 있도록 점검 항목을 제공한다.

  * <3대원칙> １인간 존엄성 원칙, ２사회의 공공선 원칙, ３기술의 합목적성 원칙
<10대요건> ①인권 보장, ②사생활(프라이버시) 보호, ③다양성 존중, ④침해금지, ⑤공공성, ⑥연대성, ⑦데이터 관리, ⑧책임성, ⑨안전성, ⑩투명성

  ② ’인공지능 개발 안내서(가이드북)‘는 개발자, 연구자 등이 인공지능 개발 단계에서 참고할 수 있는 기술적 요구사항, 검증 항목·방법 등으로 구성되어 있다.

  ③ ’인공지능 윤리 교육 총론‘은 사회 전반에 인공지능 윤리 의식을 확산하기 위해 교육 목표, 성취 기준, 교수·학습·평가 방향 등 인공지능 윤리 교육 기본 방향을 제시한다. 향후에는 이를 기반으로 초중고 대상별 교육 콘텐츠를 개발할 계획이다.

 ㅇ 이번 세미나는 알고리즘 편향성, 사생활 침해와 같은 사회적 우려가 대두되는 상황에서 인공지능 신뢰성 확보와 인공지능 산업 발전 간 균형 잡힌 방향을 모색하는 데 그 의의가 있다.

□ 이번 세미나는 관련 전문 기관에서 준비한 인공지능 윤리 자율 점검표, 인공지능 개발 안내서(가이드북), 인공지능 윤리 교육 총론 초안을 중심으로 발표와 전문가들의 토론이 진행되었다.

 ㅇ 첫 번째 시간에는 정보통신정책연구원 문아람 박사가 ｢인공지능 윤리기준｣(‘20.12)의 구체적인 실천 방안으로서 인공지능 윤리 자율점검표에 대해 발표하였다.

  - 김명주 교수(서울여대), 김종욱 교수(동아대), 노태영 변호사(김·장), 임선경 사무국장(지능정보산업협회), 차순일 단장(한국정보통신기술협회), 최성진 대표(코리아스타트업포럼), 윤명 사무총장(소비자시민모임), 이재형 과장(과기정통부)이 토론자로 참여하여 다양한 시각의 의견을 개진하였다.

 ㅇ 두 번째 시간에는 한국정보통신기술협회 차순일 단장이 인공지능 개발 단계에서 신뢰성 확보를 위해 기술적으로 확인해야 할 요구사항 등을 담은 개발 안내서(가이드북)에 대해 발표하였다.

 
  - 김지희 교수(동국대), 박규동 교수(광운대), 서경원 교수(서울과기대), 김동환 대표(포티투마루), 김세엽 대표(셀렉트스타), 문정욱 센터장(정보통신정책연구원)이 토론자로 참여하였다. 개발 안내서(가이드북)의 현실 적합성을 제고하기 위해 산업계 대표로 실제 인공지능 기업들이 토론에 직접 참여하여 의견을 개진하였다.

 ㅇ 세 번째 시간에는 서울교육대학교 변순용 교수와 정보통신정책연구원 조성은 박사가 인공지능 윤리 교육 총론을 발표하여 인공지능 윤리 교육 방향을 제시하였다.

  - 김창환 박사(한국교육개발원), 이현숙 팀장(한국과학창의재단), 전성균 박사(한국교육과정평가원), 양천수 교수(영남대), 한선관 교수(경인교대), 김효은 교수(한밭대), 김종혜 교사(경기 서원고), 전재남 교사(경기 매양중)이 토론자로 참여하여 교육 현장 전반의 생생한 목소리를 전했다.

□ 이번 세미나는 과기정통부 영상 채널(유튜브)를 통해 생중계됐으며, 온라인을 통한 시민의견 수렴도 진행되었다.

□ 과기정통부 박윤규 정보통신정책실장은 “사생활 침해, 첨단조작기술(딥페이크) 범죄 등 인공지능이 야기할 수 있는 사회적 문제에 대한 우려가 커지는 상황에서 인공지능 산업 발전을 위해서는 인공지능에 대한 신뢰를 확보하는 것이 반드시 선행되어야 한다”고 말하고,

  - “인공지능 생태계에 참여하는 모든 구성원들이 안전하고 신뢰할 수 있는 인공지능을 개발하고 활용할 수 있도록 적극 지원해나가겠다”고 밝혔다.