안전하고 신뢰할 수 있는 인공지능을 위한

공론의 장 마련

- 제3기 인공지능 윤리·신뢰성 토론회 공개발표회 개최 -

- 인공지능 영상합성서비스 윤리영향평가 추진 경과, 인공지능 윤리교육 작품 소개 등 대국민 의견수렴 진행 -

 
 

 과학기술정보통신부(장관 유상임, 이하 ‘과기정통부’)와 정보통신정책연구원(원장직무대행 김정언, 이하 ‘KISDI’)은 11월 28일(목) 14시, 서울 중구 포스트타워에서 ｢2024 인공지능 윤리·신뢰성 토론회 공개발표회｣(이하 ‘공개세미나’)를 개최하였다.

 

 이번 공개발표회는 `24년 인공지능 서울 정상회의를 마무리하고, `25년 프랑스 행동 정상회의를 준비하는 차원에서 ‘인공지능 윤리·신뢰성 토론회’를 돌아보며, 인공지능 관련 국제 논의, 인공지능 윤리 쟁점에 대한 의견수렴 및 대응 방안 모색을 위한 공론의 장으로 개최되었다.

 

제3기 인공지능 윤리·신뢰성 토론회의 의의와 과제를 되짚어 본 이상욱 토론회 위원장(한양대학교)의 기조 강연을 시작으로, 박성필 원장(한국과학기술원 문술미래전략대학원)의 균형 잡힌 ‘인공지능 전환’ 체계 설계에 대한 윤리적 및 법적 관점에 대한 강연과 ①인공지능 윤리영향평가, ②실무자 대상 인공지능 윤리교육 분과별 발표와 참여자 토론으로 구성되었다.

 

 이상욱 토론회 위원장은 ‘제3기 인공지능 윤리·신뢰성 토론회의 의의와 과제 : 2025 인공지능 행동 정상회의를 준비하며’를 제목으로 인공지능 윤리 협치체계 국제적 실천 방향과 더불어 국제 인공지능 협치체계들의 논의와 관련 배경을 살펴보며 혁신적 인공지능 기술을 통한 새로운 도약과 공정하고 적절한 대응 방안 마련의 중요성을 강조하였다.

 
  이어서 박성필 원장(한국과학기술원 문술미래전략대학원)은 ‘균형 잡힌 "인공지능 전환" 체계 설계 : 윤리적 및 법적 관점’ 강연에서 인공지능으로의 전환 현황과 이에 대한 상반된 입장을 국제적으로 조망하고, 주요국의 인공지능 법안 진행현황을 소개하며 인공지능의 윤리 쟁점에 대응하는 원칙과 가치를 바탕으로 한 ‘인공지능 전환’ 채계 설계의 필요성을 강조하였다.

 

  제1분과는 문정욱 실장(정보통신정책연구원)이 ‘2024년 인공지능 윤리영향평가 : 인공지능 영상합성서비스’를 주제로 △인공지능 윤리영향평가 개요, △진행 경과, △주요 결과(국민토론회<포럼> 초점집단면접법, 전문가 평가단)에 대해 설명하고 정부·기업·개인의 역할과 노력에 대해 논의하였다. 향후 과정 및 결과에 대한 민주성과 타당성 확보를 위해 다면적 평가를 시행하겠다고 덧붙였다.

 

  제2분과에서는 이현경 부연구위원(정보통신정책연구원)이 ‘인공지능의 윤리적 개발·활용 확산을 위한 실무자용 인공지능 윤리교육 작품 개발’을 주제로 △교육 작품 개발 과정, △실무자 대상 전문가 조사 결과, △인공지능 생애주기에 따른 인공지능 윤리 교육 내용에 대해 발표하였다. 국제 규범이 인공지능 기술의 영향을 관리하기 위한 규제를 강화하는 방향으로 진행되는 상황에서, 개발 실무자들이 윤리의식을 함양하여 안전하고 신뢰할 수 있는 인공지능 사회를 구현하고 관련된 법적 위험을 최소화할 수 있도록 구성하였다고 설명하였다.

 

각 분괴 발제에 이어 참가자 토론도 이어졌으며 발표된 정책에 대해 다양한 분야의 전문가분들의 의견수렴 및 향후 개선 방향에 대한 논의가 이루어졌다.

 

 과기정통부 송상훈 정보통신정책실장은 “9월 ‘국가 인공지능(AI)위원회’ 출범 및 안전‧신뢰분과 설치, 첨단 인공지능 안전성 확보방안을 연구하는 인공지능(AI) 안전연구소 출범(11.27.) 등을 통해 국가차원의 체계적인 인공지능 신뢰‧안전정책 협치체계를 구축‧운영할 계획”이라고 밝혔다.

 

 

 
또한, “지난 화요일에는 인공지능 혁신과 안전의 조화로운 발전을 뒷받침하기 위해 인공지능(AI) 안전연구소의 운영근거와 인공지능 윤리‧신뢰성 정책의 추진근거를 포함한 「인공지능(AI) 기본법」도 과방위를 통과하였다”면서, “정부는 앞으로도 안전하고 신뢰할 수 있는 인공지능이 확산될 수 있도록 정책적으로 적극 뒷받침하겠다.”고 강조하였다.