과학기술정보통신부	보도자료

보도시점	2024.11. 28.(목) 14:00 (2024.11. 29.(금) 조간)	배포	2024. 11. 28.(목) 09:00

안전하고 신뢰할 수 있는 인공지능을 위한

공론의 장 마련

- 제3기 인공지능 윤리·신뢰성 토론회 공개발표회 개최 -

- 인공지능 영상합성서비스 윤리영향평가 추진 경과, 인공지능 윤리교육 작품 소개 등 대국민 의견수렴 진행 -

과학기술정보통신부(장관 유상임, 이하 ‘과기정통부’)와 정보통신정책연구원(원장직무대행 김정언, 이하 ‘KISDI’)은 11월 28일(목) 14시, 서울 중구 포스트타워에서 ｢2024 인공지능 윤리·신뢰성 토론회 공개발표회｣(이하 ‘공개세미나’)를 개최하였다.

이번 공개발표회는 `24년 인공지능 서울 정상회의를 마무리하고, `25년 프랑스 행동 정상회의를 준비하는 차원에서 ‘인공지능 윤리·신뢰성 토론회’를 돌아보며, 인공지능 관련 국제 논의, 인공지능 윤리 쟁점에 대한 의견수렴 및 대응 방안 모색을 위한 공론의 장으로 개최되었다.

제3기 인공지능 윤리·신뢰성 토론회의 의의와 과제를 되짚어 본 이상욱 토론회 위원장(한양대학교)의 기조 강연을 시작으로, 박성필 원장(한국과학기술원 문술미래전략대학원)의 균형 잡힌 ‘인공지능 전환’ 체계 설계에 대한 윤리적 및 법적 관점에 대한 강연과 ①인공지능 윤리영향평가, ②실무자 대상 인공지능 윤리교육 분과별 발표와 참여자 토론으로 구성되었다.

이상욱 토론회 위원장은 ‘제3기 인공지능 윤리·신뢰성 토론회의 의의와 과제 : 2025 인공지능 행동 정상회의를 준비하며’를 제목으로 인공지능 윤리 협치체계 국제적 실천 방향과 더불어 국제 인공지능 협치체계들의 논의와 관련 배경을 살펴보며 혁신적 인공지능 기술을 통한 새로운 도약과 공정하고 적절한 대응 방안 마련의 중요성을 강조하였다.

이어서 박성필 원장(한국과학기술원 문술미래전략대학원)은 ‘균형 잡힌 "인공지능 전환" 체계 설계 : 윤리적 및 법적 관점’ 강연에서 인공지능으로의 전환 현황과 이에 대한 상반된 입장을 국제적으로 조망하고, 주요국의 인공지능 법안 진행현황을 소개하며 인공지능의 윤리 쟁점에 대응하는 원칙과 가치를 바탕으로 한 ‘인공지능 전환’ 채계 설계의 필요성을 강조하였다.

제1분과는 문정욱 실장(정보통신정책연구원)이 ‘2024년 인공지능 윤리영향평가 : 인공지능 영상합성서비스’를 주제로 △인공지능 윤리영향평가 개요, △진행 경과, △주요 결과(국민토론회<포럼> 초점집단면접법, 전문가 평가단)에 대해 설명하고 정부·기업·개인의 역할과 노력에 대해 논의하였다. 향후 과정 및 결과에 대한 민주성과 타당성 확보를 위해 다면적 평가를 시행하겠다고 덧붙였다.

제2분과에서는 이현경 부연구위원(정보통신정책연구원)이 ‘인공지능의 윤리적 개발·활용 확산을 위한 실무자용 인공지능 윤리교육 작품 개발’을 주제로 △교육 작품 개발 과정, △실무자 대상 전문가 조사 결과, △인공지능 생애주기에 따른 인공지능 윤리 교육 내용에 대해 발표하였다. 국제 규범이 인공지능 기술의 영향을 관리하기 위한 규제를 강화하는 방향으로 진행되는 상황에서, 개발 실무자들이 윤리의식을 함양하여 안전하고 신뢰할 수 있는 인공지능 사회를 구현하고 관련된 법적 위험을 최소화할 수 있도록 구성하였다고 설명하였다.

각 분괴 발제에 이어 참가자 토론도 이어졌으며 발표된 정책에 대해 다양한 분야의 전문가분들의 의견수렴 및 향후 개선 방향에 대한 논의가 이루어졌다.

과기정통부 송상훈 정보통신정책실장은 “9월 ‘국가 인공지능(AI)위원회’ 출범 및 안전‧신뢰분과 설치, 첨단 인공지능 안전성 확보방안을 연구하는 인공지능(AI) 안전연구소 출범(11.27.) 등을 통해 국가차원의 체계적인 인공지능 신뢰‧안전정책 협치체계를 구축‧운영할 계획”이라고 밝혔다.

또한, “지난 화요일에는 인공지능 혁신과 안전의 조화로운 발전을 뒷받침하기 위해 인공지능(AI) 안전연구소의 운영근거와 인공지능 윤리‧신뢰성 정책의 추진근거를 포함한 「인공지능(AI) 기본법」도 과방위를 통과하였다”면서, “정부는 앞으로도 안전하고 신뢰할 수 있는 인공지능이 확산될 수 있도록 정책적으로 적극 뒷받침하겠다.”고 강조하였다.

붙임 : 제3기 인공지능 윤리‧신뢰성 토론회 공개발표회 개최계획

담당 부서	과학기술정보통신부	책임자	팀 장	송호준	(044-202-6280)
	인공지능확산팀	담당자	사무관	변문경	(044-202-6281)

참고		제3기 인공지능 윤리·신뢰성 포럼 공개세미나 개최 계획

□ 행사 개요

ㅇ (일시/장소) ’24.11.28(목) 14:00 - 17:00 / 명동 포스트타워

* 과기정통부 유튜브 및 AI 윤리소통 채널 송출 등을 통한 온·오프라인 병행

ㅇ (참석자) 제3기 AI 윤리·신뢰성 포럼위원, 과기정통부 관계자, KISDI 원장, 일반 청중 등 약 150명

ㅇ (주요내용) ① 제3기 AI 윤리·신뢰성 포럼 운영 성과보고, ② ‘24년 주요 AI 윤리·신뢰성 정책과제 결과물* 발표 및 토론 등

* ① AI 윤리영향평가 추진 경과 및 중간 결과 공개, ② 실무자 대상 AI 윤리교육 콘텐츠 소개 및 의견수렴 진행 예정

□ 세부 계획(안)

시 간	프 로 그 램
14:00~14:15 (15분)	개회식 & 기념촬영		(개회사) 김정언 원장직무대행(KISDI) (축 사) 송상훈 정보통신정책실장(과기정통부)
14:15~14:40 (25분)	기조강연 Ⅰ		<제3기 AI 윤리·신뢰성 포럼의 의의와 과제 : 2025 AI 행동 정상회의를 준비하며> 발제 : 이상욱 포럼 위원장(한양대학교)
14:40~15:05 (25분)	기조강연 II		<균형 잡힌 "AI 전환" 프레임워크 설계 : 윤리적 및 법적 관점> 발제 : 박성필 원장(KAIST 문술미래전략대학원)
15:05~15:20 (15분)	장내 정리
15:20~16:10 (50분)	제1세션	발제	<2024년 AI 윤리영향평가 중간 결과 : AI 영상합성서비스> 발제 : 문정욱 실장(KISDI)
		토론	좌장 : 이상욱 포럼위원장(한양대학교) 패널 : 노태영 변호사(김앤장), 박성필 원장(KAIST), 손지원 변호사(오픈넷), 송대섭 이사(네이버), 신준호 AI신뢰성센터장(TTA)
16:10~17:00 (50분)	제2세션	발제	<AI의 윤리적 개발·활용 확산을 위한 실무자용 AI 윤리교육 콘텐츠> 발제 : 이현경 박사(KISID)
		토론	좌장 : 김명주 소장(AI 안전연구소) 패널 : 김경훈 이사(카카오), 김동환 대표(포티투마루), 김현철 교수(고려대), 안성원 AI정책연구실장(소프트웨어정책연구소), 이영탁 성장지원실장(SKT)
17:00	폐회