｢국가연구개발 AI 연구윤리 가이드｣ 마련 |
- AI를 활용한 연구개발 결과물에 대한 책임과 권리는 연구자에 귀속 - 사실관계 검증, 투명성 확보, 결과 신뢰성 관리 등 7대 권고사항 제시 |
【관련 국정과제】 26-2. 연구자가 연구에 전념하여 성과를 창출하는 연구개발생태계 조성 |
·
과학기술정보통신부 (부총리 겸 과학기술정보통신부장관 배경훈, 이하 ‘과기정통부’)는 국가과학기술자문회의 운영위원회 심의·의결을 거쳐 ｢국가연구개발 AI 연구윤리 가이드｣(이하 ‘가이드’)가 확정됐다고 밝혔다.
인공지능(AI)의 발전과 확산이 빨라지면서, 그 영향은 개별 연구뿐만 아니라 국가연구개발 생태계 전반에 미치고 있다.
AI가 연구 전 과정에 도입되며 연구 생산성이 획기적으로 향상되고 있지만, 부정확한 정보 생성의 위험, 기존 자료의 편향 답습, 보안·개인정보 유출, 출처 미상 자료의 부적절한 인용 등 새로운 유형의 연구윤리 위험을 수반하고 있어, 국가 차원의 대응 기준 마련의 필요성이 제기되었다.
가이드는 연구자가 국가연구개발 수행의 모든 단계에서 AI를 책임감 있고 윤리적으로 활용할 수 있도록 지원하는 것을 목표로 마련되었다.
< 가이드 주요 내용 >
"국가연구개발에서 AI의 역할은 도구로 제한되며, 최종 결과물에 대한 책임과 권리는 AI를 활용한 연구자에게 귀속된다"는 기본원칙 아래, 연구자가 지켜야 할 7대 권고사항을 제시한다.
7대 권고사항은 ▲ 사실관계 검증, ▲ 주체적 판단, ▲ 투명성 확보, ▲ 결과 신뢰성 관리, ▲ 정책·규정 준수, ▲ 보안 확보, ▲ 개인정보 보호이며, 주요 내용은 다음과 같다.
< 참고 : ｢국가연구개발 AI 연구윤리 가이드｣ 7대 권고사항 > | |
권고사항 | 주요 내용 |
① 사실관계 검증 | ⬩AI 생성물의 오류, 핵심자료의 누락, 출처의 존재 및 진위 등을 검증해야 함 |
② 주체적 판단 | ⬩AI가 생성한 자료 활용 시 논리적 타당성과 전문 지식에 따라 검토하고, 자신의 관점을 반영하여 재구성해야 함 |
③ 투명성 확보 | ⬩연구과정 전반에 AI를 활용한 경우 모델·버전, 목적·범위* 등을 투명하게 공개해야 함 * 정보 수집, 데이터를 통한 추론, 연구데이터 정리, 문법·오타 점검, 번역 등 |
④ 결과 신뢰성 관리 | ⬩AI를 활용하더라도 연구개발 성과의 구현과정을 논리적으로 설명할 수 있어야 함 |
⑤ 정책·규정 준수 | ⬩AI 활용 시 연구개발기관의 관련 규정이나 지침, 가이드 등을 확인하고 준수해야 함 - 논문 출판의 경우 학술지 (출판사)별로 AI 활용 정책을 점검하고 준수해야 함 |
⑥ 보안 확보 | ⬩연구개발기관은 제도적·기술적 보안 환경을 마련해야 하고, 연구자는 연구개발기관이 허가한 보안 환경 내의 도구를 사용해야 함 |
⑦ 개인정보 보호 | ⬩개인정보가 포함된 자료는 AI 서비스에 입력하지 않도록 주의해야 함 |
아울러, 국가연구개발 과제 평가 및 논문 심사 시 ▲ 평가자는 대상 자료를 외부 AI에 입력하지 않고 전문성에 기반한 주체적 평가를 수행해야 하며, ▲ 피평가자는 AI를 활용하여 정당한 심사 기준을 회피하거나, 평가를 왜곡하려는 시도 (은닉 프롬프트 등)를 해서는 안 됨을 명시하였다.
가이드는 현장 활용을 돕기 위해 연구자 스스로 점검할 수 있는 ‘연구자 자가진단표’와 연구개발과제 보고서 등 제출 시 활용할 수 있는 ‘AI 활용 여부 공개 서식’도 함께 제공하고 있다.
홍순정 성과평가정책국장은 "AI는 연구의 효율성을 혁신적으로 높일 수 있는 유용한 도구지만 그에 대한 최종 책임은 언제나 연구자에게 있다"며, "이번 가이드가 연구현장에 책임 있는 AI 활용 문화를 정착시키고, 국가연구개발의 연구 진실성을 확보할 수 있는 계기가 되기를 기대한다"고 밝혔다.
｢국가연구개발 AI 연구윤리 가이드｣는 과기정통부 누리집(https://www.msit.go.kr, 정책·통계>정책정보>과학기술혁신)과 한국과학기술기획평가원 누리집(https://www.kistep.re.kr)를 통해 확인할 수 있다.
과기정통부는 가이드와 해설서를 각 연구개발기관에 안내하고 누리집에 게시하는 한편, 현장 의견을 지속적으로 수렴하여 보완해 나갈 계획이다.
