정부, ｢대한민국 인공지능 윤리원칙｣ 제정 |
- 인간의 존엄성·사회의 공공선·인류의 지속가능성 등 3대 가치와 7대 원칙 제시 - 공급자·이용자·정부·사회 등 모든 주체의 공동 실천 강조 - 해설서·자율점검표 등 후속 조치 추진, 국제사회에도 공유·확산 예정 |
【관련 국정과제】 23. 국민의 안전과 보편적 삶의 질 제고를 위한 ‘AI 기본사회’ 실현 |
과학기술정보통신부(부총리 겸 과기정통부 장관 배경훈, 이하 ‘과기정통부’)와 정보통신정책연구원(원장 이상규, 이하 ‘KISDI’)은 제12회 과학기술관계장관회의에서 안전하고 신뢰할 수 있는 AI 기본사회 구현을 위한 ｢대한민국 인공지능 윤리원칙｣(관계부처 합동, 이하 ‘윤리원칙’)이 심의·의결을 거쳐 8월 21일 확정됐다고 밝혔다. (‘붙임’ 참고)
윤리원칙은 AI의 건전한 활용과 사회의 지속적인 발전을 위해, AI를 개발·제공하고 이용하는 다양한 주체와 사회 전체가 함께 지켜나가야 할 공통의 가치와 원칙을 우리 사회의 맥락에서 밝힌 것이다. ｢인공지능 발전과 신뢰 기반 조성 등에 관한 기본법｣(이하 ‘인공지능기본법’) 제27조에 따라 제정되었으며, 사회 전 영역에 적용되어 각 분야 윤리기준과 지침의 토대가 된다. AI를 둘러싼 물음에 일률적인 답을 정하기보다 판단 과정에서 살펴야 할 사항을 밝혀, 각 주체가 갈등을 줄이고 함께 답을 찾아가는 데 필요한 자율적 실천의 방향을 제시한다.
윤리원칙은 3대 가치와 7대 원칙으로 구성된다. 3대 가치는 AI 시대에 인간과 사회, 인류 차원에서 추구해야 할 근본적 지향으로, 모든 사람이 수단이 아닌 목적 그 자체로 존중받으며 존엄과 인권을 온전히 누리는 ‘인간의 존엄성’, AI의 편익이 개인의 삶을 넘어 사회적 신뢰와 공동의 이익으로 이어지는 ‘사회의 공공선’, 그 편익을 현재와 미래 세대가 함께 누리며 환경과 사회의 기반이 지속되는 ‘인류의 지속가능성’이다. 7대 원칙은 ▲ 인간중심성, ▲ 프라이버시 보호, ▲ 공정성·포용성, ▲ 책임성, ▲ 안전성, ▲ 신뢰성, ▲ 투명성으로, 이러한 가치를 실현하기 위해 모든 주체가 AI 전 생애주기에서 실천해야 할 공통의 기준이다. 이와 함께 각 원칙별로 구체적인 설명과 공급자, 이용자, 정부·사회 등 주체별 역할을 제시하여 실제 AI 개발·제공·이용 과정에서 참고할 수 있도록 했다.
[표] 대한민국 인공지능 윤리원칙의 ‘7대 원칙’
원칙 | 주요 내용 |
인간중심성 (Human-centeredness) | 사람의 판단을 지원하고 창의성·문제 해결 역량을 강화하는 방향으로 개발·활용, 필요한 경우 사람이 AI의 동작에 개입할 수 있도록 노력, 과의존 경계 |
프라이버시 보호 (Privacy Protection) | 사생활 침해에 활용되지 않도록 하고, 개인정보는 정해진 목적에 한해 필요한 범위에서 처리, 정보주체의 개인정보 자기결정권 존중 |
공정성·포용성 (Fairness and Inclusiveness) | 부당한 차별로 이어지는 편향 방지, 사회적 약자를 비롯한 모든 사람의 공평한 접근과 혜택·기회, 이해관계자 참여 보장 노력 |
책임성 (Accountability) | 각자의 역할과 책임을 명확히 인식·이행, 문제 발생 시 책임 소재를 밝히고 실질적 피해 구제 노력, 영향력이 큰 주체는 상응하는 책임 이행 |
안전성 (Safety) | 생명·신체·정신적 건강의 위해와 재산상 피해 방지, 위험 수준에 맞는 안전조치 마련, 오남용·외부 공격 대비 |
신뢰성 (Reliability) | 목적과 활용 맥락에 맞는 최소 성능 기준 설정·유지, 의도된 목적과 허용된 권한 범위 안에서 작동, 성능·작동 상태 지속 점검 |
투명성 (Transparency) | AI 활용 사실과 수준·한계 등 필요한 정보를 알기 쉽게 제공, 판단 기준과 위험 수준의 공유·이해 노력 |
이번 윤리원칙의 제정 배경에는 AI 확산이 가져온 기회와 과제가 있다. AI는 산업의 생산성을 높이고 새로운 서비스를 창출하며, 기후변화, 고령화, 지역 격차 등 사회적 과제 해결에도 활용되고 있다. 이와 동시에 AI가 개인에게 실제로 유익하게 작용하는지(트롤리 딜레마, 노동 감시, 과의존 등), AI 도입으로 기존 역학관계가 어떻게 달라지는지(노동·일자리 변화, 저작권 및 AI 표절), 사람의 삶에 영향을 미치는 판단을 AI에게 어디까지 맡길 것인지(채용, 평가 등)에 대한 우려와 고민도 커지고 있다. 또한 AI의 역량이 고도화되면서 개발부터 이용까지 전 과정에 걸쳐 안전과 신뢰를 확보하는 일도 더욱 중요해지고 있다.
※ 최근 해외에서는 AI 모델이 성능 평가 과정에서 의도된 범위를 벗어나 외부 시스템에 접근한 사례가 개발사에 의해 공개된 바 있음
AI를 잘 활용하기 위해서는 이러한 우려와 과제를 해소해 나가는 일이 우선되어야 하며, 이는 어느 한 주체의 노력만으로는 이루어지기 어렵다. 이에 정부는 모든 주체가 참고할 공통의 기준으로서, 2020년 ｢인공지능(AI) 윤리기준｣을 계승하되 기술 발전과 ｢인공지능기본법｣ 시행 등 달라진 여건을 반영한 새 윤리원칙을 마련했다.
과기정통부와 KISDI는 2025년 12월부터 윤리원칙 제정을 추진해 왔으며, 작업반과 자문단 운영을 통해 초안을 마련해 올해 5월 29일 공개했다. 이후 산업계·시민사회·학계·관계부처와 일반 국민으로부터 총 153건의 의견을 접수했으며, 8월 14일(금) 대토론회를 거쳐 윤리원칙을 보완하고 최종안을 마련했다. 이 과정에서 정부가 일방적으로 기준을 정하기보다 국민과 각계의 의견을 충실히 담아내는 데 중점을 두고, 공통적으로 제기된 내용을 정제하되 의견이 상충하는 경우에는 가능한 대안을 제시하고자 했다.
[참고] 「대한민국 인공지능 윤리원칙」 제정 추진경과
· (’25.12월~’26.5월) 윤리원칙 제정 추진, 작업반·자문단 운영 및 초안 공개(5.29) · (’26.5월~7월) 산업계·시민사회·학계·일반 국민·관계부처 등 초안 의견수렴(5.29~7.8, 116건) · (’26.8월) 추가 의견수렴(8.10~8.19, 37건) 및 대토론회(8.14.)를 거쳐 최종안 마련 |
이번 윤리원칙의 특징은 세 가지다. 첫째, AI의 활용이 이미 선택이 아니라 ‘어떻게 잘 활용할 것인가’의 문제가 된 만큼, 사회의 지속가능성을 위해 각 주체가 지켜야 할 원칙을 담았다. 둘째, AI를 개발·제공하는 공급자뿐만 아니라 이를 활용하는 이용자도 책임 있는 AI 활용의 주체로 보고, 이용자의 윤리와 역할도 함께 강조했다. 셋째, AI 역량과 자원을 많이 가진 국가와 기업이 그 영향력에 걸맞은 책임을 다하고, AI의 혜택이 특정 국가·지역·집단에 치우치지 않아야 한다는 국제사회를 향한 메시지도 담았다. 정부는 AI의 혜택이 인류 전체에 고루 돌아갈 수 있도록 국제사회와 적극 협력해 나가고자 한다.
과기정통부는 윤리원칙이 현장에서 잘 실천될 수 있도록 후속 조치를 추진할 계획이다. 사례 중심의 해설서와 분야별 자율점검표, 대상별 윤리교육 교재 등을 마련·보급하고, 윤리원칙을 지속적으로 점검·보완하는 한편 국제사회에도 공유·확산해 나갈 예정이다.
배경훈 부총리는 “AI 혁신을 가속화하는 것과 안전하고 신뢰할 수 있는 AI 환경을 조성하는 것은 서로 대립하는 과제가 아니다”라며, “「대한민국 인공지능 윤리원칙」이 AI에 대한 사회적 신뢰를 높이고, 바람직한 개발·활용과 그 혜택의 확산을 돕는 실천의 기준으로 자리 잡도록 뒷받침 하겠다”고 밝혔다.
｢대한민국 인공지능 윤리원칙｣ 전문은 과기정통부 누리집(https://www.msit.go.kr, 정책·통계>정책정보>정보통신)과 과기정통부·KISDI “인공지능 윤리 소통채널” 누리집(https://ai.kisdi.re.kr)에서 확인할 수 있다.
