■ 행사명 : 제1회 인공지능 신뢰성·품질 대상 & 2023 인공지능 윤리정책 포럼 공개 세미나
■ 일시 : 2023. 11. 23(목) 13:00~17:20
■ 장소 : 엘타워 오르체홀(5층), 온라인 실시간 스트리밍

과학기술정보통신부(장관 이종호, 이하 과기정통부)는 한국정보통신기술협회(회장 손승현, 이하 TTA), 정보통신정책연구원(원장 배경율, 이하 KISDI)과 함께 11월 23일(목) 13시, 서울 서초구 엘타워에서 ｢제1회 인공지능 신뢰성·품질 대상｣(이하 ‘시상식’)과 연계하여 청중 200여명을 대상으로 ｢2023 인공지능 윤리정책 포럼 공개 세미나｣(이하 ‘공개 세미나’)를 개최하였다.  

이번 행사는 차별 및 편향 심화, 사생활 침해 등 인공지능 기술의 오남용에 대한 사회적 우려가 심화되고 관련 논의가 활성화 되는 최근의 국제추세* 속에서, 제2기 인공지능 윤리정책 포럼**(이하 ‘포럼’)의 운영활동과 주요 정책 추진 결과를 국민에게 공개하고 의견을 수렴하고자 개최되었다.
* (美) 바이든 대통령, AI의 안전하고 신뢰 가능한 개발과 사용에 관한 행정명령 서명(‘23.10) (英) AI 안전 정상회의 개최를 통해 글로벌 차원의 안전 테스트 협력 강화 제안(’23.11)
** 인공지능의 윤리적 개발과 활용의 촉진을 위해 학계·교육계·산업계·법조계·공공 등 다양한 분야의 각계 전문가들이 참여하여 새롭게 등장하는 윤리적 이슈를 논의하는 소통의 장(‘22년~)

특히, 이번 공개 세미나는 올해 처음으로 인공지능 신뢰성을 확보한 우수 제품·서비스를 선정하여 시상하는‘인공지능 신뢰성·품질 대상’과 연계하는 한편, 인공지능 윤리영향평가 운영방안, 일반인 대상 인공지능 윤리교육 교재 등 올해 추진한 정책 과제물들을 국민들에게 처음으로 선보이고 이에 대한 논의과정을 온라인 생중계*를 통해 전국민에게 공개하였다는 점에서 의미를 더했다.
*과기정통부 유튜브 및 AI 윤리 소통채널(https://ai.kisdi.re.kr)에 송출

우선, 시상식에서는 인공지능 신뢰성이 확보된 제품 및 서비스를 개발 또는 제공하는 기업을 대상으로 과기정통부 장관상(2점)과 우수상(7점)을 수여하였다. 과기정통부 장관상으로 ‘인공지능 윤리기준’을 참고하여 기업자체 윤리 점검표를 마련하고 자사 면접평가 솔루션에 신뢰성 검증을 시행한 ㈜제네시스랩이 ‘대상’에, 설명가능한 인공지능을 기반으로 급성질환 조기 진단 예측을 위한 의료 소프트웨어를 제공하는 ㈜에이아이트릭스가 ‘최우수상’에 각각 선정되었다.
* (대상) ㈜제네시스랩, (최우수상) ㈜에이아이트릭스, (우수상) 래블업 주식회사, 주식회사 포티투마루, 주식회사 업스테이지, 옴니어스㈜, ㈜이스트소프트, 주식회사 크라우드웍스, ㈜샌즈랩

이어진 공개 세미나는 성과보고 및 정책제언을 시작으로, ①윤리, ②기술, ③교육 세션별 발표와 패널토론으로 구성되었다. 문광진 KISDI 부연구위원은 지난 1년간 법률·교육 분야별 생성형 인공지능 활용 쟁점 및「디지털 권리장전」수립을 위해 윤리적으로 고려해야 할 사항을 논의했던 포럼의 활동내용을 발표하였다.

이어서 김명주 포럼위원장(서울여대 교수)은 ‘인공지능 규제 글로벌 동향에 따른 인공지능 윤리정책 제언’ 발표에서 최근 생성형 인공지능의 확산으로 인한 위험을 관리하려는 국제동향을 조망하고, 산업육성과 신뢰 기반조성을 균형있게 다루는 ‘인공지능법’ 제정과 인공지능 윤리영향평가, 신뢰성 인증제도 추진 및 글로벌 인공지능 거버넌스에 참여하여 우리나라가 주도적인 역할을 해야 할 필요성을 강조하였다.

제1세션에서는 문정욱 윤리분과장(KISDI 실장)이 ‘인공지능 윤리영향평가(안)’를 주제로 △대상 선정, △기초 분석(평가도구의 구체화 및 정교화), △영향평가 시행, △정책 제언·보고서 작성 단계로 구성된 윤리 영향평가체계(안)를 발표하였다. UNESCO가 발간한 윤리영향평가 가이드라인을 참조하여 윤리원칙별 긍정적·부정적 영향을 검토·기술하고 과정 및 결과에 대한 타당성 확보를 위해 다면적 평가(전문가 평가단·국민 포럼단·온라인 창구 활용)를 시행하겠다고 덧붙였다.

제2세션에서는 이강해 기술분과장(TTA 단장)이 ‘인공지능 신뢰성 민간 자율인증’을 주제로 △인증체계 개요, △인증 기준, △시험·인증 절차에 관해 설명하고 ‘2024 신뢰할 수 있는 인공지능 개발 안내서’ 개발 현황을 발표하였다. 특히 신뢰성 인증의 국제적 공신력을 높이기 위해 IEEE, NIST* 등과 협력하여 상호호환성을 확보하고, 생성형 인공지능 결과물에 워터마크 도입 등 인공지능 관련 최신 연구동향을 반영하여 개발안내서를 지속적으로 보완해 나갈 것을 강조하였다.
* IEEE(Institute of Electrical and Electronics Engineers) : 전기전자·전산분야 국제 학술단체 겸 표준화 단체
NIST(National Institute of Standards and Technology) : 과학·산업기술 분야 표준을 연구하는 국영 연구소

제3세션에서는 조성은 연구위원(KISDI)이 ‘일반인을 위한 인공지능 윤리교육 교재 개발 과정과 내용’이라는 주제로 △필요성, △구성방향과 집필 의도, △교재의 목차 및 주요 내용에 대해 발표하였다. 특히, 일반인을 위한 교재는 일반성인 학습자의 디지털 역량 격차가 큰 것을 고려하여, 이론 중심이나 지식전달보다는 각 목차마다 간단한 체험이나 실습을 통해 인공지능 기술로 인한 사회영향이나 윤리 이슈를 살펴보고 성찰할 수 있도록 구성하였다고 설명하였다.

과기정통부 강도현 정보통신정책실장은 “최근 인공지능의 위험성에 대한 우려가 커지고 있지만, 오늘 시상식을 통해 국내의 많은 기업이 인공지능의 신뢰성과 윤리 확보를 위해 노력하고 있다는 사실을 확인하였다”면서, “정부는 이러한 산업계의 자발적인 노력이 더욱 확산되도록 정책적 지원을 아끼지 않을 것”이라 밝혔고,

“디지털 공동번영사회를 구현하고자 마련된「디지털 권리장전(’23.9.25)」에서 디지털 기술의 개발과 사용은 안전과 신뢰를 확보하기 위해 윤리적인 방식으로 책임있게 이루어져야 함을 강조하고 있어, 디지털 공동번영사회의 기반이 되는 인공지능 윤리와 신뢰성을 확보하기 위해서 민관협력의 정책추진이 필수적이고, 이를 위해서 포럼이 계속해서 노력해줄 것”을 당부하였다.

■ 행사 영상 ■
 

■ 행사 사진 ■