LG AI연구원이 직접 다녀온 글로벌 AI 윤리 포럼 현장 이야기

이미지 1. 유네스코 AI 윤리 글로벌 포럼 현장 ⓒ Ministry of Digital Transformation, REPUBLIC OF SLOVENIA

전 세계 전문가가 모이는 유네스코 AI 윤리 포럼

제2회 유네스코 글로벌 AI 윤리 포럼(Global Forum on the Ethics of AI)이 지난 2월 5일부터 6일까지(현지 시간 기준) 슬로베니아 크란에서 진행되었습니다. 올해 포럼의 주제는 “변화하는 AI 거버넌스의 지형(Changing the Landscape of AI Governance)”으로, AI 기술의 빠른 발전 속도만큼이나 글로벌 AI 거버넌스도 변화하고 있음을 시사하는 주제입니다. 포럼에는 전 세계 유네스코 회원국 정부를 비롯하여 67개국에서 기업, 국제기구, 학계, 시민사회 500여 명이 참가했습니다. LG AI연구원도 국내 기업으로는 유일하게 유네스코 글로벌 AI 윤리 포럼에 참가했습니다. 국경과 분야를 초월해 서로 다른 경험과 전문성을 가진 사람들이 모여 AI의 영향력에 대해 서로 배우고 논의하는 자리였습니다. 현장에 직접 다녀온 LG AI연구원이 포럼에서 다뤄진 주제와 주요 인사이트를 소개해 드립니다.

서로 다른 국가, 하나의 글로벌 AI 거버넌스

 

이미지 2. 유네스코 AI 윤리 글로벌 포럼 단체 사진 ⓒ Ministry of Digital Transformation, REPUBLIC OF SLOVENIA

포럼에는 AI 협력의 국제 논의 무대에서 만나기 힘든 개발도상국도 과반수 참석했습니다. 유네스코가 국제기구로서 AI 혜택에서 소외되는 국가, 지역이 발생해서는 안 된다는 포용성(Inclusiveness)을 강조하기 때문입니다. 다양한 국가의 목소리를 듣다 보니, 국가별로 기술 및 정책 개발 수준에 따라 AI 거버넌스의 방향도 크게 다르다는 것을 확인했습니다.

모로코, 소말리아, 자메이카, 오만, 에스토니아 등의 국가들은 AI 기술 개발과 활용에 뒤처지지 않아야 한다는 의지를 강하게 표명했습니다. 이들은 데이터, 인프라, 인재가 부족한 현재의 상황을 언급하며, AI 접근성을 높이기 위한 교육, 인프라 지원 정책에 가장 큰 관심을 나타냈습니다.

반면 미국, 영국, 서유럽, 동아시아 등 AI 기술 개발을 선도하는 국가들은 AI 기술의 위험을 관리하는 데 더 큰 관심을 보였습니다. AI 기술이 특정 기업에만 집중되지 않고, 자국민 다수가 활용하고 발전시킬 수 있도록 재분배하는 정책 마련에 집중하는 양상이었습니다. 미국과 영국은 AI 안전 연구소를 설립하여 국제적인 협력을 강화할 것을 제안하기도 했습니다.

중국은 국가 별로 상황이 같을 수 없음을 강조했습니다. 글로벌 거버넌스 구축을 위해서는 국가의 크기, 힘, 이념과 관계 없이 AI의 혜택을 나눌 수 있도록 다양한 관점을 고려해야 한다고 주장했습니다.

전 세계 회원국이 모두 동의하는 글로벌 AI 거버넌스 수립은 쉽지 않아 보입니다. 그러나 국가별로 집중하는 AI 거버넌스의 분야는 조금씩 다르더라도, 결국 모두가 AI를 안전하게 잘 활용하고자 하는 목적은 같다는 점은 희망적입니다. 모든 것을 처음부터 합의할 수는 없지만, 작은 것부터 협력해 나가면서 글로벌 AI 거버넌스를 지속 논의해 나가자는 다짐으로 마무리되었습니다.

‘모두를 위한 AI’를 만들기 위한 고민

많은 사람들이 AI를 이용하며 다양한 혜택을 누리고 있지만, 모든 사람이 그 혜택을 누리고 있지는 못합니다. AI가 모든 사람에게 좋은 도구가 되기 위해서 무엇이 더 필요할까요? 이 논의를 위해 유네스코, G20 브라질, 유엔 AI 고위급 자문단, 유럽 이사회, 앨런 튜링 연구소, 세계무역기구, 인공지능 및 디지털 정책센터(CAIDP), 세계 최초 인공지능 관련 국제 협의체인 GPAI(Global Partnership on AI) 등이 참여했습니다.

먼저 AI로 인한 잠재적 위험으로 다양한 불평등 이슈가 언급되었습니다. AI로 인한 일자리 대체, 디지털 접근성 격차와 성별, 국적으로 인한 불평등, AI 기술 독과점 등이 그 예시입니다. 이러한 문제의 해결책으로 다양성 존중, 개인의 데이터 통제권 보장, 인프라 지원, 지역적 협력, 공공의 역할 강화, 지속 가능한 AI 연구, 리터러시 교육 등이 논의되었습니다. 특히 세계적으로 하나의 AI 모델의 활용도가 높아짐에 따라 국가별 문화 다양성의 훼손을 막기 위한 노력이 필요하다는 데도 공감대가 형성되었습니다. 논의가 좁혀지지는 않았지만, AI와 관련된 불평등은 단순히 기술적인 문제가 아니라, 사회적·경제적 문제와도 밀접하게 연결되어 있다는 데 모두가 동의했습니다.

이미지 3. 포럼에서 진행된 Women4Ethics 세션 ⓒ Ministry of Digital Transformation, REPUBLIC OF SLOVENIA

포용성을 강조하는 유네스코 포럼에서 인상 깊었던 것 중 하나는 슬로베니아 디지털 트렌스포메이션부 장관, 유네스코 사무총장과 등 주최측 고위급 리더에 여성이 많이 포함 되어있다는 점입니다. 특히 모든 패널 토론자가 여성으로 구성된 “Women4Ethics” 세션에서는 AI 기술에서 발생하는 젠더 격차와 이를 해결하기 위한 논의를 진행하기도 했습니다. 유네스코가 발표한 AI 윤리권고에 ‘AI 시스템 수명주기 전반에 성평등 달성에 기여해야 한다'는 젠더 관련 정책이 담겨 있는 만큼, 포럼에서도 이를 실행하는 모습을 확인할 수 있었습니다. 

해당 세션에서 논의된 것 중 한 가지는 AI 데이터와 결괏값의 성별 분포가 현실과 차이가 있다는 점입니다. 미국 여성 판사 협회 (National Association of Women Judges)에 따르면 미국 판사의 34%가 여성인 반면, 여성 판사를 그린 AI 생성 이미지의 3%만이 여성이라고 합니다. 해당 세션에서는 AI 기술의 연구, 개발 과정에서 현실의 격차를 왜곡하거나 그대로 답습되지 않도록 여러 안전 장치의 중요성이 강조되었습니다.

AI 윤리 실행을 위한 기업의 준비

이미지 4. 유네스코 AI 윤리 글로벌 포럼 현장 ⓒ Ministry of Digital Transformation, REPUBLIC OF SLOVENIA

AI 거버넌스 논의에서도 ‘실행’의 중요성은 반복적으로 강조되었습니다. 좋은 거버넌스도 결국 실행되어야 의미가 있기 때문입니다. 그래서 이번 포럼에서는 실행의 주체인 AI 기업도 적극적으로 초청했습니다. 지난해 11월 유네스코의 국내 첫 AI 윤리 실행 파트너사로 선정된 LG AI연구원은 국내 기업 중에는 유일하게 이 포럼에 초청되었습니다. AI 윤리를 선도적으로 실행해온 LG AI연구원을 포함한 Business Council 회원사(GSMA, Microsoft, Salesforce, Telefonica 등)는 기업 세션에서 각 사의 AI 윤리 실행 성과를 공유했습니다.

기업 세션에 초청된 회사는 모두 AI 윤리가 중요한 과제라는 데 의견을 모았습니다. AI 윤리는 사업의 최우선 가치인 고객 신뢰와 직결되기 때문입니다. 각 사는 AI 윤리원칙을 기반으로 AI 라이프사이클 전 주기에 걸쳐 지속적으로 사회적 영향력을 평가하고 모니터링해 온 사례를 공유했습니다. 특히 마이크로소프트는 AI 클라우드 사업자로서 고객이 AI를 책임감 있게 활용하고 배포할 수 있도록 영향 평가와 같은 도구를 웹사이트에 무료로 제공한다는 점을 내세웠습니다. 마스터카드는 고객 데이터의 소유권, 통제권, 혜택을 모두 고객에게 돌려드리는 정책을 강조했습니다.

기업 세션에서 LG AI연구원 김유철 부문장은 AI 윤리원칙의 대표적인 실천 사례로 위험 관리 프로세스를 소개했습니다. 이 프로세스로 기술 연구자, 사업 담당자, 윤리 담당자의 서로 다른 관점을 수렴시켜 온 경험에 기반하여 UNESCO와 전문가 대상 AI 윤리 교육과정 신설 계획을 공유했습니다. 앞서 LG는 지난 2022년 LG의 모든 구성원이 지켜야 할 올바른 행동과 가치 판단의 기준이 되는 ‘LG AI 윤리원칙’을 발표한 바 있습니다. 이러한 실행 과정을 담은 AI 윤리 책무성 보고서도 소개하여 참가자들의 많은 관심을 받았습니다.

▶LG AI연구원의 AI 윤리 책무성 보고서 확인하러 가기 (Link)

이미지 5. 공동 선언에 서명하는 LG AI연구원 김유철 부문장 ⓒ Ministry of Digital Transformation, REPUBLIC OF SLOVENIA

LG AI연구원을 포함해 이 세션에 참가한 8개 글로벌 기업은 AI 윤리 실천을 위해 유네스코와 함께 노력하겠다는 공동 선언을 발표하기도 했습니다. LG AI연구원은 공동 선언에서 AI 기술이 가져올 수 있는 위험을 최소화하고, 사회에 긍정적인 영향을 극대화할 수 있는 실질적인 조치를 취하기로 약속했습니다. 가장 기억에 남는 것은 서명식 중 모두가 알파벳으로 서명하는 가운데 LG AI연구원이 한글로 서명을 해 감탄이 쏟아져 나온 때입니다. 글로벌 AI 커뮤니티에 한국 기업이 참여함으로써 다양성을 높인 뜻깊은 순간이었습니다. 이번 선언이 국내외 AI 기업들의 구체적인 행동을 촉진하는 긍정적인 변화로 이어지기를 기대해 봅니다.

민간부문 AI 윤리 협의체 ‘유네스코 비즈니스 카운실’ 합류

또한 이번 포럼에서 LG AI연구원은 민간 부문의 AI 윤리 협의체인 ‘유네스코 비즈니스 카운실(Business Council)’에도 가입했습니다. 비즈니스 카운실은 공동의장사인 마이크로소프트(Microsoft)와 텔레포니카(Telefonica)를 비롯해 세일스포스(Salesforce), 세계 이동통신 사업자협회(GSMA) 등 글로벌 기업 중심으로 유네스코의 AI 윤리 권고 이행을 촉진하며, AI 윤리 영향 평가 도구를 개발하고 운영 우수 사례를 확산하는 플랫폼 역할을 합니다. 이를 통해 국제사회에 AI 윤리 실천 선도 사례를 적극적으로 알리는 한편, 국내 AI 업계의 목소리를 전달하고 더 나아가 주도적으로 참여할 수 있도록 독려하는 구심점 역할을 할 계획입니다.

이번 포럼은 AI가 가져올 긍정적인 미래와 함께 그 과정에서 발생할 수 있는 불평등과 도전을 어떻게 해결해 나갈지에 대한 고민이 계속해서 필요함을 한 번 더 깨닫는 시간이었습니다. AI의 발전과 사회적 영향 범위가 확대됨에 따라 앞으로 글로벌 논의가 점점 더 많아질 것으로 예상됩니다. 앞으로도 LG AI연구원은 기술의 긍정적인 영향을 극대화하고 잠재적인 부정적 측면을 최소화하기 위한 국제적인 움직임에 동참해 나가겠습니다.