AI 윤리 전문가가 끊임없이 도전하는 이유

AI가 산업 영역과 일상 곳곳에 스며들기 시작함에 따라, AI 기술의 혜택을 확대하고 리스크를 줄이기 위해 치열하게 고민하는 이들이 있습니다. 바로 LG AI연구원의 AI 윤리 전문가, 김명신 님과 안소영 님입니다.

두 사람은 지난 1년 간 LG AI연구원의 AI 윤리 성과를 정리한 ‘AI 윤리 책무성 보고서’ 작성에 참여하고, 최근에는 국내 기업 중 유일하게 유네스코 글로벌 AI 윤리 포럼에 초청받아 세계 무대에서 LG AI연구원의 AI 윤리 이행 성과를 알리기도 했습니다. 삶을 이롭게 하는 AI 기술을 위해 끊임없이 도전하는 두 사람을 직접 만나, 그들의 이야기를 들어봅니다.

‘AI 윤리’는 AI가 책임 있고 신뢰할 수 있게 개발·활용될 수 있도록 하는 원칙과 지침

이미지 1. AI 윤리 전문가 김명신 님과 안소영 님

Q. 'AI 윤리' 라는 단어는 어떻게 생각하면 쉽고, 어떻게 생각하면 좀 추상적이에요.

김명신 님 : 많은 사람들에게 'AI 윤리'라는 단어는 아직 낯설게 다가오는 것 같습니다. 하지만 빠르게 발전하는 AI 기술로 인해 발생할 수 있는 부작용에 대한 우려가 커지면서 AI 윤리에 대한 관심도 높아지고 있다는 생각이 듭니다. 얼마 전 오랜만에 만난 친구에게 'AI 윤리' 업무를 담당하고 있다고 하니, “아, 터미네이터 같은 게 나오지 않도록 하는거네”라는 말을 들었는데요. 정확하지는 않지만, ‘AI 윤리'를 이만큼 쉽게 한 마디로 설명하기도 어렵겠다는 생각이 들었습니다. 

Q. 간단하지만 확실히 이해되는 비유인 것 같습니다. 그렇다면 AI 윤리 전문가에게 필수적인 역량과 가치관은 무엇이라고 생각하시나요? 

안소영 님 : AI 연구·개발의 과정을 다양한 관점에서 바라보며 '좋은 질문'을 던질 수 있는 역량이 중요합니다. 의도적으로 나쁜 AI를 만드는 사람은 거의 없을 거에요. 하지만 AI는 기술 발전 속도가 워낙 빠르고, 새로운 분야를 개척하는 것이다 보니 연구·개발 과정에서 예기치 못한 이슈가 파생되는 경우가 있죠. 그래서 AI 윤리 전문가는 ‘기술로 인해 어떤 이슈가 생길까’라는 질문을 먼저 던져 예상 이슈를 찾아내고, 대응 방안을 미리 만들어가는 역할을 해야 한다고 생각합니다.

김명신 님 : AI 윤리는 ‘종합 예술’이라는 생각이 듭니다. AI 윤리는 AI 서비스의 기획부터 학습 데이터 수집과 정제, 라벨링, 그리고 알고리즘을 통한 모델 개발과 서비스 운영 및 관리의 모든 과정에 적용되는 윤리를 총칭하는 개념입니다. 뿐만 아니라 다양한 이해관계자에게 AI 서비스가 미치는 영향도 고려해야 하죠. 이런 특성을 고려할 때, AI 윤리 전문가는 나무와 숲을 함께 바라볼 수 있어야 한다고 생각합니다. 그리고 사용자를 비롯한 다양한 이해관계자의 입장에서 AI 시스템을 바라보고 평가할 수 있는 공감 능력도 필요하다는 생각이 듭니다.

다수가 AI의 혜택을 누릴 수 있는 방법에 대한 논의가 앞으로의 화두일 것

이미지 2. AI 윤리 분야 화두에 대해 이야기하는 김명신 님

Q. AI 윤리 분야에서 최근 가장 활발하게 논의되는 주제는 무엇인가요?

김명신 님 : 주목할 만한 AI 윤리 분야의 화두는 안전성입니다. 인류가 예상하고 대응하기 어려운 수준의 빠른 속도로 AI가 발전할 수 있다는 우려와 함께, EU는 최근 고위험 AI 등을 규제하는 EU AI법을 채택했고, 미국과 영국, 일본은 AI 위험 관리를 전담할 AI 안전 연구소를 설립했습니다. 우리나라 역시 AI 안전 연구소 설립을 준비하고 있고요. AI의 ‘위험 관리’와 ‘안전한 사용’이 새로운 키워드로 부상하고 있음을 알 수 있는 대목입니다.

안소영 님 : 미래의 고위험 AI를 안전하게 대비하는 것도 중요하지만, LG AI연구원은 현재의 AI가 만들어내는 문제부터 해결 방안을 모색하고 있습니다. 대표적인 현재형 문제는 AI가 생성하는 콘텐츠에 반영되는 사회적 가치와 편향성 문제입니다. 예를 들어 얼마 전 글로벌 AI 기업의 이미지 생성 AI 서비스가 이슈가 된 적 있었습니다. 미국 역사 속 주요 인물을 그려달라고 요청하자, 사실과는 무관하게 흑인과 아메리카 원주민 등 유색 인종의 이미지를 위주로 만들어내며 논란이 되었습니다. 이전에 변호사, CEO 등의 직업군 이미지를 생성할 때 유색 인종이 거의 등장하지 않아 논란이 되었던 경우와 정반대의 상황입니다. AI는 학습 데이터에서 사회적 편견을 쉽게 학습하기 때문에 다각도에서 세심하게 살펴보아야 합니다.

김명신 님 : 앞에서 언급한 사례는 보편적인 가치 외에도 국가, 사회의 특수성을 고려해야 한다는 교훈을 줍니다. 지난 몇 년 간 AI 윤리의 화두는 공정성이었습니다. 인종과 피부색, 성별, 연령, 출신 및 거주 지역 등에 따라 AI가 사람을 차별하거나 편향된 답변을 만드는 경우들이 국내외에서 지속적으로 이슈가 되어 왔고, 이런 문제를 극복하고자 하는 다양한 노력들이 있었습니다. 하지만 단순히 인류 보편적 가치에 입각해서 차별과 편향을 없애야 한다는 데 집중하다 보면, 상대적으로 국가마다 가지고 있는 역사 문화적 맥락을 간과할 수 있습니다. 그래서 앞의 사례와 같은 현상이 일어난 것입니다. 이제는 인류 보편적 가치 뿐만 아니라 각국의 역사 문화적 특수성을 함께 고려해, 보다 공정하고 신뢰할 수 있는 AI를 구현하는 단계로 넘어왔다고 볼 수 있습니다.

안소영 님 : AI 윤리 문제는 이렇게 한 가지 측면만 고려하면 안 된다는 점이 참 어렵습니다. 한 가지 사례를 더 말씀드리자면, 글로벌 AI 기업의 CEO에 대한 소송이 제기된 적이 있었습니다. AI 기업이 ‘인류를 위해 AI를 개발한다’는 설립 초기 목적과 달리, 현재 AI 모델에 대한 정보를 투명하게 공개하지 않고 영리를 취하고 있다는 이유였습니다.  

이 문제 또한 양측의 입장이 다릅니다. 특정 기업이 AI 기술을 폐쇄적으로 개발하며 독점한다면, 기업 간의 기술 격차는 커지고 기업 간 불평등과 양극화가 심해질 수 있습니다. 하지만 반대로 기업이 AI 기술을 모두 공개한다면, 일반 사용자가 AI를 악의적으로 활용하기도 쉬워지는 문제가 생길 수도 있습니다. 현실 속 갈등의 원인을 살펴보고 AI 윤리와 AI 규제, 규범을 어떤 방향으로 발전시켜 나가야 하는지에 대해 섬세한 논의와 고민이 필요한 지점입니다.

김명신 님 : 앞으로 AI 윤리 화두는 무엇이 될까요? 제 생각에는 포용성이 아닐까 싶습니다. 지금 이 순간 전 세계 인구의 약 30% 이상인 26억 명의 사람들은 인터넷에 접속조차 할 수 없는 형편이고, 여전히 우리나라 안에서도 AI 서비스를 사용해보지 않은 사람이 적지 않습니다. 앞으로는 ‘누구도 소외되지 않고 AI 기술의 혜택을 누리도록 하기 위하여 우리는 무엇을 어떻게 해야 하는가’에 대한 포용성 논의가 AI 윤리의 중심에 서게 될 것이라 생각합니다.

Q. 대화하다 보니 두 분의 ‘케미’가 좋은 게 느껴집니다.

안소영 님 : 저희 둘의 전문 분야가 다르다 보니, 서로 보완해주면서 케미가 쌓였던 것 같습니다. 특히 최근에 글로벌 이해관계자들과 AI 윤리 협력을 진행하는 경우가 많았는데, 그럴 때마다 명신 님의 대외 협력 역량 덕을 크게 봤습니다. 국가 간의 입장 차이가 있을 때 명신 님이 외교적인 관점에서 상호 간 협의점을 잘 찾아 주시고, 서로 융합할 수 있도록 대화의 흐름을 발전시켜 주셨습니다. 덕분에 LG AI연구원이 유네스코의 글로벌 AI 윤리 포럼에 참석해 여러 글로벌 기업들과 협력하는 성과를 낼 수 있었습니다.

김명신 님 : 소영 님을 통해서 AI 기술 지식을 많이 배우고 있습니다. 저는 지금까지 국내외 AI 윤리 정책과 규범 관련 업무를 위주로 커리어를 쌓아왔던 터라, 상대적으로 AI 기술에 대한 지식은 깊지 않은 편입니다. 가끔 개발자 분에게 질문했을 때, 제가 이해할 수 없는 범위의 전문적인 답변을 주셔서 난감할 때도 있습니다. 소영 님은 제 눈높이에 맞게, 그리고 AI 윤리 측면에 적합하게 설명을 굉장히 잘해 주십니다. 소영 님처럼 적절하게 설명해줄 수 있는 사람과의 대화가 얼마나 도움이 되는지 다들 공감하실 겁니다. 

이미지 3. AI 윤리 업무에 대한 체계적인 접근

Q. LG AI연구원의 AI 윤리 업무가 가진 차별점이 있나요?

김명신 님 : 두 가치 측면을 말씀드리고 싶습니다. 첫 번째는 종합적인 접근(Holistic Approach)입니다. 많은 AI 기업들이 윤리적인 문제를 개선하기 위해 연구에만 초점을 맞추는 경향이 있습니다. LG AI연구원은 연구 뿐만 아니라, AI 윤리 실행을 위해 거버넌스 - 연구 - 참여라는 세 가지 축의 전략을 마련하여 체계적으로 실천하고 있습니다. AI 라이프사이클 전반에 걸쳐 윤리적 이슈를 관리, 감독하기 위한 조직과 절차를 갖추었으며, AI 윤리 문제를 해결하기 위한 심도 깊은 기술 연구는 물론, 구성원들의 AI 윤리 인식 증진을 위한 다양한 교육 활동도 함께 진행하고 있습니다.

두 번째는 이러한 AI 윤리 실행의 과정과 결과를 투명하게 공개하고 있다는 점입니다. 2015년 이후 지난 10여년 간 글로벌 빅테크를 비롯한 수많은 기업들이 AI 윤리원칙을 발표했지만, 자신들의 AI 윤리 실행 성과를 외부 이해관계자에게 공개적으로 발표한 곳은 매우 찾아보기 힘들죠. LG AI연구원은 AI 윤리에 진심을 갖고 실천했기 때문에 올해 1월 ‘LG AI 윤리 책무성 보고서’를 자신 있게 발간할 수 있었고, 앞으로도 매년 AI 윤리 이행 결과를 투명하게 공개해 나갈 예정입니다.

안소영 님 : AI 윤리 책무성 보고서는 지난 1년간 LG AI연구원이 다양한 분야에서 실행해 온 윤리 활동을 명확하게 정리했다는 점에서 의미가 남다릅니다. 특히 보고서를 작성하면서 LG AI연구원의 실행 성과를 객관적으로 바라보니, 아직 부족한 활동이 무엇인지도 파악할 수 있었습니다. AI 윤리 측면에서 어떤 활동이 보완되어야 하는지 확실히 알았기 때문에 올해는 더 의미 있는 실행을 많이 해나갈 수 있을 것 같습니다. 또 보고서를 작성하는 과정에서 구성원 분들과도 많이 이야기를 나눴는데, 이 과정을 통해 AI 윤리 활동을 구성원 분들에게 알린 효과도 있었다고 봅니다. 구성원들과 소통하며 AI 윤리를 발전시켜 나가고자 하는 진심이 LG AI연구원의 경쟁력이자, 원동력이라고 생각합니다.

이미지 4. AI 윤리 책무성 보고서 작성의 의의를 이야기하는 안소영 님

Q. 앞으로 LG AI연구원의 AI 윤리 계획은 어떻게 되나요?

안소영 님 : 내부적으로는 대내외 이해관계자들로부터 다양한 의견을 받아 AI 윤리의 체계와 연구의 깊이를 더하는 데 집중할 계획입니다. 또한, 연구·개발과정에서 AI의 윤리적 영향을 고민하고, 해결방안을 함께 찾아가는 과정이 하나의 문화로 자리잡을 수 있도록 하고자 합니다.

김명신 님 : 대외적으로는 LG AI연구원이 AI 윤리 분야에서 글로벌 선도 기업으로 발돋움하도록 하는 것이 목표입니다. 단순히 글로벌 AI 규범 논의 동향을 모니터링하고 대응하는 것이 아니라, LG AI연구원의 선도적인 AI 윤리 실천 사례들을 국제사회와 적극적으로 공유함으로써 현재 진행 중인 글로벌 AI 규범 수립 과정에 기여하고자 합니다. 지난 2월 참여한 유네스코 AI 윤리 글로벌 포럼은 그런 의미에서 세계 무대로 나아가는 첫 시작이었다고 생각하는데요. 앞으로 유네스코와 다양한 협력을 진행할 계획입니다.

대표적으로 올해부터 ‘전문가 대상 AI 윤리 교육 MOOC’ 사업을 시작할 예정입니다. AI 전문가를 대상으로 하는 AI 윤리 교육 프로그램은 청소년이나 일반인 대상 교육 프로그램에 비해 아직 상대적으로 많이 부족한데요. 유네스코 및 전 세계 최고의 AI 윤리 전문가들과 협력하여, LG AI연구원의 AI 윤리 실천 사례 등을 바탕으로 개발자와 연구자 등을 위한 AI 윤리 교육 커리큘럼과 콘텐츠를 개발할 예정입니다. 이를 통해 대한민국의 대표 AI 기업, 나아가 아시아와 세계를 대표하는 AI 기업으로서 입지를 다지고 싶습니다.

LG AI연구원의 AI 윤리 전문가들의 도전은 앞으로도 계속됩니다. AI 윤리 실천의 이야기가 궁금하시다면, 아래 링크에서 더 자세한 내용을 확인해 보세요.

▶ AI 윤리 전문가, 김명신 님과 안소영 님 직무 탐구