[AI 윤리 책무성 보고서 EP.2] Responsible AI - AI 생태계의 올바른 발전을 위한 실천

LG AI연구원은 AI 윤리 실천 성과를 공개하는 ‘LG AI 윤리 책무성 보고서’를 공개했습니다. 특히 이번 보고서에는  ‘포용적 AI(Inclusive AI)’와 ‘책임 있는 AI(Responsible AI)’ 실현을 위한 LG의 노력이 소개됐습니다. 첫 번째 시리즈에서 포용적 AI에 대해 다뤘다면, 이번 두 번째 시리즈에서는 책임 있는 AI 실현을 위한 LG의 실천 활동을 전합니다. 거버넌스, 연구, 참여 세 가지 측면에서 다양한 AI 윤리 활동을 실천했으며 특히, 올해에는 AI 윤리 실천을 위해 AI 윤리영향평가 프로세스와 데이터 컴플라이언스 체계를 마련했다는 점이 의미있는 성과입니다.  

▶ LG AI 윤리 책무성 보고서 자세히 보기

▶ [AI 윤리 책무성 보고서 EP.1] Inclusive AI - AI Action Summit 참여부터 AI 윤리 책무성 보고서 발행까지 

1. 거버넌스 - AI 윤리 실행을 위한 조직과 절차

AI 연구 및 이용의 전 과정에 걸쳐 AI 윤리의 시각에서 감시하고 관리하는 조직과 절차를 갖추어 나갑니다. LG AI연구원은 내부 및 그룹 차원의 AI 윤리 조직을 구성하고 전체 AI 과제에 대한 AI 윤리영향평가를 운영하며, 데이터의 위험을 평가하는 데이터 컴플라이언스 프레임워크를 개발하는 등 적극적인 활동을 실천하고 있습니다.  

AI 윤리영향평가

AI 윤리를 체계적으로 실행하기 위해서는 내부 조직과 절차가 함께 마련되어 체계적인 거버넌스가 갖춰져야 합니다. LG AI연구원은 2024년부터 ‘AI 윤리영향평가’를 새롭게 도입해, AI 과제의 기획 단계부터 완료되는 시점까지 윤리적 요소를 면밀히 검토하고 적용할 수 있도록 했습니다. 2022년과 2023년에 걸쳐 파일럿 운영을 통해 사전 검증을 마친 뒤, 2024년부터는 LG AI연구원의 모든 과제에 AI 윤리영향평가를 도입했습니다. 이를 통해 모든 과제에 대해 윤리적 영향을 사전 점검하고, 필요 시 보완해 가며 과제를 완료하도록 프로세스를 마련했습니다.

2024년 한 해 동안 LG AI연구원은 70여 건 이상의 AI 과제에 AI 윤리영향평가를 도입했으며, 그 결과 총 229건의 잠재적 위험 요소를 식별해 보완했습니다. 발견된 잠재적 위험 요소 중에서는 데이터 관련 내용이 전체의 46%로 가장 많았고, ‘저작권 관련 법적 문제’, ‘민감 데이터 사용으로 인한 프라이버시 침해’ 등이 주요 문제로 논의되었습니다.

발견한 위험 요소에 대해서는 개별 데이터셋 점검, 피드백 및 모니터링 시스템 구축, 사용자 권한 관리 체계 수립/실행 등 해결을 위해 다방면의 노력을 기울였습니다. 일부 위험도와 난이도가 높은 요소는 아직 해결 진행 중이며, 관련 내용은 모두 문서화함으로써 책임성과 투명성을 강화했습니다. 이번에 공개한 보고서에도 이에 대한 내용을 투명하게 다룬 이유입니다. 

데이터 컴플라이언스

제3자가 데이터를 학습에 활용하는 사례가 늘어나면서, 데이터의 법적 리스크 관리 중요성도 높아지고 있습니다. 이에 따라 LG AI연구원은 데이터 컴플라이언스 프레임워크를 개발해 AI가 학습하는 데이터의 법적 리스크를 체계적으로 평가하고 있습니다. 데이터 컴플라이언스 프레임워크는 제한된 자원으로 방대한 데이터셋을 검토해야 하는 한계를 극복하기 위하여, AI 에이전트를 통해 미국, 영국, EU, 한국, 중국을 포함한 다양한 관할권의 저작권법, 판례 및 AI 규제 등을 고려하여 리스크를 평가합니다. AI 개발에 활용되는 데이터를 총 18개의 법적 관점으로 분석하여 잠재적 위험을 검토하고, 총 7개의 위험 등급 중에서 평가 결과를 도출합니다. 

2. 연구 - AI 윤리 문제 해결을 위한 연구

LG AI연구원은 AI 기술의 한계를 극복하고 신뢰할 수 있는 AI를 만들기 위해 다양한 연구를 진행하고 있습니다. 이번 보고서에서는 책임 있고 신뢰할 수 있는 AI를 만들기 위한 연구 과정과 그 성과가 상세히 담겼습니다. 

Deepfake Detection

AI 콘텐츠의 안전한 활용을 위해서도 노력하고 있습니다. 특히 딥페이크 등 AI 생성 이미지로 인한 피해를 예방하기 위해, LG AI연구원은 별도의 데이터셋 훈련 과정 없이 AI 생성 이미지 여부를 감별할 수 있는 기술을 개발했습니다. 해당 모델의 성능은 타 모델 대비 최고 수준(SOTA, State of the Art)을 달성했습니다. 

본 연구는 AI 생성 이미지에 혁명을 일으킨 모델이자 현재 가장 널리 사용되는 잠재 확산 모델(Latent Diffusion Model)이 이미지를 생성할 때, 메인 윤곽은 아주 정확하지만 텍스쳐와 같은 미세한 디테일에서 왜곡(Distortion)이 발생한다는 사실을 이용했습니다. AI 생성 이미지를 구분하기 위해 별도의 데이터셋을 수집하고 학습해야 했던 기존 딥페이크 판별 모델들과 달리, 이번에 개발한 방법은 추가적인 학습 데이터가 필요 없어 비용을 크게 절감할 수 있습니다. 특히 대부분의 이미지 생성 AI 모델이 실제 학습에 사용한 데이터를 공개하지 않는 현실에서, 특정 데이터셋에 종속되지 않고 광범위하게 적용할 수 있다는 장점이 있습니다.

▶ 연구 논문 : Sungik Choi, et al. “HFI: A unified framework for training-free detection and implicit watermarking of latent diffusion model generated images”

3. 참여 - AI 윤리 인식 증진 활동

LG AI연구원은 연구자들이 윤리적 책임감을 가지고 신뢰할 수 있는 AI를 개발하도록 다양한 교육과 인식 증진 활동을 체계적으로 추진합니다. 구성원의 AI 윤리 인식 수준을 조사하고 변화를 추진해 가는 ‘AI 윤리 인식 조사’, 구성원이 함께 모여 AI 윤리에 대한 인사이트를 나누는 ‘AI 윤리 세미나’, 신규 구성원이 AI 윤리를 기본 원칙으로 삼을 수 있도록 지원하는 ‘신규 입사자 AI 윤리 교육’ 등을 추진하고 있습니다.

AI 윤리 인식 조사

2024년 AI 윤리 인식 조사 결과 2023년 대비 전반적으로 긍정적인 변화가 관찰되었습니다. AI 윤리의 필요성은 두 해 모두 4.6점으로 높은 수준을 유지하며, 연구원 내 AI 윤리의 중요성이 핵심 가치로 안정적으로 자리 잡았음을 보여주었습니다. 주목할 만한 변화는 실천 영역에서 나타났습니다. 개인의 AI 윤리원칙 실천 수준이 3.8점에서 4.0점으로, LG AI연구원 차원의 AI 윤리원칙 이행 수준에 대한 평가는 3.8점에서 4.2점으로 각각 상승했습니다. 이는 AI 윤리영향평가 도입, AI 윤리 세미나 개최, AI 윤리 책무성 보고서 발간 등의 활동이 실질적인 효과를 거두고 있음을 시사합니다.

여전히 보완이 필요한 부분도 있습니다. 개인의 실천(4.0점)과 LG AI연구원 차원의 AI 윤리원칙 이행 수준(4.2점) 영역은 여전히 인식 수준(4.6점)에 비해 상대적으로 낮은 점수로 나타났으며, 직급 간에도 AI 윤리 필요성에 대한 인식 차이가 다소 나타났습니다. 이러한 격차를 줄이기 위한 활동을 지속 추진할 계획입니다. 

우리는 서로의 경험과 교훈을 나누며, 더 나은 길을 찾아갈 수 있다고 믿습니다. LG AI연구원이 실천하고 공유하는 AI 윤리 활동이 더 나은 AI 생태계를 만드는 데 기여할 수 있기를 기대하며, 앞으로도 끊임없이 고민하고 도전하겠습니다.