[AI 윤리 책무성 보고서 EP.2] 안전과 신뢰를 향한 여정, ‘2025 AI 윤리 책무성 보고서’를 공개합니다

LG AI연구원은 인류의 삶에 기여하고 신뢰할 수 있는 AI를 지향해 왔습니다. 오늘날 AI는 단순한 기술적 도구를 넘어 우리의 일상과 산업 현장은 물론, 국가 경제와 안보에까지 큰 영향을 미치고 있습니다. 이에 따라 AI에 요구되는 사회적 책임과 윤리적 기반 역시 선택이 아닌 시대적 필수 요소가 되었습니다.

LG AI연구원은 매년 ‘AI 윤리 책무성 보고서’를 발간하며 책임있는 AI(Responbible AI)와 포용적인 AI(Inclusive AI)를 양대 축으로 윤리 거버넌스와 실행 성과를 지속적으로 공개해오고 있습니다. 올해로 세 번째를 맞이한 이번 보고서에서는 급속도로 진화하는 AI 환경 속에서 기술의 안전성(Safety)을 강화하고, 사회적 신뢰(Trust)를 구축하기 위한 구체적인 실천과 성과를 담았습니다.  

2025년의 핵심 키워드: ‘안전’과 ‘신뢰’를 향한 끝없는 고민 

2025년은 글로벌 AI 거버넌스 지형이 재편되는 가운데, 국내에서도 2026년 1월 시행된 ‘AI 기본법’을 중심으로 제도적 기반 마련을 위한 논의와 준비가 본격적으로 진행되고 있습니다. LG AI연구원은 이러한 변화에 수동적으로 대응하기보다, 고객과 사회가 안심할 수 있는 환경을 만들고자 기술적 안전과 신뢰를 선제적으로 구축하는 데 역량을 집중했습니다.  

Responsible AI 주요 성과 및 실천 사례

■ 윤리 거버넌스 및 AI Safety 체계 고도화 

- 윤리영향평가 적용: LG AI연구원은 AI 기본법 시행 전인 2024년부터 연구원이 수행하는 모든 과제에 윤리영향평가를 도입했습니다. 2025년에는 60여 개 과제를 평가하여 219건의 잠재위험을 사전에 식별하고 해결방안을 논의, 이행했습니다. LG AI연구원은 과제 전 주기에 걸쳐 발견된 위험 요소를 방치하지 않고 신뢰할 수 있는 AI를 구축하기 위한 리스크 관리 체계를 강화하고 있습니다.

- 데이터 컴플라이언스 강화: AI 기반 데이터 컴플라이언스 체계인 ‘EXAONE NEXUS’를 통해 학습 데이터 생애 주기 전반의 리스크를 심층 추적하고 법적 리스크를 식별함으로써 안전성을 높이기 위한 노력을 가속화했습니다.  

 

이미지 1.  AI 기반 데이터 컴플라이언스 체계 'EXAONE Nexus'

- K-AUT 위험분류체계 구축: LG AI연구원은 AI 기술이 가져올 수 있는 잠재적 위협에 선제적으로 대응하고자, 인류 보편적 가치와 한국 고유의 법적·사회적·문화적 특성을 반영한 AI 위험분류체계(AI Risk Taxonomy) K-AUT(Korea-Augmented Universal Taxonomy)를 독자 개발했습니다.

K-AUT는 세계인권선언 및 유네스코(UNESCO) AI 윤리 권고 등 국제 규범을 근간으로 하되, 한국 특유의 사회문화적 역동성을 세밀하게 반영한 것이 특징입니다. 이는 국내외 어디서나 통용될 수 있는 ‘책임 있는 AI’의 새로운 글로벌 기준을 제시했다는 점에서 의미가 깊습니다.

AI의 위험 요소를 4개 핵심 영역과 226개의 세부 항목으로 정교하게 구조화한 이 체계는 연구자와 개발자가 실무 현장에서 즉각적인 윤리적 판단을 내릴 수 있도록 실질적인 가이드라인이 되어줍니다. 보고서 부록(Appendix 2)을 통해 위험분류체계 세부 내용을 확인하실 수 있습니다. 

 

이미지 2.  범용 AI 위험분류체계 한국판(K-AUT) 

■ 신뢰할 수 있는 기술 연구 

- 멀티모달 AI의 신뢰성을 높이는 환각(Hallucination) 완화 연구: 비디오를 이해하고 설명하는 Video LLM이 영상에 존재하지 않는 장면을 지어내는 '환각 현상'을 해결하기 위해, 시·공간 정보를 분리하여 처리하는 'MASH-VLM' 기법과 새로운 위치 인코딩 방식(Harmonic-RoPE)을 도입했습니다.

AI가 배경만 보고 행동을 단정 짓거나 특정 정보에만 과도하게 집중하는 편향성을 개선함으로써, 안전 관제나 산업 현장 등 정확한 상황 판단이 필수적인 영역에서 멀티모달 AI를 더욱 안심하고 활용할 수 있는 기술적 토대를 마련했습니다. 

 

이미지 3. 멀티모달 AI의 신뢰성을 높이는 환각(Hallucination) 완화 연구 

▶ 연구 논문: Bae, Kyungho, et al. "Mash-vlm: Mitigating action-scene hallucination in video-llms through disentangled spatial-temporal representations."

- 차세대 딥페이크 탐지 기술(WaRPAD) 개발: 최근 생성형 AI의 발전으로 실제 사진과 구분하기 어려운 이미지가 대량으로 생성·유통되면서, AI가 생성한 이미지인지 여부를 신뢰성 있게 판별하는 문제가 중요한 윤리적 과제로 부상하고 있습니다.

이에 LG AI연구원은 생성형 AI로 만든 이미지의 미세한 질감 변화를 포착하는 ‘훈련 없는(training-free)’ 탐지 방법론 WaRPAD를 개발했습니다. 특정 생성 모델에 의존해 재학습이 필요했던 기존 방식과 달리, 이미지의 고주파 성분 변화 민감도를 판별 신호로 활용하여 다양한 생성 방식과 해상도에서도 높은 탐지 성능을 발휘합니다. 이를 통해 날로 정교해지는 딥페이크 위협으로부터 디지털 콘텐츠의 투명성을 확보하고, 책임 있는 AI 활용 환경을 선제적으로 구축하고 있습니다. 

 

이미지 4. 차세대 딥페이크 탐지 기술 WaRPAD 개발

▶ 연구 논문: Choi, Sungik, Hankook Lee, and Moontae Lee. "Training-free Detection of AI-generated images via Cropping Robustness."

■ AI 윤리 문화의 내재화 
신뢰할 수 있는 AI는 연구자들의 깊은 고민과 자발적인 실천 속에서 탄생합니다. LG AI연구원은 일방적인 교육을 넘어, 구성원 스스로 윤리의 필요성을 공감하고 업무에 자발적으로 적용할 수 있도록 ‘소통과 참여의 문화’를 정착시키고 있습니다.

- 서로에게 배우는 AI 윤리 세미나: 'AI 윤리 세미나'는 구성원이 자신의 전문성과 경험을 바탕으로 주제를 선정하고, 치열한 토론을 통해 우리 조직만의 윤리적 해법을 찾아가는 자발적 지식 공유의 장입니다. 2025년에는 글로벌 거버넌스부터 공정성, 안전성, 철학까지 11개 주제를 폭넓게 다뤘으며, 구성 만족도 5점(5점 만점)을 기록해 윤리적 고민이 실제 업무에도 긍정적인 영향을 미치고 있음을 확인했습니다.

 

이미지 5. 2025 AI 윤리 세미나 커리큘럼

 

Inclusive AI 주요 성과 및 실천 사례  

■ EXAONE 및 K-EXAONE을 통한 '포용적 AI' 실현
LG AI연구원은 독자적인 기술력을 독점하지 않고 오픈소스 플랫폼을 통해 전 세계 연구자들과 공유하며 ‘포용적 AI 가치’를 실현하고 있습니다.  

- 글로벌 AI 생태계 기여: EXAONE 4.0 32B 모델을 ‘허깅페이스(Hugging Face)’에 공개, 2025년 12월 기준 누적 다운로드 880만 건을 돌파하고 300개 이상의 파생 모델이 생성되며 글로벌 기술 신뢰도를 입증했습니다.

 

이미지 6. EXAONE과 K-EXAONE의 성능지표

- 교육기관 활용 전면 무상화: 기존 연구 목적에 국한됐던 라이선스 범위를 초·중·고교 및 대학 등 전체 교육기관으로 확대해 비용 부담 없이 최신 AI 기술을 활용할 수 있는 인프라를 제공합니다.

LG AI연구원은 과학기술정보통신부 주관 ‘독자 AI 파운데이션 모델 프로젝트’에 참여해 대규모 AI 모델 K-EXAONE을 개발했습니다. K-EXAONE은 벤치마크 평가, 전문가 평가, 사용자 평가 전 부문 1위를 차지하며 2차 단계에 진출했습니다.  

- 압도적 아키텍처: K-EXAONE은 2,360억 개의 파라미터를 보유하면서도, 추론 시 필요한 230억 개만 선택적으로 활성화하는 MoE(Mixture-of-Experts) 구조를 채택했습니다. 이를 통해 거대 모델의 지능과 연산 효율성을 동시에 확보했습니다.

- 글로벌 최상위 성능: K-EXAONE은 글로벌 AI 성능 평가 기관 '아티피셜 어낼리시스'의 인텔리전스 지수에서 오픈 웨이트 모델 기준 세계 7위(국내 1위)를 차지했습니다. 또 허깅페이스 공개 직후 글로벌 모델 트렌드 순위 2위에 오르며 전 세계 연구자들의 주목을 받기도 했습니다. 

 

이미지 7. K-EXAONE 성능 평가 세계 7위
 

- 차별화된 안전성: 자체 개발한 ‘KGC-SAFETY’ 벤치마크 평가 결과 96.1%의 성능을 달성했습니다. 특히 글로벌 모델들이 취약한 '한국적 특수성'과 '미래 위험' 영역에서 확연한 우위를 보였습니다.  

 

■ 모두를 위한 양질의 AI 교육 제공

- 국내 최초 사내대학원 'LG AI대학원' 정식 인가 및 운영: 2025년 교육부로부터 설치 인가를 획득하며, 기업이 주도하여 정식 석·박사 학위를 수여하는 국내 최초의 사내대학원인 ‘LG AI대학원’의 시대를 열었습니다. 단순한 직무 교육을 넘어 전자, 화학, 바이오 등 LG그룹의 실제 산업 데이터를 활용해 현장의 복합적인 난제를 해결하는 실전형 커리큘럼을 구축했습니다. 이를 통해 도메인 전문성과 고도의 AI 기술력을 겸비한 핵심 인재를 양성하며, 국내 AI 인재 생태계의 질적 성장을 선도하고 있습니다.

- AI 리터러시 및 윤리 교육 확산: 국내외 AI 윤리 및 리터러시 증진을 위해 양질의 교육 프로그램을 제공하며, 국내에서만 연간 4만 명 이상의 교육 수혜자 양성 성과를 달성해냈습니다. 특히 오는 5월에는 글로벌 온라인 교육 플랫폼(MOOC)을 통해 해외로도 교육 범위를 확대할 예정입니다. 기술 혁신의 혜택이 소수에게 집중되지 않고, 사회 구성원 모두가 AI를 올바르고 안전하게 활용할 수 있는 역량을 갖추도록 지원함으로써 기업의 사회적 책임을 다하고 있습니다. 

■ 글로벌 AI 윤리 리더십 및 파트너십

- 세계 최초 IEEE SA AI 윤리 제품 인증 획득: LG AI연구원은 2024년 9월, 한국 기업 최초로 IEEE(전기전자공학자협회)가 주관하는 AI 윤리 인증 프로그램 ‘IEEE CertifAIEd’의 공식 평가 기관(Authorized Assessor) 자격을 획득했습니다.

단순한 자격 획득에 그치지 않고, LG AI연구원은 LG전자의 AI 홈 허브 ‘LG 씽큐 온(LG ThinQ On)’에 대한 엄격한 윤리 검증을 직접 수행했습니다. 그 결과, 전 세계 정부 및 공공기관 중심이었던 인증 사례를 넘어 민간 기업 제품으로서는 세계 최초로 ‘AI 제품 인증(CertifAIEd AI Product)’을 수여받는 쾌거를 이루었습니다.

이미지 8. LG전자가 선보인 AI홈 허브 'LG 씽큐 온(ThinQ ON)'

이번 인증은 AI의 기술적 성능을 측정하는 지표를 넘어, 글로벌 표준 기구로부터 실제 가전제품이 인간의 가치와 권리를 보호하도록 설계되었음을 공인받았다는 점에서 의미가 깊습니다. 이를 통해 LG는 ‘윤리 준수’가 기술 혁신의 걸림돌이 아니라, 고객에게 차별화된 신뢰를 제공하며 제품의 본질적인 경쟁력을 높이는 핵심 자산임을 전 세계에 증명했습니다.
 

- 유네스코(UNESCO) 협력 AI 윤리 MOOC 개발: 전 세계 15명의 석학 및 전문가로 구성된 국제자문위원회와 함께 '글로벌 AI 윤리 교육 과정'의 10개 핵심 모듈을 확정했습니다. 특히 이론과 현실의 간극을 메우기 위해 37개국에서 수집된 120건 이상의 실제 AI 윤리 적용 우수 사례를 커리큘럼에 반영했습니다. 본 교육 콘텐츠는 2026년 상반기 Coursera 등 글로벌 플랫폼을 통해 전 세계에 무료로 공개되어 책임 있는 AI 확산에 기여할 예정입니다.

 

이미지 9. AI 윤리 MOOC 커리큘럼(안)

LG AI연구원은 앞으로도 기술 혁신의 혜택이 소수에게만 집중되지 않도록, 그리고 AI가 사회의 더 큰 신뢰를 얻을 수 있도록 노력할 것입니다. ‘책임 있는 AI’를 넘어 모두를 위한 ‘포용적 AI’를 향해 나아가며, 불확실성의 시대에도 변하지 않는 신뢰의 가치를 증명해 나가겠습니다. 

▶ LG AI 윤리 책무성 보고서 자세히 보기