1년간의 성과 담은 ‘AI 윤리 책무성 보고서’ 발간

LG AI연구원이 ‘LG AI 윤리원칙’의 이행 성과를 담은 ‘AI 윤리 책무성 보고서(Accountability Report on AI Ethics)’를 발간했습니다. LG AI 윤리원칙은 ①인간존중 ②공정성 ③안전성 ④책임성 ⑤투명성의 5대 핵심 가치로 구성되며, AI를 연구하고 활용하는 LG의 모든 구성원이 지켜야 할 올바른 행동과 가치 판단의 기준을 제시하는 지침입니다. 2024년 1월에 발표된 AI 윤리 책무성 보고서는 지난 1년간 AI 윤리원칙 실행에 힘써온 LG AI연구원만의 현실적인 고민과 진솔한 노력의 과정을 담고 있습니다.

보고서 제목에 담긴 ‘자발적 노력’

AI 윤리 책무성 보고서에서 눈에 띄는 것은 보고서의 제목에 포함된 ‘책무성(Accountability)’이라는 단어입니다. AI 윤리를 책임감 있게 실천하고, 실천 현황을 투명하게 공개함으로써 AI 기업으로서 책임을 다하겠다는 진심을 담았습니다. 특히 AI 윤리 책무성 보고서에 담긴 활동들은 법, 제도 등 규제에 의한 타의적 활동이 아니며, LG AI연구원이 자발적으로 실천한 성과라는 점에서 의의가 있습니다.

글로벌 AI 윤리원칙과 규범까지 살펴본 ‘최초’의 보고서

AI 윤리 책무성 보고서는 국내를 비롯해 글로벌 AI 윤리원칙과 규범을 분석하고, 글로벌 흐름에 맞춰 윤리 이행 현황을 정리한 최초의 사례입니다. LG AI연구원은 유네스코 회원국이 만장일치로 채택한 첫 국제표준인 ‘AI 윤리 권고(2021)’와 정부가 발표한 ‘AI 윤리기준(2020)’, ‘디지털 권리장전(2023)’에 부합하는 방향으로 AI 윤리를 실천해왔습니다. AI 윤리 책무성 보고서에서 유네스코의 AI 윤리 권고, 정부의 AI 윤리기준, 디지털 권리장전에 대한 내용 분석을 비롯해 각 항목에 맞는 LG AI연구원의 AI 윤리 실천 활동을 확인할 수 있습니다. 대표적으로 유네스코 AI 윤리 권고의 중요한 항목인 ‘AI 윤리 영향 평가’의 경우, AI 윤리 책무성 보고서의 13-14 페이지에서 LG AI연구원의 실천 활동을 확인할 수 있습니다.

AI 윤리 실천 키워드 : 거버넌스·연구·참여

LG AI연구원은 ‘거버넌스 구축 및 운영’, ‘AI 윤리 문제 해결을 위한 연구’, ‘AI 윤리 실천에 구성원 참여’라는 세 가지 전략을 추진해왔습니다. AI 윤리 책무성 보고서에는 각 키워드 별로 LG AI연구원이 진행해온 실천 활동들이 자세하게 소개되어 있습니다.

[키워드 1] 거버넌스 구축 및 운영

LG AI연구원은 AI 윤리 실천의 원동력을 확보하기 위해 거버넌스를 구축하고 운영하는 데 힘을 쏟고 있습니다. 특히 LG AI연구원은 AI 연구개발 및 이용의 전 과정에서 발생할 수 있는 잠재적인 윤리 문제를 사전에 파악하고 해결하기 위한 안전 장치인 ‘AI 위험 관리 프로세스’를 구축했습니다. AI 위험 관리 프로세스는 총 3단계로 진행되며, 1단계에서는 다양한 전문가들이 모여 AI 과제 별로 윤리 문제의 발생 가능성을 검토합니다. 이어 2단계에서는 식별된 윤리 문제를 ‘잠재적 위험성’과 ‘해결 난이도’ 측면에서 평가한 후, 윤리 문제 별로 우선순위를 설정해 해결하도록 관리합니다. 마지막 3단계에서는 윤리 문제가 해결되었는지 최종 점검하고, 투명한 관리를 위해 문서화 작업을 합니다.

LG AI연구원은 주요 과제를 선별해 AI 위험 관리 프로세스를 운영해왔으며, AI 윤리 책무성 보고서에는 ‘고객상담 효율과 AI 기술’ 과제가 대표적인 프로세스 적용 사례로 소개됐습니다.

LG AI연구원은 AI 위험 관리 프로세스 외에도 AI 윤리 실행을 위한 여러 조직과 절차를 마련, 운영하고 있으며 데이터 거버넌스 확보를 위해 다양한 파트너사와 협력도 이어가고 있습니다.

[키워드 2] AI 윤리 문제 해결을 위한 연구

LG AI연구원은 AI 기술이 나날이 발전하고 있으나 여전히 한계가 있다고 판단하고, 그 한계로 인해 발생하는 문제를 해결하기 위한 기술적 연구를 꾸준히 이어가고 있습니다. LG AI연구원의 초거대 AI인 EXAONE과 3대 플랫폼의 신뢰성을 높이기 위한 연구가 중점적으로 이뤄지고 있습니다.

특히 AI 윤리 책무성 보고서에는 전문 지식에 기반한 대화형 AI 플랫폼, EXAONE Universe에 대한 연구 성과가 공개됐습니다. 사실이 아닌 정보를 그럴듯하게 만들어 내는 환각(Hallucination) 현상을 해소하기 위해, LG AI연구원은 근거에 기반한 답변을 제시하는 AI 기술인 QASA(Advanced Question Answering on Scientific Articles)를 개발하고 이 성과를 2023년 세계 최대 규모의 AI 학술대회인 ICML에서 발표했습니다.

그 외에도 AI 윤리 책무성 보고서에는 LG AI연구원의 멀티모달(Multi-modal) 모델인 EXAONE Atelier, 과학적 지식 발견 및 예측 모델인 EXAONE Discovery에 대한 연구 성과도 포함됐습니다. 저작권 문제없는 데이터를 AI 모델 학습에 활용하고, 사회적 편향에 대한 평가 지표를 개발해 모델의 편향성을 완화하는 노력을 이어가고 있으며 건강과 보건, 에너지, 환경 분야의 난제 해결에 AI 기술을 적용하는 연구를 통해 인류의 지속가능성을 높이는 데 기여하고 있습니다.

[키워드 3] AI 윤리 실천에 구성원 참여 독려

AI 윤리를 자발적으로 실천하기 위해 중요한 것 중 하나는 바로 구성원들의 참여입니다. LG AI연구원은 구성원의 AI 윤리 인식 및 실천 현황을 점검하고 AI 윤리 실천의 개선점을 찾기 위한 ‘AI 윤리 인식 조사’를 비롯해, AI 윤리에 대한 구성원의 관심과 참여를 높이기 위한 ‘AI 윤리 세미나’도 주기적으로 개최하고 있습니다.

특히 AI 윤리 책무성 보고서에는 2023년에 실시된 LG AI연구원의 ‘AI 윤리 인식 조사’ 결과가 소개됐습니다. ‘AI 윤리를 왜 지켜야 하는가’라는 질문에 대해 ‘사회적 책임을 다하기 위해’라는 답변이 가장 높았고 ‘AI로 인한 잠재적 손실 예방’이라는 답변이 뒤를 이었습니다. LG AI연구원의 구성원들이 AI 연구에 있어 책임감을 느끼고 있음을 확인할 수 있는 대목입니다.

그 외에도 LG AI연구원은 임직원들을 위한 AI 전문 교육 프로그램인 ‘LG AI 아카데미’를 비롯해 청년들을 대상으로 한 AI 전문가 양성 프로그램인 ‘LG 에이머스’와 청소년 대상 AI 교육 기관 ‘LG디스커버리랩’을 통해 AI 리터러시 교육 활동을 전개하며 AI 교육 불평등 해소에도 기여하고 있습니다.

‘유네스코 AI 윤리 포럼’에 국내 기업으로는 유일하게 참가

LG AI연구원의 AI 윤리 실천 노력은 세계 무대에서도 인정받고 있습니다. 지난 2월 5일부터 이틀간 슬로베니아에서 열린 ‘유네스코 AI 윤리 글로벌 포럼(Global Forum on the Ethics of AI 2024)’에 LG AI연구원이 국내 기업 중 유일하게 초청받았습니다. 이에, 포럼에서 AI 윤리 책무성 보고서를 비롯한 AI 윤리 실천 현황을 발표하고 글로벌 빅테크, 유네스코 회원국 및 국제기구 인사들과 AI 윤리 및 거버넌스 분야 협력을 위한 논의를 진행했습니다.

LG AI연구원은 2024년을 시작으로 매년 AI 윤리 책무성 보고서를 발행하고, 거버넌스·연구·참여 3가지 실천 키워드 아래 AI 윤리 이행 성과를 투명하게 공개해 나갈 계획입니다. AI 윤리 실천에 ‘진심’인 LG AI연구원의 이야기, 앞으로도 기대해 주세요!