AI Elections Accord, 선거 딥 페이크 방지를 위해 모인 글로벌 기업들

이제 우리는 일상생활에서 자연스럽게 AI 기술을 만나고, 전에 없던 다양한 혁신을 경험하고 있습니다. 반면, 발전된 AI 기술을 옳지 않은 목적으로 악용하는 사례도 등장하고 있습니다. 대표적인 것 중 하나가 딥 페이크(Deep Learning+Fake) 입니다. 딥 페이크는 AI 딥 러닝 학습을 이용해 생성된 가짜 디지털 콘텐츠로, 직접적인 피해를 일으킬 뿐만 아니라 디지털 콘텐츠와 AI 기술에 대한 불신을 키울 수 있다는 점에서 문제로 지적되어 왔습니다.

특히 올해에는 딥 페이크 방지의 중요성이 더욱 대두되고 있습니다. 2024년은 총 76개국에서 선거가 개최되는 ‘슈퍼 선거의 해’로, 전 세계 인구의 절반 이상이 투표권을 행사하게 됩니다. AI가 생성한 ‘기만적인 AI 선거 콘텐츠(Deceptive AI election content)가 선거 결과나 여론에 영향을 줄 수 있기 때문입니다. 이에, 잠재적인 위험을 방지하고 올바른 방향으로 AI 기술이 사용될 수 있도록, 전 세계 20개의 글로벌 기업들이 하나로 뭉쳤습니다. 바로 세계 최대 안보 관련 국제회의인 뮌헨 안보회의(Munich Security Conference, MSC) 에서 발표한 ‘AI Elections Accord(AI 선거 협정)’입니다. 구글(Google), 마이크로소프트(MS), 메타(Meta), 아마존(Amazon) 등이 AI 선거 협정에 서명했고, LG AI연구원은 국내 기업으로는 유일하게 합류해 세계 무대에서 협력을 약속했습니다.

2024 AI Elections Accord : 선거 관련 딥 페이크 방지를 위해 모인 20개 글로벌 기업들

AI 선거 협정에서 가장 주목할 만한 점은 AI 기술 개발을 주도하고 생성형 AI 콘텐츠 유통에 직간접적으로 책임이 있는 기업들이 합류한 점입니다. 글로벌 빅테크 기업을 비롯해 오픈AI(OpenAI), 앤트로픽(Anthropic), 스태빌리티AI(stability AI) 등 AI 기업들과 스냅(Snap), 틱톡(TikTok), 엑스(X) 등 소셜미디어 기업들, 그리고 반도체 칩 설계 기업인 ARM도 합류했습니다.

국내 기업 중 유일하게 참여한 LG AI연구원

AI 선거 협정에 참여한 기업들은 선거에 영향을 주는 딥 페이크 콘텐츠의 생산부터 소비까지, 전 과정에 걸친 안전장치를 마련할 계획입니다. 특히, 기업들은 콘텐츠의 출처를 확인할 수 있는 비가시적 워터마크 등 기술 개발 투자도 약속했습니다. 딥 페이크 콘텐츠가 선거에 미칠 위험성을 최소화하기 위한 노력의 일환입니다. 또한 온라인 플랫폼에서 유권자나 여론에 영향을 줄 수 있는 딥 페이크 콘텐츠를 확산하지 않도록 방지하는 사용자 대상의 캠페인도 실천합니다. 

국내 유일 기업이라는 책임감, LG AI연구원은 이렇게 실천합니다

LG AI연구원은 이번 AI 선거 협정 서명을 통해, 그동안 이어온 AI 윤리 실천의 노력을 딥 페이크 방지 및 선거 공정성 강화 분야로 확대해 나갑니다. 딥 페이크 콘텐츠의 출처와 진위 여부를 판단할 수 있는 증명 방법에 대해 기술적인 방안을 마련하고, 협정 참여 기업들과 함께 딥 페이크 콘텐츠 대응을 위한 글로벌 표준 논의에 협력하는 등 실천을 이어갈 계획입니다.

LG AI연구원이 국내 기업으로는 유일하게 AI 선거 협정에 서명한 데에는 그동안 AI 윤리를 실천해오며 쌓은 글로벌 윤리 리더십이 영향을 미쳤습니다. AI 윤리원칙 발표 후 국내외 AI 윤리 규범에 맞춰 그 실천 성과를 정리한 AI 윤리 책무성 보고서를 발행했으며, 이러한 노력을 인정받아 지난 2월에는 국내 기업으로는 유일하게 유네스코 AI 윤리 포럼에 참석해 글로벌 기관, 기업들과 협력 논의를 진행했습니다. LG AI연구원은 이번 AI 선거 협정을 통해 딥 페이크가 선거 이슈와 정치적인 불신을 조장하지 않도록 글로벌 기업들과 협력을 이어가고, 세계 무대에서 AI 윤리를 이끌어갈 수 있도록 최선의 노력을 다하겠습니다.