[AI 윤리 세미나 ep.5] AI 윤리, UI/UX 디자이너의 시선으로 보다

LG AI연구원은 왜 AI 윤리를 연구할까요? 사람에게 도움이 되는 AI 개발을 위해 AI 윤리 연구가 반드시 필요하다고 믿기 때문입니다. 그래서 우리는 AI 라이프사이클의 전체 과정에서 우리가 예상하지 못한 기술의 부작용은 없는지 AI 윤리 측면에서 항상 고민합니다. 우리의 AI 윤리 연구 과정에는 다양한 구성원들이 함께하고 있습니다. AI 연구자, 사업 개발자, 변호사를 비롯해 UI/UX 디자이너, 데이터 사이언티스트, AI 교육 기획자가 함께 논의하는 'AI 윤리 세미나'가 대표적입니다. 세미나에서는 주목할 만한 AI 윤리 연구와 최근의 트렌드를 분석하고 각자의 인사이트를 나눕니다. 이렇게 논의된 내용들은 우리의 AI 윤리 활동에 접목시켜 내재화합니다. 이번 글에서는 올해 AI 윤리 세미나에서 논의된 주요 주제를 시리즈로 소개하겠습니다. 우리가 나누는 여러 고민과 인사이트가 AI 윤리 발전에 도움이 되기를 바랍니다

생성형 AI 서비스는 우리에게 편리함과 새로운 가능성을 제공해 왔지만, 동시에 윤리적인 딜레마도 야기했습니다. 대표적으로 개인정보 침해, 결과의 편향, 그리고 투명성 부족 등을 꼽을 수 있습니다. 이러한 윤리적인 딜레마는 AI 서비스의 작동 과정 및 결과물뿐만 아니라 UI/UX 디자인 측면에서도 발견됩니다. 이번 글에서는 UI/UX 디자인에서 발견되는 AI 서비스의 윤리적인 딜레마를 짚어보고, 나아가 LG AI연구원의 ChatEXAONE에 적용된 윤리적인 UI/UX 디자인을 소개합니다.

1. Deceptive Patterns in UI/UX Design

AI 서비스를 비롯해 IT 서비스의 UI/UX 디자인에는 사용자에게 불리하게 작용하도록 설계된 요소가 포함되기도 합니다. 특히 사용자의 특정 행동을 유도하거나 불리한 선택을 하도록 이끄는 UI/UX 디자인 패턴들이 있는데, 이를 우리는 ‘Deceptive Pattern’ 혹은 ‘Dark Pattern’이라고 정의합니다. 이러한 Deceptive Pattern은 사용자의 이익보다는 기업이나 서비스 제공자의 이익을 우선시하고, 사용자의 서비스 경험을 왜곡할 수 있다는 점에서 윤리적 문제가 될 수 있습니다. 많은 Deceptive Pattern 중 윤리적 문제로 이어질 수 있는 유형들을 분류하고 사례를 확인해 보겠습니다.

이미지 1. Deceptive Patterns Design^[1]

1) 강제 연속성 (Forced Continuity)

첫 번째는 강제 연속성 유형입니다. 보통 유료 구독 서비스에서 자주 나타나는 형태로, 사용자가 구독을 취소하지 않으면 자동으로 구독이 연장되거나 결제가 계속 이루어지도록 하는 UX 패턴들이 이에 해당합니다. 예를 들어 서비스 무료 체험을 위해 사용자의 결제 정보를 입력하도록 하고, 무료 체험 기간이 종료되는 시점에 자동으로 유료 결제로 전환되는 사례도 이에 해당합니다. 이는 사용자의 결제 정보를 입력해야만 자사 서비스를 사용할 수 있도록 하는 서비스의 약관 및 방침에서 많이 사용되는 유형입니다.

2) 강제 동의 (Forced Consent)

두 번째는 강제 동의 유형입니다. 데이터 수집이나 서비스 이용 조건 동의 등에 대해 사용자가 원하지 않더라도 강제로 유도하는 패턴입니다. 특정 서비스나 기능을 활용하기 위해 반드시 회원가입을 하거나 약관에 동의하도록 UI/UX 디자인을 설계함으로써 사용자의 선택권을 침해하는 경우가 대표적입니다. 과거에는 사용자가 특정 모바일 어플리케이션에서 위치 서비스를 활성화하지 않더라도, 백그라운드에서 위치 데이터를 수집하도록 설정되는 경우도 있었습니다. 최근에는 사용자가 쿠키 설정을 선택적으로 변경하지 못하도록 일괄 동의 버튼만 디자인 되어있는 서비스가 있는데, 이것 역시 강제동의에 해당합니다.

3) 프라이버시 주커링 (Privacy Zuckering)

세 번째는 사용자가 원치 않는 데이터까지 공유하도록 유도하는 프라이버시 주커링 유형입니다. 페이스북에서 유래한 이 패턴은 회원가입 혹은 초기 설정 단계에서 기본 개인정보를 모두 공개로 설정되도록 하고, 사용자가 쉽게 변경할 수 없도록 디자인하여 과도한 데이터 공유를 유도하는 패턴입니다.

2. 윤리적 딜레마를 해결하는 UI/UX 디자인 설계

UI/UX 디자인에서는 어떻게 윤리적인 딜레마를 해결할 수 있을까요? 이를 위해서는 새로운 기술과 윤리적인 디자인의 통합이 가장 중요합니다. UI/UX 디자이너는 끊임없이 발전하는 AI 기술 트렌드를 확인하고, 이에 맞춰 새로운 UI/UX 패턴을 개발해 적용할 수 있어야 합니다. 또한 AI 윤리에 대한 글로벌 규범을 파악하고, 규범에 맞는 디자인 표준을 적용함으로써 글로벌 흐름과 서비스를 맞춰 가야 합니다. UI/UX 디자인 측면에서 초점을 맞춰야 하는 상세한 요소들을 살펴보겠습니다.

1) 투명한 정보 제공 (Transparent Information)

먼저 사용자에게 투명하게 정보를 제공해야 하고, 사용자가 이 정보에 쉽게 접근해 확인할 수 있는 UI/UX 디자인이 구현되어야 합니다. 사용자에게 공개되어야 하는 정보의 종류는 다양하며, 서비스 특성에 맞게 제공되어야 합니다. 특히 AI 서비스는 AI가 어떤 작동 방식을 통해 사용자에게 답변을 제시하는지, AI가 어떤 데이터를 학습했는지, 사용자의 답변을 포함한 데이터를 어떻게 활용하는지, AI가 가진 가능성과 한계는 무엇인지 등의 내용이 사용자에게 투명하게 전달되어야 합니다.

예를 들어 OpenAI의 ChatGPT에서는 AI 서비스의 데이터 사용 정책을 자세하고 명확하게 명시하고 있습니다. 사용자가 제공하는 개인정보를 계정 정보, 사용자의 피드백, 커뮤니케이션 정보, 소셜 미디어 정보 등으로 분류하고 ChatGPT를 사용하면서 생성되는 데이터에 대해서도 사용자가 서비스 가입 및 이용 시 해당 정보를 수집한다는 정책을 명확히 공개하고 있습니다.  

이미지 2. OpenAI의 ChatGPT 데이터 사용정책^[2]

2) 사용자 통제 기능 (User Control Features)

다음으로, 사용자가 직접 통제할 수 있는 기능을 부여하는 것도 중요합니다. 예를 들어 자신의 데이터에 대한 접근 권한을 관리할 수 컨트롤 기능을 마이 페이지 또는 환경설정 페이지에서 제공하고, 이를 통해 데이터 삭제 및 수정 요청 등을 자유롭게 할 수 있어야 합니다. Google의 개인정보 대시보드, Microsoft의 개인정보 관리 도구 등은 아주 좋은 예시입니다.

3) 피드백 메커니즘 (Feedback Mechanism)

AI 서비스에 대한 사용자 피드백을 받는 시스템도 마련해야 합니다. 사용자의 의견을 수집하고 분석해 서비스 개선에 활용할 수 있어야 하며, 사용자의 불만을 받고 처리할 수 있는 절차도 마련해야 합니다. 이렇게 마련된 절차에 사용자가 쉽게 접근할 수 있도록 UI/UX 디자인상의 설계도 필요합니다. 특히 AI 서비스는 생성형 AI의 특성 상 사용자의 서비스 활용도와 피드백의 중요도가 높습니다. 사용자가 자신의 AI 경험에 대해 자연스럽게 피드백을 제시하고, 이를 AI 서비스 품질 개선에 활용할 수 있는 메커니즘을 구축해야 하는 이유입니다.

4) 안전 장치 (Safety Mechanisms)

마지막으로 서비스의 안전성도 중요한 요소입니다. 특히 생성형 AI의 기술 특성상, 부적절한 콘텐츠가 생성될 수 있다는 점을 투명하게 인정하고, 이러한 콘텐츠가 생성되지 않도록 기술적인 보완이 필요하며, 부적절한 콘텐츠가 생성됐을 경우에는 사용자가 신고할 수 있는 버튼을 구성하는 등 대응 수단이 UI 디자인 상에서 구현되어야 합니다. AI가 적용되는 모든 서비스는 모델의 생성 시작부터 완료까지 전 주기(Iteration)에 걸쳐, 사용자와의 상호작용 중 의도치 않게 발생할 위험요소들의 제어가 가능해야 합니다. 상세한 기획과 UX/UI 설계가 필요한 이유입니다.

3. ChatEXAONE에 적용된 윤리적인 UI/UX 디자인

LG AI연구원이 공개한 기업 사용자용 업무용 AI 서비스, ChatEXAONE에도 위의 원칙들을 바탕으로 윤리적인 고민이 반영됐습니다. 특히 이는 UI/UX 디자인에서도 확인할 수 있습니다. ChatEXAONE 속 윤리적인 UI/UX에 대해 소개하겠습니다.

 

1. ChatEXAONE의 이용악관 페이지 제공

ChatEXAONE 이용약관 페이지에서는 안전하고 신뢰도 높은 서비스 사용을 위해 이용약관 뿐만 아니라 개인정보 수집 및 이용에 대한 내용을 함께 고지합니다. 사용자들은 이를 준수하는 조건으로 서비스에 접속하고 이용할 수 있습니다. 관련 법률 및 ChatEXAONE의 공개 및 이용 정책, 기타 지침들을 포함하여 사용자들은 언제든지 개인 정보와 관련된 정책을 확인할 수 있습니다. 또한 서비스 및 규정 업데이트에 따른 변경 이력도 쉽게 확인할 수 있도록 디자인했습니다.

 

이미지 3. ChatEXAONE의 이용약관 페이지^[3]

 

2. Multi-Step Reasoning

이번 ChatEXAONE에는 EXAONE이 어떤 과정을 거쳐서 답변을 생성했는지 과정을 상세하게 보여주는 ‘Deep’기능도 새롭게 추가됐습니다. Deep 기능을 사용할 경우 EXAONE이 생성 시 참고한 키워드 및 레퍼런스를 단계별로 최대 9개까지 확인할 수 있습니다. UX/UI 디자인 또한 직관적으로 상호작용하도록 설계 했고, 사용자의 신뢰도를 높였습니다. 또한 Multi-Step Reasoning 내 키워드 복사 기능을 제공하여 다른 AI 서비스에서도 프롬프트로 활용할 수 있도록 하였습니다.

 

이미지 4. ChatEXAONE의 Multi-Step Reasoning^[4]

 

3. 개인정보 및 부적절한 프롬프트 입력 시 답변 생성 방지

ChatEXAONE은 사용자가 개인정보가 포함되는 등의 부적절한 프롬프트를 입력할 경우 답변을 생성하지 않습니다. 예를 들어 개인 주민번호나 전화번호를 입력하는 경우 개인정보를 마스킹 처리해, 답변에 개인정보가 포함되지 않도록 합니다. 또한 부적절한 질문이나 사회적으로 민감한 이슈들에 대해서도 사용자 의도를 분석하여 특정 메세지를 출력하도록 하고 있습니다.

 

4. 사용자 데이터에 대한 강력한 보안 정책 적용

ChatEXAONE은 사용자 데이터 보호를 위해 강력한 보안 정책을 적용하고 있습니다.  사용자들의 데이터 및 개인정보의 경우 접근 권한이 있는 Admin 계정을 통해서만 확인할 수 있으며, 해당 데이터를 활용하는 경우 분명한 사유를 입력하고 확인하도록 하는 프로세스를 적용하고 있습니다. 또한 사용자가 업로드한 파일들은 보관 정책에 따라 주기적으로 삭제됩니다.

 

AI 윤리 세미나 시리즈

#1. [AI 윤리 세미나 ep.1] 생성형 AI를 위한 Red Team 연구 트렌드와 응용 사례
#2. [AI 윤리 세미나 ep.2] AI로 인한 위험을 제대로 바라보기 위한 연구들
#3. [AI 윤리 세미나 EP.3] 신뢰할 수 있는 AI 경험 설계를 위한 주요 AI Toolkit 소개 및 실무 적용 가이드라인
#4. [AI 윤리 세미나 EP.4] AI Agent를 통해 살펴본 책임 있는 AI 사회 구현