[2025 AI 윤리 세미나 EP.6] 철학 속에서 찾는 AI의 미래

 

신뢰할 수 있는 AI를 향한 여정, LG AI연구원의 ‘AI 윤리세미나’를 소개합니다.   LG AI연구원은 왜 AI 윤리를 연구할까요? 사람에게 도움이 되는 AI 개발을 위해 AI 윤리 연구가 반드시 필요하다고 믿기 때문입니다. 기술은 결국 사람이 만들어내는 산물이기에, 기술의 발전만큼이나 책임 있는 개발과 활용이 중요합니다.   우리는 AI 라이프사이클 전체 과정에서, 다양한 구성원들과 AI 윤리를 논의하고 실천합니다. AI 윤리세미나에서는 AI 연구자, 사업 개발자, UI/UX 디자이너, 데이터 사이언티스트, AI 정책 기획자가 함께 AI 윤리를 논의합니다. 윤리세미나는 구성원들이 AI 윤리의 실질적 가치를 이해하고, 실무 적용 방안을 함께 고민하는 토론의 장으로 자리매김하고 있습니다.   우리는 AI 윤리에 대한 사회적 인식이 더 널리 확산되기를 기대합니다. AI 윤리에 대한 논의가 우리 조직 내부에 머무르지 않고, 사회 전반으로 퍼져 나가 모두가 신뢰할 수 있는 AI 생태계를 만드는 데 기여하고자 합니다. 이번 글에서는 2025년 AI 윤리 세미나에서 논의된 주제들을 시리즈로 소개합니다.

 

캐나다의 그래픽 디자이너 로버트 L. 피터스(Robert L. Peters)는 이렇게 말했습니다. “Design creates culture. Culture shapes values. Values determine the future.” 디자인은 문화를 만들고, 문화는 가치를 형성하며, 가치는 미래를 결정한다는 뜻입니다. 이 문장이 시사하듯, 디자인은 단순히 미적인 요소를 다루는 것이 아니라, 세상을 인식하고 상호작용하며 해석하는 방식을 형성하는 과정과 같습니다.

우리가 설계하는 AI 시스템 역시 단순한 코드의 집합이 아닙니다. AI는 사용자의 일하는 방식을 바꾸고, 새로운 가치를 만들며, 나아가 사회와 인류의 미래를 결정짓는 설계도가 될 것입니다. 우리는 단순히 편리한 도구를 만드는 것을 넘어, 이 기술이 인간의 삶을 진정으로 풍요롭게 하고 있는지 자문해 보고, “우리는 지금 어떤 미래를 설계하고 있는가?”에 대한 해답을 찾고자 합니다.

1. 사용자 조사: AI를 대하는 모습

이미지 1. LG AI 연구원의 생성형 AI 서비스 사용자 조사 분석 결과 중 일부

본격적인 논의에 앞서, AI 서비스의 상품 기획을 위해 2024년 5월 다양한 직군에서 업무 목적의 AI Chatbot 사용 빈도가 높은 한국과 미국의 Heavy user 24명을 대상으로 조사를 진행했습니다. 사용자가 AI와 어떻게 상호작용하는지를 기준으로 분석한 결과, AI를 일방향적인 지시와 단답형 도구로 활용하는 정보형(Information) 그룹부터 AI를 파트너 삼아 깊은 대화를 나누며 복잡한 업무를 수행하는 토의형(Discussion)그룹까지 다양한 사용자 유형을 구분할 수 있었습니다. 이를 통해 사용자에 대한 이해를 확장할 수 있었습니다.

특히 흥미로웠던 지점은 할루시네이션(Hallucination, 환각 현상)을 바라보는 태도였습니다. 한 그룹은 AI를 ‘함께 성장하며 학습시켜야 할 인턴’으로 간주하는 반면, 다른 그룹은 ‘항상 정답을 제시하는 완벽한 존재’로 인식하는 경향이 강했습니다. 후자의 경우, 단 한 번의 오답만으로도 서비스 이탈로 이어지는 사례가 적지 않았습니다.

우리는 사용 지속률을 높이기 위해 이 문제를 해결해야 한다고 판단했습니다. 동시에 우리가 제공하는 서비스가 단순히 ‘정답 자판기’에 머물러 사용자의 능동적인 학습과 성장의 기회를 오히려 가로막고 있는 것은 아닌지 되돌아보았습니다.

AI가 똑똑해질수록 인간이 의존적으로만 변해간다면, 과연 그것을 ‘좋은 서비스’라고 부를 수 있을까요? 이 질문에 대한 실마리를 찾기 위해, 우리는 철학의 렌즈로 AI를 다시 바라보고자 합니다.

2. 근대 사상의 흐름: 계몽주의와 낭만주의 

이미지 2. 계몽주의와 낭만주의 비교

 

우리는 오랫동안 이성과 논리, 보편성을 중시하는 ‘계몽주의적 태도’로 기술을 발전시켜 왔습니다. 하지만 이에 대한 반발로 개인의 감정과 상상력, 독창성을 중시하는 ‘낭만주의적 태도’ 또한 인류 역사의 큰 축을 담당해 왔습니다.

오늘날 AI는 효율성과 자동화를 극대화하는 경제·기술의 중심에 서 있습니다. 그래서 때로는 이성, 과학, 수치, 성능, 보편성에 가려져 인간의 감정과 맥락, 삶의 서사 등이 설계 범위 밖으로 밀려나곤 합니다. 우리는 이를 ‘좋은 AI 서비스’라 할 수 있을까요? 그렇다면, 어떠한 철학적 고려가 필요할까요? 

3. 주체적 인간을 위한 철학적 통찰
① 프리드리히 니체: ‘노예 도덕’을 넘어 ‘자기 긍정’으로 

이미지 3. 니체의 귀족 도덕과 노예도덕 - 『도덕의 계보학』

니체는 『도덕의 계보학』을 통해 우리가 흔히 말하는 ‘선과 악’의 기준이 사실은 특정한 힘의 논리에 의해 만들어진 것임을 폭로합니다. 타인의 기준에 순종하고 복종하는 것을 곧 선한 것으로 보는 태도를 ‘노예 도덕’이라 보고, 반대로 타인의 기준이 아닌, 자기 자신으로부터 출발하는 긍정의 가치 체계를 가진 도덕을 ‘귀족 도덕’이라 명명했습니다. AI가 주는 정답에 무비판적으로 순응하는 모습은 어쩌면 현대판 노예 도덕의 변주일지도 모릅니다. 인간이 자신의 생명력과 창조성을 발휘하는 ‘좋음’의 상태로 나아가야 한다고 강조한 니체의 말을 곱씹어 보면, 좋은 AI 서비스는 사용자를 ‘복종하는 수동적 존재’로 만드는 것이 아니라, 자신의 잠재력을 발휘하는 ‘가치 창조자’로 세워줘야 할 것입니다.

② 에리히 프롬: 인본주의 윤리와 바이오필리아(Biophilia) 

이미지 4. 프롬의 선악 - 『인간의 마음』

 

에리히 프롬은 윤리의 기준을 신, 국가, 사회적 관습과 같은 외부 권위가 아닌 ‘인간 본연의 생명력’에 두어야 한다고 주장했습니다. 그에 따르면 권위주의적 윤리는 외부 권위가 선과 악을 규정함으로써, 개인이 스스로 판단할 능력을 잃게 만들고 규범을 따르지 않을 경우 죄책감을 느끼도록 합니다. 그 결과, 자율성과 주체성을 상실하게 되고, 복종이 미덕으로 둔갑하면서 성장은 멈추게 됩니다. 이는 권위주의적 윤리의 한계입니다. 그렇기에 프롬은 인본주의 윤리를 제시했습니다. 인본주의 윤리에서 ‘선’은 인간의 잠재 능력과 생명력을 증진시키는 것이며, 이를 파괴하는 것이 ‘악’입니다. 프롬에게 악은 초자연적인 존재가 아니라 인간의 자립과 자유, 사랑의 능력이 왜곡되어 나타나는 심리적·사회적 결과입니다. 생명과 창조를 향한 열정적인 사랑을 의미하는 프롬의 ‘바이오필리아(Biophilia)’를 기준으로 본다면, 좋은 AI 서비스란 사용자의 자립과 사랑, 창조적 능력을 약화시키는 것이 아니라 생명력과 성장을 증진시키는 방향으로 작동해야 할 것입니다.

4. AI 시대의 ‘좋음’에 대한 재정의

앞서 니체와 프롬의 사상을 종합해 보면, AI 시대를 살아가는 우리가 지향해야 할 가치의 방향성은 분명해집니다. 우리가 설계해야 할 AI 미래 사회는 ‘인간이 AI를 통해 자신의 삶을 더욱 능동적으로 확장해 나갈 수 있는 장(場)’이 되어야 합니다. 다시 말해 AI는 인간이 생명에 대한 사랑과 긍정을 실천하도록 돕고, 각자가 지닌 창조성과 자기 긍정의 힘을 현실 속에서 발휘할 수 있도록 하는 매개체가 되어야 합니다. 이것이 철학의 관점으로 바라본, 인간을 소외시키지 않는 AI 사회의 모습이라 할 수 있습니다.

이러한 사회에서 핵심이 되는 가치는 복종이 아니라 자립입니다. AI는 사용자를 수동적인 수혜자나 지시를 따르는 존재로 머물게 해서는 안 되며, 오히려 스스로 판단하고 선택하며 책임지는 주체로 설 수 있도록 뒷받침해야 합니다. 동시에 기술의 궁극적인 목적 역시 효율이나 생산성 그 자체에 머무르지 않고, 인간의 생명력과 창조성, 사랑과 자립성을 증진하는 데 놓여야 합니다. 그럴 때 AI는 인간을 약화시키는 도구가 아니라, 인간이 더 인간답게 살아가도록 돕는 동반자로 기능할 수 있습니다.

5. 맺음말: 인간의 주체성이 꽃피는 미래

이미지 5. AI를 이용하는 5가지 분업 스타일 - 『AI 시대, 문과생은 이렇게 일합니다』

일본의 노구치 류지는 『AI 시대, 문과생은 이렇게 일합니다』라는 저서에서 인간과 AI의 협업 방식을 다섯 가지 분업 스타일로 구분하며, 기술이 인간의 업무와 역할에 어떻게 관여하는지를 체계적으로 설명합니다. 우리는 AI 활용의 방향이 인간의 일을 단순히 ‘대신’ 수행하거나, 인간과 AI가 상호 보조하는 수준에 머물기보다는, 인간의 생명력을 가장 높일 수 있는 협업 방식을 지향합니다.

이러한 관점에서 볼 때, AI 미래 사회의 핵심은 기술의 사양이나 성능 지표 그 자체가 아니라, AI가 인간의 주체성을 어떻게 보존하고 강화하는가에 있습니다. LG AI연구원은 효율성과 합리성을 중시하는 계몽주의적 가치와, 인간의 감성·상상력·주체성을 강조하는 낭만주의적 관점이 균형을 이루는 지점을 지향합니다. 그리고 니체와 프롬의 사상에서 도출한 ‘좋은 AI 서비스’를 만들기 위해 노력하고 있습니다. LG AI연구원은 이를 통해 사용자의 창조성과 생명력이 보다 풍부하게 발현할 수 있도록 지원해 나가겠습니다. 

2025 AI 윤리 세미나 시리즈

#1. [2025 AI 윤리 세미나 EP.1] AI는 인간의 비판적 사고를 어떻게 변화시키는가
#2. [2025 AI 윤리 세미나 EP.2] 편향을 넘어, 공정한 AI로의 여정
#3. [2025 AI 윤리 세미나 EP.3] Agentic AI 위협 모델링 및 가드레일 적용 전략
#4. [2025 AI 윤리 세미나 EP.4] 도구에서 동료로: 판단을 확장하는 AI UX 설계
#5. [2025 AI 윤리 세미나 EP.5] AI 시대의 앎, 유능함, 그리고 교육