[2025 AI 윤리 세미나 EP.5] AI 시대의 앎, 유능함, 그리고 교육

 

신뢰할 수 있는 AI를 향한 여정, LG AI연구원의 ‘AI 윤리세미나’를 소개합니다.   LG AI연구원은 왜 AI 윤리를 연구할까요? 사람에게 도움이 되는 AI 개발을 위해 AI 윤리 연구가 반드시 필요하다고 믿기 때문입니다. 기술은 결국 사람이 만들어내는 산물이기에, 기술의 발전만큼이나 책임 있는 개발과 활용이 중요합니다.   우리는 AI 라이프사이클 전체 과정에서, 다양한 구성원들과 AI 윤리를 논의하고 실천합니다. AI 윤리세미나에서는 AI 연구자, 사업 개발자, UI/UX 디자이너, 데이터 사이언티스트, AI 정책 기획자가 함께 AI 윤리를 논의합니다. 윤리세미나는 구성원들이 AI 윤리의 실질적 가치를 이해하고, 실무 적용 방안을 함께 고민하는 토론의 장으로 자리매김하고 있습니다.   우리는 AI 윤리에 대한 사회적 인식이 더 널리 확산되기를 기대합니다. AI 윤리에 대한 논의가 우리 조직 내부에 머무르지 않고, 사회 전반으로 퍼져 나가 모두가 신뢰할 수 있는 AI 생태계를 만드는 데 기여하고자 합니다. 이번 글에서는 2025년 AI 윤리 세미나에서 논의된 주제들을 시리즈로 소개합니다.

 

샌프란시스코의 풍자 광고가 던진 질문

미국 샌프란시스코는 현재 도시 전반이 AI 광고로 채워져 있습니다. 공항에 도착하자마자 마주하는 대형 전광판부터 도심 빌딩 외벽, 버스 정류장의 포스터까지 “AI로 이것도 가능하다”는 메시지가 반복적으로 노출됩니다. AI가 생산성을 높여 주고, 창의성을 확장하며, 인간의 한계를 대신 넘어줄 수 있다는 약속은 더 이상 낯설지 않습니다.

이 가운데 특히 눈길을 끈 것은 ‘Replacement.AI’라는 이름의 광고 캠페인이었습니다. 해당 광고는 AI가 자녀의 숙제를 대신해 주고, 책을 읽어주며, 심지어 “연애 상대가 되고 딥페이크까지 해도 모두 합법(legal)!”이라는 문구를 윙크 이모티콘과 함께 제시합니다. 과장된 설정을 통해 AI 만능주의를 풍자한 캠페인이라는 점은 곧 드러났지만, 그 메시지는 쉽게 넘길 수 없는 인상을 남깁니다.

이미지 1. ‘Replacement.AI’ 캠페인 옥외광고 이미지

그 이유는 이 광고가 명백한 풍자임에도 불구하고, 동시에 충분히 ‘그럴듯하게’ 받아들여질 수 있는 조건을 갖추고 있기 때문입니다. AI가 인간의 다양한 역할을 대신할 수 있다는 상상은 더 이상 공상과학의 영역이 아닙니다. 이미 우리는 일상 속에서 AI가 인간의 판단과 노동, 나아가 관계의 일부까지 보완하는 장면을 목격하고 있습니다. 결국 이 광고가 던지는 질문은 분명합니다. AI는 인간을 대체하게 될 것인가, 그리고 그 과정에서 인간의 역할과 가치는 어떻게 재정의되어야 하는가. 이는 AI 기술의 가능성을 넘어, AI 시대를 살아가는 사회 전체가 함께 고민해야 할 과제입니다.

AI 만능 서사가 만들어내는 불안

이러한 질문은 특정 광고 하나에 국한된 것이 아닙니다. 우리는 일상 속에서 유사한 서사를 반복적으로 접하고 있습니다. AI가 인간보다 더 뛰어난 영상을 만든다는 뉴스는 이미 익숙해졌고, 변호사 시험에 합격하거나 코딩 테스트를 통과한 AI 모델 등 숙련된 인간의 역량을 능가하는 사례가 연일 보도되고 있습니다. 이러한 AI 만능 서사는 AI가 점점 더 많은 것을 할 수 있게 됨에 따라 인간은 점점 설 자리를 잃고 있다는 인식을 확산시킵니다.

“이제 AI가 인간의 능력을 대체하게 된다면 인간은 무엇을 해야 하는가”라는 질문은 개인의 진로 고민을 넘어, 교육과 조직, 사회 전체의 문제로 확장됩니다. 이 질문에 답하기 위해서는 우리가 오랫동안 당연하게 받아들여 온 ‘유능함’의 정의를 다시 살펴보아야 합니다.

만약 유능함이 더 빠르게 계산하고, 더 정확히 기억하며, 더 효율적으로 산출물을 만들어내는 능력을 의미한다면, AI의 발전은 인간에게 위협일 수밖에 없습니다. 그러나 이제는 기존 유능함의 기준이 지금의 환경에서도 여전이 유효한지 되짚어 볼 시점에 와있습니다.

‘안다’는 것은 무엇을 의미해 왔는가

우리는 일상에서 ‘안다’는 표현을 비교적 쉽게 사용합니다. 어떤 사실을 기억하고 있을 때, 문제의 정답을 알고 있을 때, 혹은 특정 업무를 능숙하게 처리할 수 있을 때 우리는 이를 ‘안다’고 말합니다. 교육 시스템 역시 오랫동안 이러한 기준 위에서 작동해 왔습니다. 시험은 정답을 얼마나 정확하고 빠르게 재현할 수 있는지를 평가했고, 조직은 주어진 문제를 얼마나 효율적으로 해결하는지를 능력의 척도로 삼아 왔습니다.

이 과정 속에서 ‘앎’은 점차 결과 중심으로 축소되었습니다. 무엇을 왜 그렇게 판단했는지, 어떤 전제 위에서 그 결론에 도달했는지는 부차적인 문제로 밀려났습니다. 핵심은 정답을 맞혔는지, 성과를 냈는지 여부였습니다. 그 결과, 이러한 구조 속에서 ‘안다’는 것은 곧 ‘할 수 있다’는 의미와 동일시되어 왔습니다.

그러나 생성형 AI의 등장은 이 등식을 근본적으로 흔들고 있습니다. AI는 이미 많은 영역에서 인간보다 더 빠르고 안정적으로 정답을 제시합니다. 이 지점에서 이제 ‘안다’는 말은 무엇을 의미해야 하는지 다시 질문하게 됩니다.

‘테크네’와 ‘에피스테메’: 두 가지 다른 앎

고대 그리스 철학자들이 구분했던 두 가지 앎의 개념은 오늘날의 논의를 이해하는 데 중요한 단서를 제공합니다. 하나는 ‘테크네(Technê)’입니다. 테크네는 무언가를 만들고, 예측하고, 통제하는 기술적 지식을 의미합니다. 오늘날의 언어로 옮기면 노하우, 효율성, 숙련도와 같은 개념에 가깝습니다. 산업화 이후 사회의 중심 가치가 된 앎의 형태가 바로 이 테크네였습니다.

다른 하나는 ‘에피스테메(Epistêmê)’입니다. 에피스테메는 생산보다는 이해에, 결과보다는 의미에 가까운 앎입니다. 왜 그런 현상이 발생하는지, 무엇이 옳고 그른지, 어떤 해석이 가능한지를 묻는 태도와 연결됩니다. 이는 단순한 기술 습득이 아니라, 세계를 이해하고 판단하는 능력에 가깝습니다.

문제는 근대 이후의 교육과 조직 사회는 이 두 가지 앎 중 테크네에 지나치게 무게를 두어 왔다는 점입니다. 측정 가능하고 평가하기 쉬운 능력은 대부분 테크네의 영역에 속했습니다. 반면 에피스테메는 추상적이고 시간이 오래 걸리며 명확한 정답이 없다는 이유로 부차적인 것 내지는 고상한 취미로 간주되어 왔습니다.

‘테크네’의 외주화가 만들어낸 착시

생성형 AI는 바로 이 테크네의 영역에서 두드러진 성과를 보여 주고 있습니다. 방대한 데이터를 학습한 AI는 계산, 요약, 생성, 예측과 같은 기능을 인간보다 훨씬 빠르고 일관되게 수행합니다. 보고서 초안을 작성하고, 코드를 생성하며, 디자인 시안을 제안하는 일까지 이제는 AI가 자연스럽게 맡는 역할이 되었습니다. 이러한 현상을 ‘테크네의 외주화’라고 표현할 수 있습니다.

이 과정에서 많은 사람들이 느끼는 위기감은 인간의 능력이 갑자기 퇴화했기 때문이 아니라, 우리가 의존해 왔던 유능함의 기준이 이동하고 있기 때문에 발생합니다. 게임의 규칙이 바뀌었는데도, 우리는 여전히 이전의 기준으로 자신과 타인을 평가하고 있는 셈입니다. AI가 테크네를 잘 수행할수록, 인간은 상대적으로 무능해 보이는 착시에 빠지기 쉽습니다.

그러나 이는 인간이 할 수 있는 일이 사라졌다는 의미는 아닙니다. 오히려 테크네가 외주화되면서, 그동안 부차적으로 취급되던 에피스테메의 영역이 다시 전면으로 부상하고 있습니다. 문제를 어떻게 풀 것인가보다 어떤 문제를 풀어야 하는지를 묻는 능력, 결과를 얼마나 빨리 내느냐보다 그 결과가 어떤 의미를 갖는지를 해석하는 능력에서 인간의 역할은 새로운 형태로 재구성되고 있습니다.

‘왜’를 묻는 능력의 구체적 의미

AI 시대에 ‘왜’를 묻는 능력은 실제 업무와 의사결정의 현장에서 어떠한 구체적인 의미를 지닐까요.

첫째, ‘왜’를 묻는 능력은 문제 설정의 능력입니다. AI는 주어진 문제를 빠르고 효율적으로 해결하는 데 탁월하지만, 어떤 문제가 중요한지, 무엇을 문제로 정의해야 하는지는 스스로 결정하지 않습니다. 예를 들어, 특정 지표를 개선하라는 요청이 주어졌을 때, 그 지표가 왜 중요한지, 다른 지표를 함께 고려해야 할 필요는 없는지 묻는 일은 인간의 몫입니다. 문제를 푸는 능력보다 문제를 설정하는 능력이 점점 더 중요해지는 이유가 여기에 있습니다.

둘째, ‘왜’를 묻는 능력은 판단 기준을 세우는 능력입니다. AI는 통계적으로 그럴듯한 선택지를 제시할 수 있지만, 그중 어떤 선택이 조직의 가치와 사회적 맥락에 부합하는지는 스스로 판단하지 못합니다. 효율성과 공정성, 단기 성과와 장기 신뢰 사이에서 어떤 기준을 우선할 것인지는 기술이 아니라 사람의 몫입니다. 이때 ‘왜 이 기준을 선택하는가’에 대한 설명 가능성은 곧 책임의 문제로 이어집니다.

셋째, ‘왜’를 묻는 능력은 맥락을 읽는 능력입니다. 동일한 데이터와 결과라도, 그것이 놓인 맥락에 따라 의미는 크게 달라집니다. AI는 과거의 패턴을 학습하지만, 새로운 사회적 상황이나 미묘한 문화적 변화까지 온전히 이해하기는 어렵습니다. 따라서 결과를 그대로 받아들이기보다, 지금 이 맥락에서 이 결과가 어떤 의미를 갖는지 해석하는 역할은 여전히 인간에게 남아 있습니다.

교육과 리더십의 재정의

이러한 변화는 교육과 조직의 리더십을 다시 생각하게 합니다. 오랫동안 교육의 핵심 역할은 지식을 전달하는 데 있다고 여겨져 왔습니다. 교사는 정답을 알고 있는 사람, 학습자는 그 정답을 습득하는 사람이라는 구도는 오랫동안 자연스럽게 받아들여져 왔습니다. 마찬가지로 조직에서도 경험 많은 리더는 답을 제시하고, 구성원은 그 답을 실행하는 역할을 맡아 왔습니다.

그러나 낮은 비용으로 정답 찾기가 가능한 시대에 이러한 역할 분담은 점점 설득력을 잃고 있습니다. AI는 이미 많은 영역에서 ‘정답’에 해당하는 정보를 빠르게 제공합니다. 이제 교육과 리더십의 가치는 무엇을 아느냐보다, 어떻게 사고하느냐에 달려있습니다. 이러한 전환을 잘 보여주는 사례가 바로 칸 아카데미(Khan Academy)의 AI 튜터, 칸미고(Khanmigo)입니다. 칸미고는 학습자가 문제의 정답을 직접 묻더라도, 즉시 답을 제공하지 않도록 설계되어 있습니다. 대신 “어디까지 생각해 보았는가”, “다음 단계는 무엇이라고 생각하는가”와 같은 질문을 던지며, 학습자가 자신의 사고 과정을 스스로 점검하도록 유도합니다. 이는 AI가 정답을 더 잘 알고 있음에도 불구하고, 의도적으로 ‘가르치지 않는 방식’을 택한 사례입니다.

이 사례는 AI 시대의 교사와 리더가 맡아야 할 역할을 분명하게 보여 줍니다. 중요한 것은 답을 얼마나 많이 알고 있느냐가 아니라, 사고의 전제와 흐름을 함께 점검할 수 있느냐는 점입니다. 교사와 리더는 이제 지식 전달자라기보다, 학습자와 구성원이 스스로 사고의 구조를 인식하고 조정할 수 있도록 돕는 역할을 수행하게 됩니다. 이는 단기적으로는 비효율적으로 보일 수 있지만, 장기적으로는 훨씬 더 견고한 판단 역량을 형성합니다. AI가 정답을 제공하는 시대일수록, 사고를 설계하는 역할은 오히려 더 중요해지고 있습니다.

AI의 블랙박스와 윤리적 책무성

AI가 점점 더 많은 영역에서 의사결정에 관여하면서, 윤리의 문제는 선택이 아니라 필수가 되었습니다. 특히 문제는 AI가 도출한 결과가 매우 그럴듯해 보이지만, 그 내부 과정을 이해하고 설명하기는 점점 더 어려워지고 있다는 점입니다. 이른바 ‘블랙박스 문제’입니다.

이러한 불투명성은 여러 위험으로 이어질 수 있습니다. 학습 데이터에 내재된 편향이 그대로 재생산될 수 있고, 사실과 다른 정보를 매우 자신감 있게 제시하는 환각 현상도 발생할 수 있습니다. 또한 어떤 데이터가 수집되고, 어떻게 사용되며, 어디까지 보존되는지 명확하지 않을 경우, 사용자는 쉽게 불신을 느끼게 됩니다.

이미지 2. LG AI연구원 'LG AI 윤리 책무성 보고서'

이 지점에서 중요한 것은 기술적 완성도만이 아닙니다. 오히려 “이 결과에 대해 누가, 어떻게 책임질 것인가”라는 질문이 핵심으로 떠오릅니다. LG AI연구원이 매년 작성하여 발간하고 있는 'LG AI 윤리 책무성 보고서'에서 강조하는 ‘책무성(accountability)’ 개념은 바로 이러한 문제의식에서 출발합니다. 이는 법적 요구사항을 충족하는 수준을 넘어, AI가 도출한 결과와 그 과정에 대해 스스로 설명할 수 있어야 한다는 원칙을 의미합니다.

책무성은 단순히 문제가 발생했을 때 책임자를 찾는 절차가 아닙니다. 그보다는 사전에 위험을 식별하고, 의사결정의 기준을 명확히 하며, 필요할 경우 기술의 사용을 제한하거나 조정할 수 있는 구조를 마련하는 일에 가깝습니다. 다시 말해, 윤리는 기술의 바깥에 덧붙이는 장식이 아니라, 기술을 사용하는 방식 자체를 설계하는 문제입니다.

LG AI 윤리 책무성 보고서 보러가기 →

 

새로운 유능함의 조건

이러한 논의를 종합해 보면, AI 시대의 유능함은 과거와는 다른 조건 위에서 정의됩니다. 더 빠르고 정확하게 결과를 내는 능력만으로는 충분하지 않습니다. 오히려 중요한 것은 속도를 조절할 수 있는 능력입니다. 언제 AI의 제안을 그대로 받아들이고, 언제 한 걸음 멈춰서 다시 질문해야 하는지를 판단하는 능력이 요구됩니다.

또한 새로운 유능함은 설명 책임을 감당하는 태도와 깊이 연결됩니다. 결과만을 제시하는 것이 아니라, 왜 이러한 선택을 했는지, 어떤 위험을 고려했는지, 다른 대안은 왜 배제되었는지를 설명할 수 있어야 합니다. 이는 개인의 역량을 넘어, 조직과 사회의 신뢰를 형성하는 핵심 요소입니다.

무엇보다 중요한 것은 도구의 능력에 취하지 않는 태도입니다. AI의 성능은 앞으로도 계속 향상될 것입니다. 그러나 성능의 향상은 곧바로 옳음이나 정당함을 보장하지 않습니다. 기술의 한계와 조건을 함께 이해하고, 그 경계 위에서 판단할 수 있는 능력이 앞으로 더욱 요구되는 전문성입니다.

이해와 책임이 경쟁력이 되는 세상

우리는 과거와 달리 매우 손쉽게 정답을 얻을 수 있는 환경에서 살고 있습니다. 검색 한 번, 프롬프트 한 줄만으로도 우리는 그럴듯한 답변과 분석을 단 몇 초만에 얻을 수 있습니다. 그러나 정답이 흔해질수록, 이해의 가치는 오히려 높아집니다. 결과를 맹목적으로 받아들이는 것이 아니라, 그 의미와 맥락을 해석하고, 그 결과에 대해 책임지는 태도가 새로운 경쟁력이 됩니다.

AI와 공존하는 우리의 미래는, 기술이 얼마나 발전하느냐보다 우리가 어떤 질문을 축적해 나가느냐에 따라 달라질 것입니다. 정답을 소비하는 데서 멈추지 않고, 이해를 쌓아 가는 사회. 저는 그 방향에서 인간의 역할은 사라지지 않고, 오히려 더 분명해질 것이라고 생각합니다.

오늘 우리는 하루 얼마나 많은 시간을 ‘답을 찾는 데’가 아니라, ‘질문을 던지는 데’에 쓰고 있을까요?

2025 AI 윤리 세미나 시리즈

#1. [2025 AI 윤리 세미나 EP.1] AI는 인간의 비판적 사고를 어떻게 변화시키는가
#2. [2025 AI 윤리 세미나 EP.2] 편향을 넘어, 공정한 AI로의 여정
#3. [2025 AI 윤리 세미나 EP.3] Agentic AI 위협 모델링 및 가드레일 적용 전략
#4. [2025 AI 윤리 세미나 EP.4] 도구에서 동료로: 판단을 확장하는 AI UX 설계