LD_f50cead01.png Dahm Lee 2025.11.24

[2025 AI 윤리 세미나 EP.2] 편향을 넘어, 공정한 AI로의 여정

 

신뢰할 수 있는 AI를 향한 여정, LG AI연구원의 ‘AI 윤리세미나’를 소개합니다.  

LG AI연구원은 왜 AI 윤리를 연구할까요? 사람에게 도움이 되는 AI 개발을 위해 AI 윤리 연구가 반드시 필요하다고 믿기 때문입니다. 기술은 결국 사람이 만들어내는 산물이기에, 기술의 발전만큼이나 책임 있는 개발과 활용이 중요합니다.  

우리는 AI 라이프사이클 전체 과정에서, 다양한 구성원들과 AI 윤리를 논의하고 실천합니다. AI 윤리세미나에서는 AI 연구자, 사업 개발자, UI/UX 디자이너, 데이터 사이언티스트, AI 정책 기획자가 함께 AI 윤리를 논의합니다. 윤리세미나는 구성원들이 AI 윤리의 실질적 가치를 이해하고, 실무 적용 방안을 함께 고민하는 토론의 장으로 자리매김하고 있습니다.  

우리는 AI 윤리에 대한 사회적 인식이 더 널리 확산되기를 기대합니다. AI 윤리에 대한 논의가 우리 조직 내부에 머무르지 않고, 사회 전반으로 퍼져 나가 모두가 신뢰할 수 있는 AI 생태계를 만드는 데 기여하고자 합니다. 이번 글에서는 2025년 AI 윤리 세미나에서 논의된 주제들을 시리즈로 소개합니다.

 

AI가 막연한 미래 기술로 여겨졌을 때부터 우리 일상에 깊이 스며들게 된 지금까지, AI를 향한 상반된 시선은 늘 공존해 왔습니다. 한편에서는 AI의 혁신적인 효용성을 강조하며 적극적인 도입과 활용을 주장하는 반면, 다른 한편에서는 AI의 부작용과 무분별한 활용의 위험을 언급하며 우려의 목소리를 내기도 합니다. 둘 중 어느 쪽이 옳다고 단정할 수는 없지만, 확실한 것은 그 누구도 AI가 불러올 미래를 정확히 예측할 수 없다는 사실입니다.

AI 자체에는 선악이 존재하지 않습니다. 하지만 활용 방식에 따라 불쾌하거나 비윤리적인 결과를 생성하는 사례는 드물지 않게 발견됩니다. 따라서 우리는 AI의 위험성과 윤리적 고려 사항을 더 깊이 이해하고 AI를 ‘올바르게’ 사용하는 방법을 끊임없이 고민해야 합니다. 그중에서도 많은 사람들이 간과하기 쉬운 핵심 주제 중 하나인 ‘AI 편향’에 대해 살펴보고자 합니다.


1. AI 편향(AI Bias)의 정의

AI 편향(AI Bias)이란 인간 사회의 편견이나 편향이 AI의 학습 데이터나 알고리즘에 반영되어, AI의 판단이나 결과가 특정 방향으로 치우치는 현상을 의미합니다[1].

이는 윤리적인 측면뿐 아니라, 편향된 산출물이 특정 개인이나 집단에게 불이익을 줄 가능성이 있다는 점에서 실질적인 문제가 됩니다. 예를 들어, 같은 문제에 대해 AI가 특정 집단에게만 잘못된 판단 결과를 출력하거나, 특정 사용자 집단에서 성능이 급격히 저하되는 사례가 보고된 바 있습니다. 심지어 편향된 데이터로 학습된 AI가 특정 집단을 비하하는 차별적 표현이나 혐오 발언을 재생산하기도 합니다.

이처럼 AI의 편향은 설계 의도와 무관하게 특정 집단에 불리한 결과를 초래할 수 있습니다. 많은 사람들이 AI가 공정하고 중립적일 것이라 믿는 만큼, 이러한 편향은 더 큰 위험을 내포하고 있습니다. 따라서 우리는 인간의 판단과 마찬가지로 AI의 출력 역시 왜곡되고 편향될 수 있다는 사실을 명확히 인식하고, 그 영향력의 범위나 정도를 정확히 파악할 필요가 있습니다.

최근에는 AI 편향을 다룬 연구가 활발히 진행되고 있습니다. 아래에서 실제 사례를 살펴보겠습니다.


주요 AI 편향 사례

  1. 안면 인식 정확도 차별: MIT와 스탠퍼드 연구진은 상용 안면 인식 AI가 어두운 피부색 여성의 얼굴에 대해 백인 남성 얼굴에 대한 오류율(0.8%) 대비 최대 34.7%의 높은 오류율을 보이는 것을 확인했습니다[2].

  2. 직업 편견 반영: 이미지 생성 모델에 ‘직업’ 키워드를 입력했을 때, 고소득 직업군(변호사, 정치인 등)은 밝은 피부색으로, 저소득 직업군(청소노동자, 패스트푸드점 직원 등)은 어두운 피부색으로 묘사하는 경향이 나타났습니다. 이는 이미 이미지 생성 AI가 직업군에 대한 사회적 편견을 그대로 반영하고 있음을 보여줍니다. 

 

이미지 1. Text-to-Image 모델을 이용해 특정 직업군의 '평균 얼굴'을 생성한 결과[3].


  1. 차별적/고정관념적 언어 사용: 젠더, 인종, 종교 등과 관련된 주제에서 차별적이거나 고정관념이 담긴 언어를 사용하는 사례가 보고되었습니다[4]. 또한, 성별 구분이 없는 언어를 번역할 때 기본적으로 남성형 대명사를 사용하는 경향도 나타났습니다. ‘남성-프로그래머(Man-Programmer)’, ‘여성-간호사(Woman-Nurse)’처럼 성별과 직업명을 고정관념적으로 연관 짓는 사례도 확인되었습니다.

  2. 실생활 시스템의 편향: 영국 정부의 복지 사기 판별 AI가 나이, 국적 등 인구통계학적 특징에 따라 편향된 결과를 도출했으며[5], Amazon의 AI 채용 시스템은 여성 지원자에게 일관적으로 낮은 점수를 부여해 결국 폐기되었습니다[6].의학 분야에서도 사람들의 X-ray 사진을 기반으로 질병 유무를 판정하는 의료 AI가 환자의 인종이나 성별에 따라 큰 성능 차이를 보인다는 사실이 밝혀지기도 했습니다[7]. 스탠퍼드 대학 연구 결과, 동일한 문장에 대해서 흑인 화자의 인식 오류율은 최대 35%에 달했으며, 이는 백인 화자의 발화 인식 오류율인 19%보다 훨씬 높은 수치입니다[8].

 

이와 같은 사례들은 AI의 편향으로 인한 성능 차이와 사회적 영향이 광범위하다는 것을 보여줍니다.


2. AI 편향에 대한 인식과 도전 과제

AI 모델의 인종차별이나 성차별 논란 등이 발생하면서 편향에 대한 사회적 관심은 과거 대비 크게 높아졌습니다. 그에 따라 구글, IBM 등 산업계에서도 AI의 공정성 평가 절차나 AI 윤리 위원회를 도입하고 있습니다. 그러나 AI 편향은 여전히 주류(Mainstream) 의제로 자리 잡기까지 현실적인 어려움에 직면해 있습니다.

  1. 정보 수집의 어려움: 편향 평가를 위해 인종, 성별, 나이 등 민감한 개인정보의 수집이 필요하나 법적으로, 제도적으로 제약이 많아 데이터 수집 자체가 어렵습니다.

  2. 측정 및 개선의 어려움: 정확도나 F1 같은 모델의 성능 평가 지표와는 달리 공정성이나 유해성은 주관적인 개념이며 명확한 기준이 없어 정량화하기가 어렵습니다. 또한 편향을 개선하는 과정 자체가 기술적으로 복잡하고 단순 성능 개선에 비해 까다롭습니다.

  3. 절차적/우선순위 문제: AI 모델 개발 후반부에 편향 검증이 이루어져 개선 사항을 반영하기 어렵고, 성능 향상이나 출시 속도가 우선시되어 편향 문제는 우선순위에서 밀리는 경우가 많습니다. 편향 개선이 즉각적인 비즈니스 KPI로 연결되지 않으며, 성능 저하나 비용 증가가 우려되기에 외면당하기도 합니다.

 

이러한 복잡성과 어려움에도 불구하고, 과거 만연했던 “알고리즘은 객관적이다”라는 잘못된 믿음은 줄어들고 있습니다. 학계와 산업계, 대중의 인식도 함께 발전하면서 AI 편향이 앞으로 더욱 핵심적인 논의 주제로 다루어질 전망입니다.

 

3. AI 편향의 발생 원인

3-1. 학습 데이터의 편향

AI 편향이 나타나게 되는 가장 대표적인 원인은 바로 학습 데이터의 편향입니다. AI의 성능이나 특성은 모델이 학습한 학습 데이터에 크게 좌우됩니다. “쓰레기를 넣으면 쓰레기가 나온다(Garbage In, Garbage Out)”라는 표현처럼, AI의 학습 데이터가 편향되어 있거나 불완전하다면 편향된 결과물이 나오는 것은 필연적입니다.

 

  1. 데이터 수집/표본 추출 편향: 모델 훈련을 위해 수집된 데이터가 특정 집단이나 사례에 치우쳐져 있을 경우, 모델은 그 특성을 그대로 반영하게 됩니다. Amazon의 Recruiter AI 사례는 기존 직원의 성별 데이터가 불균형했던 점이 편향된 결과를 도출한 원인으로 밝혀졌습니다.

  2. 대표성 부족(데이터 불균형): 학습 데이터에 일부 집단의 데이터가 너무 많거나 너무 적을 경우에도 편향이 발생합니다. 음성 인식 분야에서 Common Voice 데이터셋의 화자 분포의 경우 83%가 남성 화자의 음성이었고, 약 15%만 여성 화자의 음성으로 구성되어 있어 여성 화자 음성에 대한 인식 성능이 현저히 떨어지는 편향을 보였습니다.[9] 또한 비원어민 등 강한 억양(Accent)를 지닌 화자의 데이터도 부족해 이들에 대한 인식 성능 역시 저하된다는 점도 드러났습니다.

  3. 레이블링(labeling) 편향: 모델은 데이터의 레이블을 ‘정답’으로 받아들여 학습하기 때문에, 레이블링 과정 자체에 인간의 주관이나 편견이 개입되면 그 편향이 AI의 출력에 그대로 반영될 가능성이 큽니다.

 

이미지 2. 학습 데이터의 편향이 AI 편향으로 이어지는 과정[10]

 

이처럼 학습 데이터의 편향은 AI의 편향성에 매우 큰 영향을 미칩니다. 따라서 데이터 수집 단계에서부터 학습 데이터의 다양성과 균형을 확보해야 하며, 훈련 중이나 배포 후에도 데이터 문제로 인한 편향 발생 시 교정이나 보강 노력이 필수적입니다.

 

3-2. 모델 및 알고리즘의 편향

AI 편향에 가장 큰 영향을 미치는 요소는 데이터이지만, 모델 구조나 학습 알고리즘 자체가 갖는 편향의 영향도 무시할 수 없습니다.

 

  1. 암묵적 가정 및 목적 함수 편향: AI 학습은 기본적으로 목표 함수(손실 함수, Loss Function)에 따른 최적화를 수행하도록 설계되기에, 훈련 또는 설계 과정에서 사람이 인지하지 못한 암묵적 가정이나 편향이 개입될 수 있습니다. 특히 알고리즘이나 목적 함수에 편향이 있을 경우, 해당 모델이 무엇을 극대화하거나 최적화하도록 설계되었는지에 따라 본래 의도와 무관한 부작용이 나타나기도 합니다. 대표적인 예로 SNS 컨텐츠 추천 알고리즘은 사용자 참여도 극대화를 목표로 삼는 과정에서 자극적이거나 극단적인 내용을 더 많이 노출시키게 되어 의도치 않은 부정적 컨텐츠 편향을 낳는 경우가 있습니다.

  2. 편향 강화(확증 편향): 모델이 편향 요소를 포함한 데이터를 학습하면서 그것에 내재된 편향을 오히려 강화하고 확대하여 재생산하는 현상이 발생합니다. 모델은 본질적으로 학습 데이터의 경향을 맹목적으로 일반화하려 하기 때문에, 데이터 간 상관관계를 맹목적으로 정당화하며 편향을 증폭시킬 수 있습니다.

 

즉, 이러한 편향은 결과적으로 특정 집단에 불리한 영향을 줄 수 있습니다. 따라서 데이터뿐 아니라 알고리즘의 목표나 의사 결정 과정과 기준 역시 설계 단계부터 면밀히 검토할 필요가 있습니다.

 

4. 편향된 AI가 초래하는 위험

AI가 편향된 데이터를 바탕으로 판단을 내릴 경우, 여러 영역에서 예상치 못한 문제가 발생할 수 있습니다. 아래에서는 이러한 문제를 이해하는 핵심 고려 사항을 정리했습니다.

 

  1. 차별과 불공정 심화: 편향된 AI는 기존의 불평등한 구조를 해소하기보다 오히려 확대 재생산할 수 있습니다. AI가 표면적으로 객관적이고 중립적인 판단을 내리는 것처럼 보이기 때문에, 자칫 차별을 정당화하는 도구로 오용될 우려가 있습니다. 특히 채용, 대출, 보험 심사 등 개인의 삶에 직접적인 영향을 미치는 의사결정 영역에서는 편향된 판단이 심각한 피해로 이어질 수 있어 세심한 주의가 필요합니다.

  2. 사용자 그룹별 성능 편차와 오류: 얼굴 인식이나 음성 인식 시스템에서 사용자의 인종, 성별 등에 따라 오류율 상승 및 성능 저하는 사용자들에게 잘못된 판단이나 오작동으로 인한 실질적인 피해를 초래할 수 있습니다. 특히 의료 AI의 경우, 성능 편향으로 인한 오진이나 부적절한 판단은 환자의 건강과 생명에 직결되는 만큼 모든 사용자 그룹에서 일관된 정확도를 확보하는 것이 매우 중요합니다.

  3. 사회적 신뢰 약화와 갈등 가능성: AI의 결정이 특정 사회 집단에 지속적으로 불리하게 작용한다면, 구조적 차별에 대한 불만과 불신이 쌓여 사회적 갈등으로 이어질 수 있습니다. 또한 AI가 편향된 정보를 선별적으로 노출할 경우, 여론 형성과 대중 인식에 영향을 미쳐 사회적 편향을 더욱 고착화시킬 우려가 있습니다.

  4. 기업의 평판 손상 리스크: AI 편향으로 인해 성차별, 인종 차별 등의 사회적 문제가 발생할 시 해당 AI를 개발하거나 사용하는 기업이나 기관의 브랜드 이미지와 신뢰도는 큰 타격을 입을 수 있습니다. 심한 경우에는 법적 소송이나 규제에 따른 처벌에 직면할 가능성도 매우 높습니다. IBM 리포트에서도 “AI가 편향으로 인한 실수를 저지르면 조직은 브랜드와 평판에 손상을 입고, 그 그룹과 사회 전체가 자신도 모르는 사이에 피해를 입게 된다”고 경고했습니다[11]. 이처럼 AI 편향 관리는 기업의 사회적 책임과 직결된 중요한 과제입니다.

  5. AI 생태계 전반의 신뢰: 편향에 대한 우려가 확산되면 사용자들은 AI의 판단과 결과물을 불신하게 되고, 이는 AI 기술 전반에 대한 거부감과 회의적 시각으로 이어질 수 있습니다. 건강한 AI 생태계 발전을 위해서는 투명성과 공정성에 대한 지속적인 노력이 필수적입니다.

 

5. ‘공정한’ AI를 향한 논의

5-1. 완벽히 비편향적인(Unbiased) AI는 가능한가?

결론부터 말하자면, 학계와 산업계 모두 완전히 비편향적인 AI를 만드는 것은 현실적으로 매우 어렵고, 사실상 불가능하다는 견해가 지배적입니다. 그 이유는 무엇일까요?

 

  1. 현실과 인간의 불완전성을 반영: 현실 세계와 인간 자체가 편향적이고 불완전하기 때문에, AI의 학습이 현실 세계의 데이터를 기반으로 이루어지는 이상 완전히 비편향적인 AI의 개발은 불가능하다는 것이 일반적인 의견입니다[12].

  2. ‘공정함’의 어려움: 복잡한 현실 세계에서 공정성이란 개념은 맥락에 따라 다를 수 있고, 그 기준 또한 주관적인 경우가 많습니다. 관련 지표들은 종종 서로 상충되며, 하나를 개선하면 다른 하나가 악화되는 경우도 빈번합니다.

 

따라서 우리가 추구해야 하는 방향은 완벽히 비편향적인 AI를 구현하는 것이 아니라, 각자의 공정성 및 윤리 기준 아래 편향적이고 차별적인 요소를 최대한 줄이고 관리하는 노력입니다. 즉 ‘보다 공정한 AI’를 향한 지속적인 관리와 개선이 필요하다는 점이 핵심입니다.

 

5-2. AI의 결과는 편향일까, 현실 반영일까?

AI 편향과 관련해 매우 흥미로운 논점 중 하나는 “AI가 편향된 것인가, 아니면 현실이 불공정한 것인가?”라는 질문입니다. AI의 역할을 ‘현실의 반영자’로 볼 것인지, 아니면 ‘바람직한 미래를 위한 조력자’로 볼 것인지의 관점 차이가 핵심 쟁점입니다.

 

  1. 객관적 현실의 반영자 관점: 인간 사회 자체가 공정하지 않고 편견이 존재하기에, 현실 데이터를 반영한 AI 역시 편향적일 수밖에 없다는 주장입니다. AI의 역할은 현실을 있는 그대로 보여주는 것이라는 논리가 골자이며, 이를 교정하려는 시도가 오히려 현실 왜곡이라고 말하기도 합니다.

  2. 미래를 위한 조력자 관점: 현실의 불공정은 역사적 불평등과 편견의 산물이며, “현실이 그렇다”는 이유로 AI 편향을 방치하는 것은 기존의 구조적 불평등을 심화할 뿐이라고 지적합니다. 즉, AI가 공정성을 달성하기 위해 현실을 교정하는 방향으로 설계되어야 한다고 주장합니다.

 

분명한 점은, 완전히 비편향적인 AI 개발이 당장 불가능한 만큼, 지금 우선시해야 하는 사항은 위험 관리라는 사실입니다. AI가 일정 수준의 편향을 가질 수밖에 없다는 현실을 인정하되, 그 안에서 ‘허용 가능한 편향’과 ‘허용 불가능한 편향’을 구분하고 합의하여 위험을 최소화하고 효용성은 최대한으로 끌어낼 방안을 고민해야 합니다.

 

5-3. 비편향적 AI의 장단점

비편향적 AI를 추구하는 것은 이상적인 목표이지만, 현실적 제약과 균형의 문제도 존재합니다.

 

  1. 장점

  2. 모든 사용자에게 동등한 성능을 제공: 사용자에 따른 성능 편차를 줄여 균일하고 동등한 결과를 제공할 수 있고, 이 과정에서 데이터나 모델의 전반적인 성능이 함께 향상될 가능성도 있습니다.

  3. 기회 균등 보장 및 및 차별 예방: 모든 사용자에게 동일한 기회와 대우를 보장할 수 있으며, 잠재적 차별로 인해 발생할 수 있는 피해를 예방할 수도 있습니다.

  4. 법적/금전적 리스크 감소 및 신뢰도 향상: 사회적 논란이나 소송, 브랜드 이미지 훼손 등을 방지할 수 있으며, 대중에게 “AI가 공정하다”는 신뢰를 주어 AI 기술 전반에 대한 수용성을 향상할 수 있습니다.

 

  1. 단점

  2. 성능 Trade-off 가능성: 편향을 개선하는 과정에서 AI의 성능이 저하될 수 있다는 우려가 있습니다.

  3. 기술적 난이도 및 비용 부담: 편향을 판단하기 위한 기준 설정 자체가 매우 어렵고, 개선 과정의 기술적 난이도나 비용 부담이 따릅니다.

  4. 역차별 가능성: 편향을 과도하게 교정하려다 보면 오히려 역차별(Reverse Discrimination)이 발생할 가능성도 있습니다.

 

따라서 명확한 기준을 세우고 그 안에서 적절한 균형점을 찾는 것이 중요합니다. 완벽한 ‘무(無)편향’은 불가능하더라도, 책임 있는 설계와 지속적인 개선을 통해 AI가 더욱 공정하고 신뢰할 수 있는 방향으로 발전하도록 관리하는 것이 핵심입니다.

 

6. AI 편향에 관한 향후 연구 및 발전 방향

AI 편향의 존재와 그 위험성에 대한 인식이 확산됨에 따라, 이제는 단순히 문제를 지적하는 단계를 넘어 체계적인 평가, 완화, 예방 방안을 구축하는 단계로 발전하고 있습니다. 향후 AI 편향 연구는 크게 기술적 접근과 사회적 접근의 두 축으로 전개될 것입니다.

 

이미지 3. AI 편향을 줄이고 공정성을 향상시키기 위한 주요 과정[13]

 

  1. 기술적 측면

  2. 평가/측정/탐지 기술 고도화: 한계가 많은 측정 지표와 벤치마크를 개선하여, 모델의 세부 작동 원리와 맥락, 그리고 현실을 반영할 수 있는 정량적/정성적 평가 프레임워크의 고도화가 필요합니다.

  3. 편향 완화(De-biasing) 알고리즘 및 학습 방법론의 연구 활성화: 데이터 재가중(Re-weighting), 대조학습(Contrastive Learning), 공정성 제약(Fairness Constraint) 기반 학습 등 AI의 편향을 구조적으로 줄일 수 있는 유망한 접근법의 연구가 활발히 이루어져야 합니다.

  4. 다양하고 공정한 데이터 및 평가 셋의 구축: 편향을 줄이기 위해서는 데이터의 대표성과 다양성이 보장되어야 하며, 인종, 성별, 연령, 언어 등 다양한 속성을 균등하게 반영하는 데이터셋을 확보하기 위한 노력이 지속되어야 합니다.

  5. 학제 간 연구 협력 및 거버넌스 체계 구축 평행: 기술 개발자뿐 아니라 윤리학자, 법학자, 사회학자, 정책 전문가 등 다양한 분야의 협업을 통해 편향 문제를 다층적으로 분석하고 제도적 기반을 마련해야 합니다.

  6. 도메인별 맞춤 편향 연구: 의료, 금융, 행정, 교육 등 각 분야별로 편향 양상과 이를 반영한 세분화된 접근이 필요합니다.

  7. 사용자 교육 및 참여 확대: AI의 공정성은 기술적 문제를 넘어 사용자의 이해와 인식 수준에 따라 달라질 수 있습니다. 따라서 일반 사용자와 개발자 모두가 AI의 편향을 인지하고 비판적으로 활용할 수 있도록 윤리적 AI 리터러시 교육 및 참여형 평가 체계를 구축해야 합니다.

 

‘공정한 AI’를 위한 LG AI연구원의 노력

AI의 편향 문제는 단순히 기술적 오류가 아닌 사회적 책임과 신뢰의 문제라고 할 수 있습니다. 완벽히 비편향적인 AI를 만드는 것은 당장은 불가능할지라도, 편향을 최소화하고 체계적으로 관리하기 위한 노력을 지속해야 합니다. 단순히 성능 향상을 넘어 공정성과 투명성을 확보함으로써, 지속가능한 AI 생태계를 구축하는 방향으로 나아가야 합니다. 기술의 발전이 사회의 불평등을 재생산하는 도구가 아니라, 오히려 이를 교정하고 포용하는 힘으로 작동할 수 있도록 하는 것이 진정한 의미의 ‘공정한 AI’로 가는 길일 것입니다.

LG AI 연구원의 Data & Analytics 팀에서는 AI의 편향 완화를 위해 크게 두 가지 접근법을 취하며 책임감 있는 AI 구현에 힘쓰고 있습니다.

 

  1. Guardrail 모델의 개발: 사용자의 질문이나 AI의 답변에 포함될 수 있는 유해한 내용을 탐지하고, 1차적인 거름망 역할을 수행합니다. 예를 들어 부적절한 요구에는 응답을 거부하거나, 답변에 유해하거나 편향된 내용을 포함하지 않도록 검토·보완합니다.

  2. 학습 데이터의 분석 및 개선: 모델 훈련에 사용된 데이터의 내용, 성격, 길이, 형식 등 다양한 측면에서 편향 존재 여부를 면밀히 분석하고 있습니다. 편향이 확인되면, 이를 완화하기 위해 데이터를 추가하거나 수정하는 등의 개선 작업도 수행하고 있습니다.

 

이러한 지속적인 노력이 AI의 편향 완화에 기여하고, LG AI연구원이 더 공정하고 신뢰할 수 있는 AI로 나아가는 작은 발걸음이 될 것이라 확신합니다.

 

2025 AI 윤리 세미나 시리즈

#1. [2025 AI 윤리 세미나 EP.1] AI는 인간의 비판적 사고를 어떻게 변화시키는가

참고

[1] James Holdsworth. 2024. “What is AI bias?”. IBM. https://www.ibm.com/think/topics/ai-bias.

[2] Larry Hardesty. 2018. “Study finds gender and skin-type bias in commercial artificial-intelligence systems”. MIT News. https://news.mit.edu/2018/study-finds-gender-skin-type-bias-artificial-intelligence-systems-0212#:~:text=In%20the%20researchers%E2%80%99%20experiments%2C%20the,percent%20in%20the%20other%20two.

[3] Leonardo Nicoletti & Dina Bass. 2023. “Humans are biased. Generative AI is even worse”. Bloomberg Technology. https://www.bloomberg.com/graphics/2023-generative-ai-bias/.

[4] Gehman et al. 2020. RealToxicityPrompts: Evaluating Neural Toxic Degeneration in Language Models. In Findings of the Association for Computational Linguistics: EMNLP 2020, pages 3356?3369. Association for Computational Linguistics

[5] Robert Booth. 2024. “Revealed: bias found in AI system used to detect UK benefits fraud”. The Guardian. https://www.theguardian.com/society/2024/dec/06/revealed-bias-found-in-ai-system-used-to-detect-uk-benefits.

[6] Jeffrey Dastin. 2018. “Insight - Amazon scraps secret AI recruiting tool that showed bias against women”. Reuters. https://www.reuters.com/article/world/insight-amazon-scraps-secret-ai-recruiting-tool-that-showed-bias-against-women-idUSKCN1MK0AG/?utm_source=chatgpt.com.

[7] Anne Trafton. 2024. “Study reveals why AI models that analyze medical images can be biased”. MIT News. https://news.mit.edu/2024/study-reveals-why-ai-analyzed-medical-images-can-be-biased-0628.

[8] A. Koenecke et al. 2020. Racial disparities in automated speech recognition. Proc. Natl. Acad. Sci. U.S.A. 117 (14) 7684-7689. https://doi.org/10.1073/pnas.1915768117.

[9] Maison, L., & Esteve, Y. 2023. Some voices are too common: Building fair speech recognition systems using the Common Voice dataset. Interspeech.

[10] Fima Furman. 2024. “Data Curation Practices to Minimize Bias in Medical AI”. Towards Data Science. https://towardsdatascience.com/data-curation-practices-to-minimize-bias-in-medical-ai-379bf6983de2/

[11] James Holdsworth. “What is AI bias?”. IBM. https://www.ibm.com/think/topics/ai-bias

[12] Tony Wood. 2025. “The Myth of the Unbiassed AI”. Tonywood.co. https://tonywood.co/blog/the-myth-of-the-unbiased-ai

[13] Md Shahriare Hossain Arafat. 2024. “AI Bias and Fairness”. Medium. https://medium.com/@Shahriare/ai-bias-and-fairness-58c277bc511f