"오픈소스 공개하고 도입 철회하고" AI 편향성 해결하려는 기업·정부 움직임

링크드인, AI 편향성 감지 도구 오픈소스로 공개... 특정 클라우드 종속 없어영국 정부는 AI 기반 학생 평가 철회... 한국도 관련 사례 주목해야

인공지능(AI)의 편향성을 해결하려는 각국 기업과 정부의 노력이 활발해지고 있다. 미국 IT 기업은 편향성을 해결할 수 있는 도구를 오픈소스로 공개해 주목받고 있다. 영국 정부는 편향성이 가미된 AI 평가 시스템 도입을 철회하기도 했다.

21일 소프트웨어정책연구소(SPRi)에 따르면, 링크드인이 AI 모델의 편향성을 감지하는 도구(LiFT)를 공개하며 AI 오픈소스 시장에서 영향력을 확대하고 있다.

링크드인은 그동안 친구 추천, 직업 추천, 랭킹 도출, 회원의 문제 행동 적발 등 링크드인 서비스에서 AI를 활용하면서 AI가 특정 유형의 회원을 차별하는지 LiFT로 감시하고 문제 발생 시 적극 대응해왔다. 이러한 기술적인 성과를 누구나 이용할 수 있도록 오픈소스로 공개한 것이다.

LiFT는 데이터 세트의 편향성과 AI 모델의 통계적 공정성을 검증할 수 있으며, 대규모 데이터 기반의 다양한 AI 모델에 적용할 수 있는 게 강점이다. 특정 성별, 인종, 연령, 지역에 속하는 회원 집단이 훈련 데이터 세트에 지나치게 많거나 적은지 판단해 개발자가 편향성 없는 데이터 세트를 구성할 수 있도록 지원한다.

일례로 데이터 세트의 40%가 여성이지만 친구 추천에 여성은 20%만 나타난다면 개발자는 이를 토대로 AI 모델의 변수 등을 조정해 공정성을 개선할 수 있다.

오픈소스 업계에선 LiFT가 그동안 공개된 다수의 공정성 평가 도구보다 확장성과 범용성이 우수하다는 평가를 내리고 있다. 주요 IT 기업이 공개한 공정성 평가 도구는 대부분 자사의 클라우드 환경에서만 구동되어 활용에 제한이 있지만, LiFT는 다양한 환경의 대규모 AI 개발 프로젝트에서 공정성을 평가할 수 있도록 개발돼 활용도가 높다는 장점을 보유하고 있다. 빅데이터 분석 기술 중에 가장 유망한 스칼라/스파크 환경에서 만들어졌고 다양한 상황에서 활용할 수 있도록 여러 가지 API를 제공한다.

이에 많은 미국 기업이 LiFT를 통해 직원 채용이나 고객의 신용평가 시 AI가 특정 지원자와 고객을 차별하는지 여부를 손쉽게 판단할 수 있을 것으로 기대하고 있다.

SPRi 관계자는 "AI의 실생활 적용과 확산에 따라 편향 방지를 위한 기업의 조치와 전략이 필요한 시점이다. AI의 오남용과 불공정 이슈가 지속해서 제기됨에 따라 미국, 유럽연합, 영국 등은 관련 규제를 강화하려는 움직임을 보이고 있다. 글로벌 IT 기업이 AI 윤리 문제에 적극적으로 대응하는 만큼 한국 정부와 기업도 관련 기술 개발과 전략 수립이 필요한 시점"이라고 분석했다.

한편, 영국 정부는 코로나19 확산으로 인해 고등학생 졸업자격시험과 대학입학시험 대신 도입한 AI 기반 평가 시스템에서 편향성 문제가 일어나자 관련 시스템 도입을 철회하기로 했다.

구체적으로 영국 정부의 성적 산출 AI는 △교사가 낸 예상 점수 △출신 학교의 과거 3년간 시험 성적 분포 △해당 학생의 과목 석차 등 3종류의 데이터를 활용해 성적을 산출했는데, 교사가 학생에게 높은 성적을 부여하는 '학점 인플레이션'을 조정하는 과정에서 일부 학생들이 작년보다 평균 성적이 30% 하락하는 문제가 일어났다.

교사가 낸 예상 점수보다 높은 성적을 받은 학생 비율은 2.3%인 반면, 학생 35.6%는 1등급 하락, 3.3%는 2등급 하락, 0.2%는 3등급 하락이라는 결과에 직면했다. 특히 공립학교와 빈곤 지역 학생의 성적이 주로 하락하고 부유층이 다니는 사립학교 학생들이 반사 이익을 얻는 등 불공정 논란이 촉발됐다.

SPRi 관계자는 "한국 정부와 기업은 영국 정부의 AI 도입 실패 사례를 분석해 차세대 교육행정정보시스템(NEIS)에 AI를 적용하는 것에 대한 철저한 검증과 공감대 형성을 해야 한다. 학생들의 성적 산출, 진학과 관련된 문제는 매우 민감한 결과를 가져올 수 있는 만큼 AI 신뢰성 확보, 성능 검증, 공감대 형성 등에 대한 신중한 접근이 필요하다"고 지적했다.

 [출처] 아주경제(https://www.ajunews.com/view/20200921063024555)