페이스북의 인공지능(AI) 시스템에 대해 의문이 제기됐습니다. 

현지시간 17일 외신들은 페이스북 AI가 폭력 영상, 혐오 발언 등 유해 콘텐츠를 제대로 구분하지 못한다고 보도했습니다. 2019년에 작성된 문서에 따르면 AI는 닭싸움과 교통사고 영상을 구분하지 못했고, 1인칭 총격 사건 영상을 식별하는 데에 실패했습니다.

2018년 중반 페이스북 엔지니어들은 페이스북에 자동차 충돌사고 영상과 닭싸움 영상이 확산 중이라는 점을 파악했습니다. 그들은 AI를 통해 해당 영상을 인식 및 삭제하는 방안을 추진했습니다. 하지만 문서에는 AI가 닭싸움의 닭과 평범한 닭을 구분하지 못했으며, 닭싸움 영상을 교통사고 영상으로 판단하기도 했다고 보고됐습니다. 또 2019년 3월 뉴질랜드의 테러리스트 총격 살해 영상도 서바이벌 게임, 세차 장면과 혼동하며 제대로 탐지하지 못했습니다.

혐오 발언에 대해서도 AI는 제 기능을 하지 못했습니다. 올해 3월 다른 문서에서는 페이스북 AI 시스템이 여러 혐오 발언 콘텐츠 중 3~5%만을 삭제하였다고 알려졌습니다. 폭력, 선동 등 콘텐츠의 범위를 확대할 경우 단 0.6%에 불과했습니다. 그리고 내부 문서에서는 페이스북이 AI의 실적을 '부풀리기'했다는 의혹도 포함돼 있었습니다.

페이스북은 즉각 대응에 나섰습니다. 가이 로젠 페이스북 부사장은 17일 블로그에 "지난 3년 동안 혐오 발언이 50% 감소해 약 1만건당 5건에 그쳤다"며 "혐오 발언 등과 싸우기 위한 우리의 기술이 부적절하다거나, 의도적으로 관련 사항을 잘못 전달했다는 것은 결코 사실이 아니다"라고 설명했습니다.

또 특정 기술이 아니라 유해 콘텐츠를 차단한 사실에 주목할 것을 강조했습니다. 그는 "해당 기술은 페이스북이 사용하는 한가지 방법일 뿐이다. 거기에만 초점을 맞추는 것은 잘못됐다"며 "우리는 유해 콘텐츠를 삭제하기 전에 어느 부분이 편파적인지 확신해야 한다"고 말했습니다. 이어 "유해 콘텐츠를 제거하기 위한 우리의 작업들은 투명하다"고 덧붙였습니다.

과연 페이스북의 AI 시스템의 실제 성능은 어떠한지 궁금합니다.

자료=미디어뱀부
정리=김현기 기자 khk@techm.kr