KT가 인공지능(AI)의 악의적인 사용이나 오용을 막기 위해 책임감 있는 AI센터를 세우고 AI 활용의 5가지 원칙을 세웠다. 'ASTRI'라고 불리는 원칙으로 책임성(Accountability)과 지속가능성(Sustainability), 투명성(Transparency), 신뢰성(Reliability), 그리고 포용성(Inclusivity)을 뜻한다. 

배순민 KT 책임감 있는 AI센터장은 2일 서울 중구 웨스틴 조선호텔 서울에서 열린 세계이동통신사업자연합회(GSMA) 주최의 'M360 APAC'에서 'AI 리스크 감소 전략'을 주제로 강연하며 이같은 'ASTRI' 원칙을 소개했다. 

최근 AI 모델이 고도화되면서 AI가 우리 삶을 위협하기 시작했다. AI모델에 내재된 정치적 혼란은 물론, 가짜 정보, 종교적 또는 성별 편향과 같은 사건들이 많아졌다. 특히 이미지 생성 AI를 통해 유명 인사 얼굴을 생성할 수 있게 되면서 많은 논란이 생겼다. 실제로 미국 대선 후보인 도널드 트럼프 후보와 카밀라 해리스 얼굴을 생성해 가짜 정보를 유포하는 사례도 있었다. 

배순민 센터장은 이같은 사례들을 소개하면서 "AI의 위협은 크게 두가지로 나눌 수 있으며 하나는 거버넌스 위험이고, 다른 하나는 재앙적 위험"이라고 설명했다. 거버넌스 위험은 공정성과 책임성, 투명성, 윤리 등 AI를 개발할때 고려해야 할 원칙이며 재앙적 위험은 개발된 AI로 인해 벌어지는 위협이다.

특히 AI 능력이 증가할수록 재앙적 위험도가 높아진다는 것이 배 센터장의 설명이다. 재앙적 위험에는 의도적으로 해를 끼치기 위해 AI를 사용하는 '악의적인 사용', 공동체 경쟁 과정에서 안전하지 않은 AI를 배포하는 'AI 경쟁', 그리고 사람의 실수나 AI시스템 복잡성으로 인한 사고와 인간보다 더 지능적인 AI에 대한 통제 상실 등이 포함된다.

배 센터장은 이같은 위험을 최소화하기 위해 KT가 책임감 있는 AI센터를 설립하고 'ASTRI' 원칙을 세웠다고 소개했다. 책임성(Accountability)은 AI가 책임감 있게 설계되고 배포되어야 한다는 것을 의미하며, 지속 가능성(Sustainability)은 장기적인 환경적, 사회적 복지를 고려하여 AI 기술이 개발되고 사용되어야 한다는 것을 의미한다.

투명성(Transparency)은 AI 생애 주기가 공개적으로 정보에 접근 가능해야 한다는 것을 의미하고 신뢰성(Reliability)은 예상치 못한 상황에서도 시스템이 설계대로 작동해야 한다는 것을 의미한다. 마지막으로 포용성(Inclusivity)은 AI 개발이 편향을 최소화하고 사회의 모든 구성원에게 이익을 주어야 한다는 의미다.

배 센터장은 "AI의 전형적인 생애 주기는 사전 훈련에서 시작해, 오프라인 미세 조정, 테스트, 그리고 온라인 사용으로 이어지는데, 이 생애 주기 각 단계마다 위험을 최소화하기 위한 도구와 방법론이 필요하다"며 "데이터 수집 및 처리 단계에서는 사회적 가치를 준수하는 규정에 따르고, 모델은 투명하고 신뢰할 수 있도록 개발돼야 한다. AI 출력은 사회적, 조직적 위험을 최소화해야 하며, 시스템 견고성 측정은 프로젝트 시작부터 진행돼야 한다. AI 배포 이후에도 AI 사용을 검토해 시스템을 신뢰할 수 있도록 해야 한다"고 강조했다.

그는 "KT는 정책 수립, 내부 프로세스, 지속적인 모니터링까지 엔드 투 엔드 거버넌스를 적용하고 있다. 책임 있는 AI 원칙과 도구를 도입함으로써 신뢰할 수 있고 안전한 AI를 제공할 것을 목표로 하고 있으며, 이를 통해 신뢰를 구축할 수 있다"며 "이같은 책임 있는 AI 원칙을 지키는 것은 사용자, 개발자, 정부, 정책 입안자, 그리고 AI 제작자 모두에게 유익할 것"이라고 언급했다.

허준 기자 joon@techm.kr