정송 카이스트 김재철AI대학원장이 지난 20여년간 인공지능(AI) 실제로 잘 동작한다는 점을 확인한 시간이었다면, 이제는 더 책임감 있는 AI와 설명가능한 AI가 트렌드로 부상하고 있다고 강조했다.

정송 원장은 3일 AI양재허브가 개최한 'AI 서울 2022' 기조강연에서 "지금 AI는 잘 작동한다는 점이 검증됐지만, 왜 이 답을 줬는지 설명해주지는 못한다. 설명을 해주지 못하면 중요한 의사결정에 사용하기 어렵다"며 "최근 트렌드는 설명가능한 AI, 그리고 더 안전하고 책임감 있는 AI로 만들어가느냐"라고 설명했다.

정 원장은 이날 강연에서 AI 기술 진화에 대해 소개했다. 처음 머신 리즈닝부터 시작된 AI 기술은 데이터 기반 학슴 시스템인 '머신 러닝', 인간의 데이터 주입까지 AI에게 맡기는 '딥러닝'을 거쳐 최근에는 대규모언어모델까지 진화했다. 세상에 있는 모든 데이터를 AI에 주입한 뒤 원하는 AI 서비스를 만들 수 있도록 하는 전이학습도 최근 트렌드로 부상했다는 것이 정 원장의 설명이다.

특히 전이학습은 마치 인간이 살면서 경험을 쌓고, 그 경험을 바탕으로 새로운 판단을 내리는 것처럼 AI에도 세상의 모든 언어, 모든 이미지를 사전에 학습시키는 형태다. 그러면 AI가 스스로 그 데이터를 사전에 학습한다. 이렇게 학습한 AI에는 약산의 추가적인 데이터만 넣으면 새로운 AI 서비스를 만들 수 있게 되는 것이다.

이렇게 탄생한 서비스가 글만 써서 넣으면 글에 맞는 그림을 그려주는 형태의 서비스다. 

다만 정 원장은 이렇게 진화한 AI가 장점만 있는 것은 아니라고 설명했다. 누가 저 AI를 소유할 것인가에 대한 답이 어렵다는 것이 정 원장의 설명이다. AI를 가진 회사와 가지지 못한 회사, AI를 가진 국가와 그렇지 못한 회사의 차이를 어떻게 해소할 것인지를 고민해야 한다는 것이다. 또 일반 국민들도 AI에 접근할 수 있는 것인지도 고민해봐야 한다는 것. 

정 원장은 "그렇다면, 세상의 모든 지식을 알고 있는 AI가 내린 판단을 100% 신뢰할 수 있는가, AI는 정말 공정한가에 대한 고민도 필요하다"며 "그래서 책임있는(responsible) AI에 대한 이야기가 나올 수밖에 없다. 점점 더 공정성, 형평성이 중요해질 것"이라고 언급했다.

아울러 그는 "AI가 컴퓨터를 많이 사용하기 때문에 경량화 하는 노력도 함께 해야 한다"고 덧붙였다.

허준 기자 joon@techm.kr