카카오가 빠르게 변화하는 인공지능(AI) 기술에 따라 발생할 수 있는 위험성을 AI 위험 관리 체계 등의 정책 마련과 기술적 노력으로 적극 예방·대응하겠다고 밝혔다.

24일 경기도 용인시 카카오AI캠퍼스에서 열린 '이프 카카오(if kakao)25'에서 이상호 AI 퀄리티·세이프티(Quality·Safety) 성과리더는 "카카오는 초거대 언어 모델(LLM)의 위험성에 대응하고자 정책 수립과 기술 개발, 외부 협력의 방향으로 노력하고 있다"고 강조했다.

카카오는 AI 기술 발전으로 야기되는 위험성을 관리하기 위해 정책 수립과 기술적 방안 마련 등에 노력을 기울이고 있다. 이 일환으로 지난 10월 AI 위험 관리 체계인 '카카오 AI 세이프티 이니셔티브'를 수립했다. 

이 리더는 "더 안전하고 책임 있는 AI를 위한 카카오의 실천으로 AI 모델의 전 생애주기에서 발생할 수 있는 리스크에 선제적으로 대응하기 위해 만들었다"며 "이러한 프레임워크를 기반으로 카카오 내부 모델의 리스크 요소를 사전에 점검하고 있고, 카카오 그룹의 책임 있는 AI를 위한 가이드라인이라는 AI 윤리 원칙을 기초로 작동된다"고 수립 배경을 밝혔다. 

이와 함께 '사내 생성형AI 서비스 개발 가이드라인' 또한 마련했다. 해당 가이드라인은 업무생산성 향상을 위한 사내 AI 서비스에 적용됨에 따라 AI 서비스를 개발하는 부서는 출시 전 또는 활용 과정에서 반드시 리스크를 검토해야 한다.

기술적 차원의 대응 방안으로는 자체 AI 가드레일 모델인 '카나나 세이프가드'을 구축했다. 카나나 세이트가드는 카카오의 AI가 윤리적 가치를 위반하지 않도록 사전에 방지하는 핵심 기술로, 이미 출시됐거나 출시 예정인 AI 서비스에 탑재된다. 

카나나 세이프가드는 ▲한국어 특화 ▲리스크별 3가지 모델 ▲벤치마크 대비 우수한 성능 ▲오픈소스 공개·실서비스 적용 등의 장점을 지니고 있다.

이 리더는 "카나나 세이프 가드 시리즈는 올해 5월 국내 기업 최초 오픈 소스로 공개된 한국어 기반 AI 가드레일 모델이다"며 "모델 공개 이후 약 3개월간 5000번의 모델 다운로드가 있었다"고 말했다. 

향후에도 카카오는 안전한 AI 생태계 구축을 위해 기술 발전과 정책 고도화를 추진할 예정이다. 특히 AI 안정성을 위한 제품군을 확대할 방침이다. 텍스트 뿐만 아니라 영상과 이미지 등 멀티모달 모델에 대응하기 위해서다.

이 리더는 "AI 활용이 더이상 텍스트에 그치지 않고 멀티모달로 확대되는 만큼 AI가 생성해낸 이미지나 영상 등에 대한 가드레일도 개발하려고 한다"며 "또 이해관계자의 참여를 확대하고자 국내 뿐만 아니라 국제기구 등 해외 단체와의 논의를 이어가 AI 세이프티 표준 수립에 기여할 것"이라고 말했다.

배수현 기자 hyeon2378@techm.kr