GPA 참석한 제이슨 권 오픈AI CSO 'AI 발전 기반은 '신뢰'...정보 보호 기준 높일 것'

오픈AI가 전 세계 정보보호업계 인사들이 모인 자리에서 AI 발전 과정에 프라이버시 보호가 필수적이라고 강조했다. 에이전트 형태로 인간의 업무를 대신하기 위해서는 신뢰가 우선돼야 한다는 설명이다.

제이슨 권 오픈AI 최고전략책임자(CSO)는 17일 서울 용산구 그랜드 햐얏트 서울에서 열린 '글로벌 프라이버시 총회(GPA) 서울' 기조연설자로 나서 이 같이 밝혔다. 

오픈AI의 행보를 예시로 든 권 CSO는 "챗GPT를 구축해 전 세계에 AI가 지닌 힘을 보여줬다"며 "그 과정에 '임시 대화'를 도입해 저장되지 않는 상태로 대화할 수 있고, 데이터 통제 권한을 부여해 대화가 학습에 사용되지 못하도록 설정할 수 있게 했다"고 말했다.

전 세계를 무대로 한 규제 거버넌스 대응 방안에 대해서도 소개했다. 그는 "우리는 유럽, 아시아, 남미에 이르기까지 규제 당국과 소통했고, 우리 도구에 대한 현장의 피드백을 반영했다"고 강조했다.

프라이버시 강화 기술과 관련해서는 "프라이버시 필터는 학습 과정에서 개인적인 데이터 처리를 줄이기 위해 사용하는 도구"라며 "상용 도구보다 정보 성능이 높은 필터를 오픈소스로 공개하며 향후 더욱 고도화해 나갈 것"이라고 덧붙였다.

권 CSO는 "오픈AI는 설계 단계부터 프라이버시 전문가들과 협력해 AI가 사람들이 자신의 권리를 이행하는 지원하는 방법을 탐구 중"이라며 "청소년의 챗GPT 활동 범위를 설정하는 등 AI도구로 청소년의 안전을 지킬 수 있게 선택권도 준다"고 설명했다.

AI의 미래에 대해서는 "AI가 일상에 스며들어 에이전트로서 자율성과 테스크(업무)를 가지고 인간의 주체성을 더욱 강화하는 방향으로 발전하려면 에이전트를 신뢰할 수 있어야 한다"며 "오픈AI는 가드레일로 데이터 안전하게 보호하고자 한다"고 말했다.

이어 "앞으로 사람들은 더 많이 AI와 대화할 것이고 이를 보호하기 위한 'AI 특권' 논의가 필요하다"며 "오픈AI는 AI와 인간 사이 대화를 어떻게 보호할 것인지에 대한 AI 특권 기준을 더욱 높이려고 한다"고 부연했다.

또 "AI가 경제성장률 증가와 함께 사회, 기후, 과학적 연구 등 다양한 반면에 기여할 수 있다"며 영국의 공무원 연수 교육, 미국의 공공 서비스 간소화, 에스토니아의 학교 교육 활용 사례를 근거로 제시했다. 

오픈AI는 지난 11일 한국에서도 서울대학교와 업무협약(MOU)을 맺고 한국 최초의 AI 네이티브 캠퍼스 구축에 협력하기로 했다.

권 CSO는 "정책은 기술적·규제적 관점에서 접근하지만 핵심은 사람"이라며 "AI가 인간의 존엄성과 자율성을 지키고 사회 전체의 발전에 기여하는데 활용될 수 있도록 오픈AI도 시민사회, 산업계 등과 이야기를 나누며 기회를 만들어나가겠다"고 말했다.

한편 오픈AI는 지난 10일 오픈AI 코리아 공식 출범 소식을 알리는 기자회견을 열고 정부가 역점 추진하는 AI 강국 도약 여정에 파트너로 함께하겠다는 뜻을 밝혔다. 오픈AI 코리아는 전 세계 12번째, 아시아 3번째로 설립된 오픈AI의 지사다.

임경호 기자 lim@techm.kr