챗GPT에 대한 규제 '신호탄'이 쏘아올려졌다. 지난달 발생한 개인정보유출 사고 이후 이탈리아가 서방 국가 중 최초로 접속을 차단했다. 뿐만 아니라 영국, 아일랜드, 유럽연합(EU) 등 또한 관련 규제 마련에 박차를 가하고 있다. 미국 비영리단체도 오픈AI를 미국 연방거래위원회(FTC)에 고발한 상황이다.

AI 서비스에 대한 법제도 마련이 필요하다는 목소리는 국내에서도 꾸준히 제기돼왔다. 한국 정부 또한 AI 산업 정책 마련에 착수한 상황이다. 그러나 기술 발전 속도에 비해 관련 논의가 지지부진하다는 지적이 나오는 상황이다.

이탈리아, 생성형 AI 규제 '신호탄' 쐈다

3일 외신에 따르면 이탈리아 데이터 보호청은 자국 내 챗GPT 사용을 잠정적으로 금지하고 접속을 차단했다. 또 오픈AI가 EU GDPR 규정을 준수했는지 조사하겠다고 발표했다. 뿐만 아니라 20일 내에 개인정보 불법 사용에 대한 해결책을 내놓지 않을 경우 매출액 중 최대 4%에 해당하는 2000만유로(약 284억원)에 달하는 벌금을 부과하겠다고 경고했다.

이탈리아 규제 당국이 문제를 제기한 지점은 크게 두가지다. 먼저 데이터 수집·처리·분석하는 방식이 도마 위에 올랐다. 챗GPT는 서비스를 위해 웹상에 존재하는 광대한 정보를 수집하고 학습한다. 이같은 일련의 과정은 데이터 무단 수집 논란을 야기했다. 결정적 계기가 된 건 지난달 발생한 개인정보 유출 사건이다. 챗GPT 사용자 중 일부가 다른 사용자의 채팅 기록이나 제목을 보게 된 것이다. 

이탈리아 데이터 보호청은 "개인 이메일 주소와 신용카드 마지막 4자리 숫자를 포함한 개인정보, 대화가 부분적으로 노출 됐다"고 지적했다. 당시 오픈AI는 자사 블로그 사과문을 통해 "조사 결과 챗GPT 플러스 사용자 1.2% 정도가 개인정보 유출 문제에 노출된 것으로 파악됐다"며 "신뢰 회복을 위해 부지런히 노력하겠다"고 밝혔다.

그러나 데이터 보호청은 "챗GPT가 알고리즘 학습 목적으로 개인 데이터를 대량으로 수집하고 저장하는 것을 정당화할 법적 근거가 없다"며 조사에 착수했다.

두번째 이유는 미성년자 보호다. 챗GPT 사용 연령 제한을 13세 이상으로 지정했지만 사이트 접속 시 연령을 확인하는 절차가 마련돼있지 않아 부적절한 정보가 무분별하게 제공된다는 지적이다. 이탈리아 데이터 보호청은 "13세 미만 어린이에 대한 서비스 사용 여부 확인 필터가 부족하다"며 "미성년자 발달과 인식 수준에 비해 부적절한 답변을 제공할 수 있다"고 꼬집었다.

오픈AI 측은 개인 프라이버시 보호에 최선을 다하고 있다고 밝혔다. 또 규제 마련에 대한 공감의 뜻도 내비쳤다. 오픈AI는 성명을 통해 "우리도 AI 규제가 필요하다고 믿는다"고 설명했다. 샘 알트만 최고경영자(CEO)는 사회관계망서비스(SNS)를 통해 "모든 개인정보보호법을 따르고 있다고 생각하지만, 이탈리아 내 챗GPT 제공을 중단했다"고 밝혔다.

전세계를 직접 방문해 적절한 규제 방안도 논의할 예정이다. 샘 알트만 CEO는 "오는 5~6월 중 이용자나 개발자 등 AI 전반에 관심이 있는 사람들을 만나는 '오픈AI 투어 2023'을 시작한다"며 "정책 입안자들과 대화할 수 있기를 바란다"고 말했다. 방문 도시는 ▲캐나다 토론토 ▲미국 워싱턴 ▲브라질 리우데자네이루 ▲나이지리아 라고스 ▲스페인 마드리드 ▲벨기에 브뤼셀 ▲독일 뮌헨 ▲영국 런던 ▲프랑스 파리 ▲이스라엘 텔아비브 ▲아랍에미레이트 두바이 ▲인도 뉴델리 ▲싱가포르 ▲인도네이사 자카르타 ▲서울 ▲일본 도쿄 ▲호주 멜버른 등 총 17곳이다.

韓 정부, 관련 규제 속도내야

국내에서도 다양한 부작용 사례가 나오고 있다. 챗GPT를 음란물 제작에 사용하거나 과제·논문을 대필하는 등 정보기술(IT) 영역을 넘어 사회 전반에 영향을 미치고 있는 모습이다.

전문가들은 생성형 AI 기술 발전 속도가 예상보다 빠르고, 이와 관련된 문제점들이 속속 등장하고 있는 만큼 정부가 서둘러 정책을 마련해야 한다는 지적이 나온다. 현재 정부는 과학기술정보통신부, 개인정보보호위원회, 문화체육관광부 등을 중심으로 산업 가이드 및 대응책을 논의 중이다.

과기정통부는 초거대AI 산업에 대한 정책을 마련 중이다. 최고위 전략 대화 행사 및 관련 간담회를 통해 육성책부터 윤리성 확보를 위한 가이드 마련에 나섰다. 개보위 또한 가명 정보 이용 등 AI 확산에 따른 데이터 사용 안정성 확보를 위해 오는 6월까지 정책 로드맵을 수립하고 발표할 예정이다. 그러나 눈에 띄는 성과는 아직 나오지 않았다.

국회에서도 관련 규제 마련은 요원한 상황이다. 지난달 14일 'AI산업 육성 및 신뢰 기반 조성 등에 관한 법률 제정안'이 국회 상임위 법안심사소위원회 문턱을 넘었다. 이는 규제보다는 '우선 허용'에 초점을 맞춘 법안이다. 전문가들은 해당 법안에 위험을 실질적으로 규제할 수 있는 내용이 포함돼있지 않아 추가적 입법이 필요하다고 판단 중이다.

한 AI업계 관계자는 "국내의 경우 보안사고나 개인정보, 저작권 침해에 대한 구체적 피해 사례가 발생하지는 않았지만 사용자들을 중심으로 여러 조짐이 나타나고 있다"며 "산업계도 챗GPT 등 생성형 AI를 악용한 여러 사고에 대비하고 있지만, 기술 발전 속도가 가파른 만큼 언제든 새로운 문제점이 등장할 가능성이 높아 정부가 정책 마련에 속도를 낼 필요가 있다"고 말했다.

김가은 기자 7rsilver@techm.kr