인공지능(AI) 기본법의 필요성이 강조되면서 AI 사업자·운영자에 대한 명확한 정의와 규제와 기술 개발 사이 균형 잡힌 법 체계 마련이 필요다하는 목소리가 나왔다.

12일 국회 의원회관 소회의실에서 최민희 국회 과학기술정보방송통신위원회 위원장과 시민기술네트워크가 주최한 '시민참여 AI 기본법 추진을 위한 쟁점 토론회'가 열렸다. AI 기본법의 경우 과방위에서 지난 2022년까지 발의됐던 7건의 AI 관련 법률안을 병합해 심사하고 조정해 위원회의 대안을 제시하기로 했다. 비공개로 수정·보완 중인 상태에서 21대 국회 회기가 종료되면서 폐기됐으나 22대 국회가 개원하면서 현재까지 약 10개의 법안이 다시 발의됐다.

최민희 위원장은 환영사에서 "AI 기술의 급격한 발전으로 인해 부작용이 발생하고 있는 것도 사실"이라며 "국회는 AI 기술의 체계적인 육성과 함께 올바른 사용으로 국민의 권익을 보호하기 위한 제도적 기반을 마련해야 할 책임이 있다"고 말했다. 이어 "'시민참여 AI 기본법'은 온라인 플랫폼을 통해 시민과 전문가 등 각계각층의 다양한 의견을 수렴해 법안에 반영하는 크라우드소싱 기법을 활용할 계획"이라고 덧붙였다. 

발제자로 참여한 박치환 법무법인 혁신 변호사는 22대 법안에서 시급하게 다뤄야 할 내용으로 ▲국가인공지능센터 ▲인공지능 집적단지 ▲등을 언급했다. 센터와 집적단지는 예산을 들여야 하는 부분이 있어 법률이 제정이 되어야만 운영될 수 있다는 것이다. 법안 추진에 있어 쟁점이 되는 부분은 '우선 허용·사후규제'라고 판단했다. 박치환 변호사는 "21대 위원회 법률안에서는 우선 허용하고 사후 규제하는 대원칙을 설명을 했는데 국가인권위원회에서 이에 대해 제고하면 좋겠다라는 의견을 이미 권고한 바 있다"고 밝혔다. 

김정원 영국 사회혁신연구소 스프레드아이 대표도 발제자 겸 토론자로 참여해 고위험군 AI가 시장 출시 전 준수해야 할 EU의 프로세스에 대해 강조했다. 프로세스 단계는 ▲고위험군 AI 개발 ▲의무사항에 적시 내용 이행 및 준수성 평가 실시 ▲EU 데이터베이스 등록 ▲준수성 평가 실시 후 CE 마크 부착 ▲시스템 시장 출시 등이다. 김 대표는 "공급자는 CE 마크 부착된 것만 시중에 유통할 수 있는데 만약 사고가 나면 다시 AI 오피스에 보호하는 형식"이라며 "상세하게 나온 EU 법안 조차도 어떤 위험이 있는지 자신할 수 없기 때문에 빠르게 돌릴 수 있는 프로세스에 공을 들였다"고 말했다. 

이어진 토론에서 하정우 네이버 클라우드 AI 랩 연구소장은 "기본적으로 AI를 통한 성장 혁신 그리고 이에 대한 기회가 누구도 소외되지 않도록 하는 것을 기본 방향성으로 해야 한다"며 "규제는 이런 기본 방향을 실현할 수 있는 방법으로서 규제여야 한다"고 주장했다. 이를 위해서는 샌드박스가 필요하다고 밝혔다. 하정우 연구소장은 "모델을 개발한 수준에서는 어떤 문제가 발생할지 모든 걸 예측하기 사실상 어렵다"며 "따라서 샌드박스 내에서 시민사회들과 함께 활용을 해보며 발생하는 문제들을 즉각적으로 대응할 수 있는 형태가 돼야 한다"고 말했다. 

 오병일 진보네트워크센터 대표는 AI 사업자에 대한 엄밀한 정의가 없었다는 것을 지적했다. 오병일 대표는 "현재 인공지능 사업자와 운영자를 구분하지 않고 인공지능 산업과 관련된 경제활동을 영위하는 자 등으로 되게 뭉특하게 진행되고 있다"며 "정의 개념부터 국회에서 치열하게 검토가 돼야 된다고 생각하는데 21대 국회 회의록에서는 이런 부분에 대한 검토가 전혀 없었다"고 밝혔다. 이어 "이는 인공지능 규제정책의 국제적인 호환성을 위해서도 중요하다"고 강조했다. 

배수현 기자 hyeon2378@techm.kr