전세계가 '인공지능(AI) 바람'에 휩싸였다. 오픈AI 대화형 챗봇 '챗GPT' 등장 이후 기업은 물론, 각국 정부들 또한 관련 산업을 육성하기 위한 지원책 마련에 힘을 쏟고 있다. 인터넷, 스마트폰처럼 인류 사회의 다음 패러다임 전환을 이끌 기술로 AI가 꼽히기 때문이다.

이처럼 그간 인류 사회는 기술 혁신을 통한 비약적 발전에만 초점을 맞춰왔다. 그러나 최근 AI를 둘러싼 기류가 미묘하게 변하고 있다. 기술 개발 속도를 늦추고, 통제가 가능하도록 법적 규제부터 만들자는 목소리가 터져나온 것이다. 이같은 논의의 중심에는 '범용인공지능(AGI)'가 있다.

AGI가 디스토피아 불러온다?

진화를 거듭한 AI가 각종 정보기술(IT) 시스템을 장악하고 핵 미사일, 로봇, 드론 등으로 인류 말살에 나서는 시나리오는 우리에게 익숙하다. 영화를 비롯한 온갖 콘텐츠에서 흔히 쓰이는 '단골 소재'였기 때문이다. 쉽게 말해, 그저 흥미로운 스토리에 지나지 않았다는 의미다.

그러나 최근 일각에서는 생성형 AI 기술 개발 속도조절론을 꺼내들고 있다. 현재와 같은 속도로 AI를 발전시키다보면 이같은 미래가 그저 '소재'가 아닌 '미래'가 될 수 있다고 분석 중인 것이다.

지난달 29일 글로벌 비영리 싱크탱크 '미래생명연구소(FLI)'는 '초거대 AI 실험 일시중지:공개서한'을 발표했다. 이 서한에는 일론 머스크 테슬라 최고경영자(CEO)를 비롯해 스티브 워즈니악 애플 공동 설립자, 스튜어트 러셀 UC버클리대 교수 등 IT 전문가 및 업계 전현직 직원 1000여명이 서명했다.

이들은 해당 공개 서한을 통해 "독립적인 전문가들에 의해 공동 안전 협약이 개발 및 시행되기까지 'GPT-4'를 능가하는 AI 시스템 개발을 6개월간 중단해야 한다"고 강조했다.

이들이 두려워하는 건 '범용인공지능(AGI)' 이후 등장할 '기술적 특이점'이다. '완전한 AI'라고도 불리는 AGI는 사람이 가진 추론, 프로스세스 등 모든 지적 능력을 대체할 정도의 지능을 보유한 단계다. 즉, 사람이 관리, 감독하지 않아도 스스로 작업을 수행하고 결론을 도출한다.

버너 빈지(Vernor Vinge), 빌 조이(Bill Joy) 등 컴퓨터 공학자이자 미래학자들은 AGI가 발전을 거듭하다 특정 시점을 기준으로 폭발적 성능 향상을 이뤄내는 '기술적 특이점' 이후 인류가 AI를 통제할 수 없게 될 것이라 분석 중이다.

AI가 기술을 개발하다보면 '수학 가속법칙'으로 인해 가속도가 점점 더 올라가게 되고, 이를 거듭하다 특정 시점이 지나면 인간이 AI가 보유한 지능을 따라갈 수 없는 '초월적 AI'가 등장한다는 것이다. 스티븐 호킹을 비롯한 글로벌 구루들은 이같은 시대가 도래할 경우 로봇이 하나의 '종'으로 자리잡으며 인간을 대체할 것이라고 경고했다.

최근 이같은 우려는 점차 현실화 되고 있다. 지난달 30일 AI스타트업 시그니피컨트그래비타스는 생성형 AI 서비스 '오토GPT(Auto GPT)'를 공개했다. 오토 GPT는 오픈AI 거대언어모델(LLM) 'GPT-4'를 사용하는 파이썬 애플리케이션이다. 최종 목표만 설정하면 사람이 개입하지 않아도 스스로 작업을 수행한다.

사용자들은 오토GPT가 AGI를 향하고 있으며, 업무 방식을 더 혁신할 것이라고 평가했다. 사용 후기를 살펴보면 활용도가 무궁무진하다. 앱을 개발하는 것은 물론, 새로운 스타트업 창업이나 의료 및 의학 분야에서 신기술 트렌드 및 미래 등을 예측하기도 했다. 자체 추론을 통해 다음 작업을 수행하는 등 사람이 보유한 업무, 정보 처리 방법과 유사한 모습을 보이고 있다.

'AI법' 어디까지 왔나

생성형 AI에 대한 법적 규제 논의는 유럽과 미국을 중심으로 이뤄지고 있다. 가장 먼저 행동에 나선 건 이탈리아다. 지난달 발생한 챗GPT 개인정보유출 사고 이후 접속을 차단했다. 또 유럽연합(EU) GDPR규정을 준수했는지 조사하겠다고 밝혔다. 뿐만 아니라 20일 내에 개인정보 불법 사용에 대한 해결책을 내놓지 않을 경우 매출액 중 최대 4%에 해당하는 2000만유로(약 284억원)에 달하는 벌금을 부과하겠다고 경고했다.

이같은 흐름은 영국, 아일랜드, EU 등 서방 국가 전체로 퍼져나가고 있다. 미국에서도 한 비영리단체가 오픈AI를 미국 연방거래위원회(FTC)에 고발한 상황이다.

논의가 가장 빠르게 확산되고 있는 건 유럽이다. 지난 17일(현지시간) 브란도 베니페이, 드라고스 투도라케 등 유럽의회 의원들은 성명을 통해 AGI 규칙 수립을 위한 'AI법' 제정안에 대한 수정안을 제출하겠다고 밝혔다. 이는 FLI가 발표한 공개서한에 대한 응답차원인 것으로 알려졌다.

이들은 "빠르게 발전하는 AI에 대해 정치적인 관심을 기울여야 한다"며 "AI 법은 전 세계적으로 다양한 규제 관례와 환경에 적용할 수 있는 하나의 청사진이 될 것"이라고 말했다. 이어 "AI로 인해 문명에 대한 통제력을 상실할 수 있다"며 "인류는 규제를 통해 AI의 혜택을 누리고, 비관적인 미래를 피할 수 있을 것"이라고 강조했다.

국내에서도 다양한 부작용 사례가 나오고 있다. 챗GPT를 음란물 제작에 사용하거나 과제·논문을 대필하는 등 정보기술(IT) 영역을 넘어 사회 전반에 영향을 미치고 있는 모습이다.

전문가들은 생성형 AI 기술 발전 속도가 예상보다 빠르고, 이와 관련된 문제점들이 속속 등장하고 있는 만큼 정부가 관련 정책 마련에 속도를 내야 한다고 지적 중이다. 앞서 정부는 디지털플랫폼정부 구현을 위한 방안 중 하나로 AI 규제개선 및 제도 정립을 꼽았다. 'AI법제정비단' 운영을 통해 초거대 AI 관련 정책 방향을 도출하고, 기존 제도를 정비해나간다는 계획이다.

또 초거대 AI 서비스에서 발생 가능한 위험요인과 성능을 공신력 있는 제3기관을 통해 평가하고, 비윤리 및 유해성 표현과 사실 왜곡 등을 검증할 수 있는 데이터셋을 구축한다는 계획이다.

한 AI업계 관계자는 "생성형 AI 기술 발전 속도는 하루가 지날 때마다 더 빨라지고 있다"며 "보안사고나 개인정보, 저작권 침해 등 구체적 피해사례가 속속 발생하는 등 여러 조짐이 나타나고 있다"고 설명했다. 또 그는 "AGI 등장을 업계에서도 우려하고 있지만, 개발 속도를 늦추기는 힘들 것"이라며 "선두를 달리던 기업들을 따라잡기 위한 후발주자들의 개발이 이어질 것이기 때문에 국가적인 차원에서 정책을 마련하는 것이 무엇보다 중요하다"고 덧붙였다.

김가은 기자 7rsilver@techm.kr