초거대 인공지능(AI) 기반 대화형 챗봇 '챗GPT' 파장이 거세다. 사용자 질문에 대답을 하는 단순한 기능을 넘어, 각종 창작 활동이 가능하다는 사실에 전세계가 술렁이고 있다.

특히 논문, 연설문, 보고서 등 글을 작성하는 것은 물론, 코딩에 대한 결과물 또한 큰 문제없이 도출한다는 점을 악용한 사례가 속속 등장하고 있다. 다크웹 내 해커 커뮤니티를 중심으로 챗GPT를 활용해 악성코드나 피싱 사이트 제작을 위한 코드 작성 방안을 연구 중인 정황이 포착됐기 때문이다.

챗GPT 기반 악성코드·랜섬웨어 등장

6일 이스라엘 보안기업 체크포인트 등에 따르면 지난달 챗GPT를 통해 악성코드나 피싱메일 등 사이버 공격 도구를 개발한 사례가 탐지됐다. 챗GPT로 악성코드를 직접 작성한 것은 아니다. 다만 공격자들은 이를 보조도구로 활용하는 방안을 연구 중인 상황이다.

현재 오픈AI는 랜섬웨어, 악성코드 등 사이버 범죄에 활용되는 콘텐츠 생성을 금지하고 있다. 그러나 체크포인트 분석에 따르면 공격자들은 챗GPT가 작성해준 코드 스크립트를 일부 수정 작업을 거쳐 랜섬웨어 등으로 탈바꿈시키고 있는 것으로 나타났다. 또한 이같은 방법을 타 공격자들과 공유하고 있다는 점도 문제다.

실제로 다크웹 해커 커뮤니티에는 챗GPT를 활용해 악성코드 및 랜섬웨어를 작성했다는 경험담과 사진이 올라와있는 상태다. 한 공격자는 "나는 챗GPT가 1000달러에 판매되는 필터를 우회하도록 할 수 있었다"며 "필터를 우회한 후 랜섬웨어를 사용해 파이썬 스크립트를 작성해달라고 요청했고 이것이 결과"라며 사진을 공유했다.

챗GPT를 활용해 파일 탈취 프로그램을 만든 한 공격자는 "최근 챗GPT를 통해 멀웨어 변종과 기술을 재현했다"며 "프로그램이 무엇을 해야 하는지와 취해야할 단계를 명심함으로써 원하는 것을 만들도록 하는 것"이라고 설명했다. 이어 "아래는 일반적 파일 형식을 검색하는 파이썬 파일 스틸러이며, 업로드 후 또는 프로그램에 오류가 발생하면 폴더와 압축파일이 안전하게 삭제되므로 증거가 사라진다" 덧붙였다.

체크포인트는 "챗GPT 언어모델이 보다 정교해지면 사이버 범죄자들은 간단한 명령어만으로 악성코드나 피싱메일 프로그램을 보다 쉽게 개발할 수 있다"며 "초보 해커도 쉽게 피싱 범죄에 가담하는 등 사이버 범죄 진입장벽이 대폭 낮아질 것"이라고 말했다.

현 위협 수준 크지 않지만, 대비해야

다만 챗GPT를 활용한 사이버 보안위협 수준이 현재로써는 크게 높지 않다고 보안 전문가들은 분석 중이다. 실제로 공격 방법이 연구되고 있고, 활용 가능한 수준이지만 정교한 공격에 쓰이거나 고도화돼있다고 보기에는 어렵다는 분석이다.

그러나 미래 발전 가능성을 고려하면 선제적 조치 및 꾸준한 관심이 필요한 상황이라고 전문가들은 경고 중이다. 향후 오픈AI가 매개변수 1억개 이상을 사용할 것으로 예상되는 'GPT-4' 기반으로 챗GPT를 업그레이드할 예정인데다, 공격자들이 꾸준히 연구를 이어가고 있기 때문이다.

국내 한 보안 전문가는 "현재 다크웹에서 챗GPT 기반 공격 방안이 연구되고 있지만, 수준이 높아 정교한 공격에 쓰일 정도라고 할 수는 없다"며 "코딩을 도와주는 형태로 프로그래밍 실력이 떨어지거나 경험이 미숙한 공격자들이 악용할 소지는 있지만 위협이 크다고 볼 수는 없다"고 설명했다.

또 그는 "하지만 충분히 악용될 소지가 많고, 실제로 피싱 페이지를 만들어달라고 명령하면 만들어준다"며 "범죄 진입장벽이 낮아짐과 동시에 향후 고도화될 여지가 있는 만큼 오픈AI 측에서 내부 모니터링 및 차단 등 내부적인 대응 방법을 찾아야 한다"고 부연했다.

김가은 기자 7rsilver@techm.kr