팝스타 테일러 스위프트 얼굴 사진이 합성된 딥페이크 이미지가 소셜미디어 엑스(X·옛 트위터) 등에서 확산됐다고 뉴욕타임스(NYT)가 지난 26일(현지시간) 보도했습니다. 딥페이크는 '딥러닝'과 '가짜'의 합성어로, 인공지능(AI) 기술로 만든 콘텐츠를 의미합니다.

NYT는 "해당 이미지를 올린 소셜미디어 계정들은 현재 정지돼 찾기 어려운 상태"라며 "삭제되기 전까지 이미지는 4700만회 조회됐다"고 전했습니다. 또한 NYT에 따르면 딥페이크를 탐지하는 사이버 보안업체 '리얼리티 디펜더'는 해당 이미지가 AI 모델을 사용해 생성된 것으로 90% 확신했습니다.

특히 이번 딥페이크 이미지가 마이크로소프트(MS)의 AI 생성 도구 '디자이너'로 제작됐다는 주장이 제기됐습니다. 미국 NBC에 따르면 사티아 나델라 MS 최고경영자(CEO)는 지난 26일 'NBC 나이트 쇼' 앵커 레스트 홀트와의 인터뷰에서 스위프트 딥페이크 관련 질문에 "놀랍고 끔찍하다"고 말했습니다.

그는 "온라인 세상이 안전한 세상일 때 우리 모두가 이익을 얻는다"며 "아무도 콘텐츠 제작자와 소비자 모두에게 완전히 안전하지 않은 온라인 세상을 원하지 않을 것"이라고 했습니다. 이어 "기술 주위에 안전장치를 설치해 안전한 콘텐츠가 더 많이 생산될 수 있도록 해야 한다"며 "이를 위해 해야 할 일이 많고, 이미 상당히 진행 중"이라고 알렸습니다.

딥페이크는 최근 주요 문제로 대두되고 있습니다. NBC 방송은 지난 22일 조 바이든 미국 대통령의 가짜 목소리를 담은 전화가 뉴햄프셔주에서 기승을 부리고 있다고 보도했습니다. 바이든 대통령의 목소리를 위조한 전화가 "11월 대선을 위해 여러분의 투표를 아껴두라"며 23일 '프라이머리'(예비경선)에 투표하지 말 것을 요청한 것입니다.

한편 엑스는 텍사스주에 불법 콘텐츠를 단속할 '신뢰와 안전 센터'를 신설할 것으로 알려졌는데요. AI 기업들이 어떠한 안전장치를 마련할지 궁금합니다. 

자료=미디어뱀부
정리=김현기 기자 khk@techm.kr