S2W는 '2025 국제사이버범죄대응 심포지엄(ISCR 2025)'에서 생성형 AI 시대 신종 보안 위협에 관한 발표를 진행했다고 27일 밝혔다.

지난 26일 서울 서초구 JW 메리어트 호텔 서울에서 진행된 행사는 올해로 26회를 맞이했다. '사이버세상 속 신뢰: 모두를 위한 안전'을 테마로 열렸다. 사회 각계 사이버범죄 전문가들이 모여 경험과 지식을 공유하는 경찰청 수사국 주관 심포지엄이다.

이날 양종헌 S2W 오펜시브연구팀장은 'AI 에이전트 및 멀티 에이전트 시스템 취약점 및 보안 위협'을 주제로 발표했다. ▲프롬프트 인젝션 ▲모델 포이즈닝 ▲악성도구를 이용한 권한 상승 등을 포함해 대규모 언어모델(LLM) 기반 AI 에이전트 및 멀티 에이전트 시스템의 취약점을 공략한 대표적인 보안 위협 8종과 대응책을 소개했다. 

또 ▲랭스미스 랭체인 허브 어뷰징 ▲레노버 '레나' 챗봇 XSS ▲아마존 Q 개발자 플러그인 어뷰징 등 올해 발생한 생성형 AI 위협의 주요 사례들을 소개했다. 데이터 보호 정책 수립과 정교한 접근 제어, 체계적인 모니터링 시스템 구축 등을 통한 보안 대책 마련 필요성도 강조했다.

양 팀장은 "S2W는 생성형 AI가 야기한 새로운 위협 환경을 분석하는 것을 넘어 실제 현장에서 적용 가능한 고도화된 방어 체계를 구축하는 데 주력할 것"이라고 전했다. 

한편 S2W는 '시큐리티 가드레일'을 구현해 자사의 산업 특화 AI 플랫폼 'SAIP'에 탑재했다. 이를 통해 생성형 AI 서비스 운용 과정에서 파생될 수 있는 각종 사이버 위협에 대응 중이다. 

위협인텔리전스센터 '탈론'에서는 온톨로지 기반 지식그래프 기술을 바탕으로 악성코드 및 취약점과 위협 행위자 간 연관성을 정밀하게 파악해 지능화되고 있는 AI 기반 사이버 위협으로부터 최적의 방어 전략을 구축할 수 있도록 지원한다.

임경호 기자 lim@techm.kr