이글루코퍼레이션은 인공지능(AI) 기술력에 기반해 보안 담당자 누구나 쉽게 활용할 수 있는 온라인 AI 탐지모델 '이글루XAI(가칭)' 서비스를 선보인다고 14일 밝혔다.

이글루XAI는 판단한 공격 결과에 대한 신뢰성과 이해도를 높이는 점이 특징이다. 특정 보안 데이터에 대해 AI 모델이 판단한 근거를 알려주는 온라인 서비스로 ▲AI가 어떤 기준에 따라 특정 행위를 이상·정상으로 탐지했는지를 알려주는 '설명 가능한 AI(XAI, eXplainable AI)' ▲기존 콘텐츠에 대한 학습을 토대로 새로운 콘텐츠를 만들어내는 '생성형 AI(Generative AI)' 기술이 적용돼 있다. 사용자들은 AI 모델이 특정한 예측을 내린 기준 확인을 통해 신뢰도를 평가하고, 자연어 형태 설명을 토대로 이해도를 높일 수 있다. 이는 AI 모델 확대 적용 및 개선 과정을 거쳐, 오는 4월 초 시범 서비스를 오픈할 예정이다.

보안 담당자들은 이글루XAI를 통해 AI 탐지 모델 판단 근거와 빅데이터 분석 결과, 자연어 형태 답변을 비교 확인할 수 있다. 이를 통해 보안 조직 분석 역량 상향평준화가 가능하다. 사용자가 공격 유무를 판단하고자 하는 페이로드(payload)를 입력하면 ▲AI 탐지 모델이 예측한 결과와 이 예측에 영향을 미친 공격 특징(feature)의 중요도 ▲빅데이터 기반 분석 결과가 제공된다. 챗GPT(ChatGPT)를 통한 대화형 분석 옵션도 선택가능하다.

이글루코퍼레이션은 더 많은 보안 조직이 이글루XAI를 활용할 수 있도록 서비스 모델을 다양화할 계획이다. 설치 및 개발 부담이 없는 온라인 웹페이지·응용프로그램인터페이스(API) 형태로 서비스를 제공하고, 현재 적용된 보안 이벤트 분류 모델에 이어 엔드포인트 및 행위 기반 모델을 추가할 예정이다. 또한 예측 결과에 대한 보안 전문가 피드백 적용을 통해 모델 신뢰도를 지속적으로 높일 방침이다.

이글루코퍼레이션은 이번 서비스 출시를 계기로 기존 확보한 AI 기반 탐지 기술 및 XAI 기술에 생성형 AI 기능을 접목, 사업 포트폴리오를 확대할 계획이다. 챗GPT 모델에서 더 나아가 복수 생성형 AI 모델 연계를 통해 고객 선택 폭을 넓히고, 중장기적 관점에서 보안에 최적화된 이글루코퍼레이션 고유 생성형 AI 모델도 적용한다는 전략이다. 뿐만 아니라 정상적 AI 서비스를 악용한 우회 및 적대적 공격에 맞서 현재 진행 중인 AI 방어 기술 및 방법론 연구에 가속도를 붙인다.

이득춘 이글루코퍼레이션 대표는 "이글루코퍼레이션은 다년간 보안, 빅데이터, 데이터 마이닝, AI 등 여러 분야의 전문가로 구성된 AI 조직을 운영하며 AI 탐지 모델 신뢰성과 정확성을 높이는 데 공을 들여왔다"며 "검증된 고유 AI 기술력에 생성형 AI 기술을 적용해 더 많은 조직들이 AI 혜택을 누릴 수 있도록 지원하겠다"고 말했다.

김가은 기자 7rsilver@techm.kr