[ 아시아경제 ] "고객을 응대해야 할 인공지능(AI) 챗봇을 바보로 만드는 새로운 사이버 보안 위협이 일어날 수 있습니다."

국내 기업들이 너도나도 AI 기술을 사업에 도입하는 가운데 거대언어모델(LLM) 생태계를 겨냥한 새로운 사이버 공격에 대비할 필요가 있다는 목소리가 나왔다. 애플리케이션(앱) 보안 전문 기업 'F5'는 23일 서울 강남구 파크 하얏트 서울에서 기자간담회를 열고 AI 시대의 LLM 보안 대응책에 대해 설명했다.

1996년 설립된 F5는 170여개 국가에 진출해있으며 한국 지사가 문을 연 지는 올해로 25년이 됐다. 전 세계적으로 2만3000여개 고객사를 보유했으며, 포춘 50대 기업 중 85%가 F5의 보안 기술을 사용하고 있다.

모한 벨루 F5 아시아태평양·중국·일본 지역 최고기술책임자(CTO)는 "AI 기술이 빠르게 발전하는 동시에 환각 문제와 개인정보 탈취, 프롬프트 주입(injection), LLM 악용 등 새로운 사이버 위협이 등장하고 있다"고 설명했다.

제임스 리 F5 아시아태평양·중국·일본 지역 선임 솔루션 아키텍트는 "은행이나 병원이 고객을 응대하는 AI 챗봇을 도입할 때는 일정한 역할이 정해져 있다"며 "하지만 해커가 챗봇에 새로운 임무를 정해주거나, 챗봇을 바보로 만들 수도 있고 또 다른 방법으로 심각하게 악용할 가능성이 있다"고 말했다.

모한 벨루 CTO는 지난해 에어캐나다 웹사이트에서 운영되는 AI 챗봇이 고객에게 부정확한 항공 티켓 정보를 제공해 민사 분쟁이 벌어진 사례를 들기도 했다. 업무 효율성을 높이기 위해 도입한 AI 챗봇이 기업에 '리스크'가 될 수 있다는 것이다.

F5의 '2025 애플리케이션 전략 보고서'에 따르면 96%의 기업들이 AI 모델을 배포하고 있는 것으로 나타났다. 3년 내에 전체 앱의 80%가 AI를 활용할 것으로 예측하고 있다. 하지만 대부분의 기업은 AI 앱에 내재된 방대한 데이터, 복잡한 트래픽 패턴, 보안 위협을 효과적으로 처리할 준비가 충분치 않다고 F5측은 밝혔다.

제임스 리 아키텍트는 "API 보안 없이는 AI 모델의 보안을 구현할 수 없다"면서 "딥시크가 발표됐을 때 오픈AI의 데이터를 불법 수집했다는 보도가 있었고, 이 역시 데이터를 호출하고 주고받는 API 보안과 연결된다"고 했다.

그는 "F5 솔루션이 취약점을 발견하고, 보안을 강화하며, 공격자보다 먼저 위협을 식별하고 해결함으로써 기존 및 신규 AI 기반 앱을 효과적으로 보호한다"고 강조했다.

한편 F5는 24일 서울 소피텔 앰배서더에서 국내외 IT 전문가 약 300명을 대상으로 'F5 솔루션 데이 2025' 행사를 개최한다. AI 주도 환경에서 기업들의 경쟁력을 높이기 위한 양사의 협력 방안을 소개할 예정이다.

김보경 기자 bkly477@asiae.co.kr
<ⓒ투자가를 위한 경제콘텐츠 플랫폼, 아시아경제(www.asiae.co.kr) 무단전재 배포금지>