생성형 AI와 AI 에이전트 확산이 기업 보안의 최대 변수로 떠올랐다. 국내 IT·보안 실무자와 경영진 10명 중 8명 이상이 2026년 가장 위협적인 사이버 리스크로 'AI 기반 보안 위협'을 지목하면서, 기술 도입 속도를 보안 체계가 따라가지 못하는 구조적 한계가 수면 위로 드러나고 있다.

24일 <메트로경제 신문> 취재에 따르면 생성형 AI 확산과 함께 AI발(發) 사이버 보안 리스크가 빠르게 부상하고 있다. 단순한 자동화 도구를 넘어 자율적으로 판단하고 실행하는 AI 에이전트가 확산되면서, 기존 보안 체계로는 통제하기 어려운 위협이 현실화되는 모습이다.

삼성SDS가 국내 IT·보안 담당 실무자와 관리자, 경영진 667명을 대상으로 조사한 결과, 응답자의 81.2%가 2026년 기업에 가장 큰 영향을 미칠 사이버 보안 위협으로 'AI 기반 보안 위협'을 꼽았다. 조사 대상이 실무부터 의사결정권자까지 포괄했다는 점에서 현장의 위기 인식이 전반적으로 확산됐다는 평가다.

삼성SDS 측은 생성형 AI, 특히 AI 에이전트의 도입과 확산이 새로운 보안 위협을 동반할 것으로 내다봤다. 자율적 업무 수행 주체로 발전 중인 AI 에이전트가 실행 과정에서 과도한 권한을 위임받거나 이를 남용할 경우, 데이터 유출이나 무단 작업, 시스템 손상으로 이어질 수 있다는 설명이다.

AI 보안 위협은 모델 자체의 구조적 취약성에서 출발한다. 업계에 따르면 현존 최고 수준의 AI 모델로 평가받는 앤트로픽의 '클로드' 역시 적대적 프롬프팅을 통해 안전장치 우회가 가능한 것으로 알려졌다. 특히 중국의 '딥시크' 등 일부 오픈소스 모델은 가드레일 구축이 미흡해 비교적 단순한 프롬프트만으로도 이른바 '탈옥'이 가능한 상황이다.

사용자의 기기를 직접 제어하는 AI 에이전트 확산은 보안 리스크를 한층 증폭시키고 있다. MS의 보안 보고서 '사이버 펄스'에 따르면 포춘 500대 기업의 80% 이상이 AI 에이전트를 운용 중이지만, 생성형 AI에 대한 보안 통제를 도입한 조직은 47%에 그쳤다. 기술 도입 속도를 보안 체계가 따라가지 못하고 있다는 지적이다.

실제 사례도 잇따르고 있다. '모리스Ⅱ'로 불리는 적대적 자가 복제 프롬프트 웜은 상호 연결된 AI 에이전트 생태계를 감염시켜 스팸을 유포하거나 데이터를 탈취하는 능력을 입증했다. AI 에이전트 플랫폼 '옥탄AI'의 '오픈클로'는 설계 결함으로 수천 명의 개인정보가 노출됐고, 네덜란드에서는 AI가 사용자 승인 없이 상품을 결제하는 사례도 보고됐다.

해커 조직의 AI 악용 역시 정교해지고 있다. 구글위협인텔리전스그룹(GTIG, Google Threat Intelligence Group)에 따르면 기존 멀웨어가 사전에 작성된 해킹 코드를 실행하는 방식이었다면, 최근에는 외부 AI 모델과 실시간으로 상호작용하며 필요한 명령을 그때그때 생성하는 형태로 진화하고 있다. '프롬프트플럭스'로 불리는 악성코드는 제미나이와 수만 차례 상호작용하며 탐지를 회피하기 위한 우회 코드를 스스로 만들어내는 것으로 분석됐다.

MS는 사이버 공격자가 AI 에이전트의 메모리를 조작해 추론 방식을 왜곡하는 '메모리 포이즈닝' 기법을 경고하며, 정상적으로 운용되던 AI 에이전트가 순식간에 내부 정보를 빼돌리는 '이중 스파이'로 전락할 수 있다고 분석했다.

이 같은 위협에 대응해 기업들의 통제 강화 움직임도 이어지고 있다. 네이버와 카카오를 비롯한 주요 기업들은 보안 우려가 큰 외부 AI 모델과 특정 AI 에이전트의 사내망 사용을 제한하거나 금지했다. 보안 전문가들은 AI 도입 전 전수조사를 통한 가시성 확보와 함께 AI 가드레일 구축을 최우선 과제로 꼽는다.

삼성SDS와 MS 등은 AI에 최소한의 권한만 부여하고, 민감한 명령 수행 시 반드시 인간의 승인을 거치게 하는 '제로 트러스트' 원칙 준수를 해법으로 제시하고 있다.

삼성SDS 장용민 보안사업팀장(상무)은 "AI와 AI 에이전트의 확산은 정교한 피싱, 데이터 유출, AI 이용 환경을 목표로 한 공격 등 새로운 보안 위협을 증폭시킬 것"으로 전제하고 "이러한 위협들은 전통적 보안 솔루션만으로는 대응이 어려우므로, 기업들은 전문 인력에 의존하던 보안을 AI 기반의 보안 솔루션을 도입하여 AI 기반 모니터링 ·탐지·자동 차단 등 조치를 자동화하는 선제적 대응으로 전환해야 한다"고 밝혔다.