[정보통신신문=박남수기자]

인공지능(AI)이 기업 업무에 빠르게 확산하면서 사이버 보안의 중심축도 기존 소프트웨어의 코드 분석에서 AI 에이전트의 행동 감시와 통제로 옮겨가야 한다는 제언이 나왔다. AI 에이전트는 정상적인 계정과 권한, 응용프로그램 인터페이스(API)를 이용하면서도 의도하지 않은 작업을 수행할 수 있어 기존 방화벽과 백신 중심의 보안 체계만으로는 대응에 한계가 있다는 지적이다.

방혁준 쿤텍 대표이사는 27일 서울 양재동 엘타워에서 열린 ‘AX 시대의 AI 보안과 안전한 사용’ 세미나에서 AI 시대의 보안 위협과 대응 전략을 발표하며 이같이 강조했다.

쿤텍은 AI 모델 도입부터 에이전트 운영, 데이터 활용까지 전 과정을 아우르는 통합 보안 체계를 구축하고, 기업의 정보기술(IT)·운영기술(OT) 자산에 대한 가시화와 위협 탐지·대응 시간을 단축한다는 전략을 제시했다.

방 대표는 AI 활용 확산에 따라 기업이 관리해야 할 보안 대상이 크게 늘고 있다고 진단했다. 임직원이 각자 AI 서비스와 에이전트를 활용하면서 기업이 파악하지 못하는 ‘섀도 AI’가 발생하고, 사용 현황과 접근 권한을 통합 관리하기도 어려워졌다는 설명이다. AI 에이전트가 외부 지시나 악의적인 입력에 따라 파일을 삭제하거나 민감정보를 전송하는 등 예상하지 못한 행동을 할 가능성도 커지고 있다.

그는 이러한 위협에 대응하려면 기업 내 AI 관련 자산이 무엇인지 먼저 파악하고, 취약점과 위협을 신속하게 탐지한 뒤 실제 피해로 이어지기 전에 조치해야 한다고 강조했다. 특히 공격자가 시스템 내부로 침투한 뒤 위협을 확산하는 속도가 빨라지는 만큼, 자산 식별부터 탐지·대응까지 걸리는 시간을 줄이는 것이 피해 최소화의 핵심이라는 설명이다.

쿤텍은 이를 위해 AI 도입 단계의 공급망 보안, 운영 단계의 행동 통제, 데이터 활용 단계의 보호 기술을 연계하는 전략을 추진한다. 핵심 솔루션은 소프트웨어·AI 구성요소를 점검하는 ‘이지즈(AEZIZ)’, AI 에이전트의 실행을 통제하는 ‘애쉬(ASH)’, 데이터를 직접 공유하지 않고 활용하도록 지원하는 ‘넥사(NEXA)’다.

AI 도입 단계에서는 모델과 구성요소의 위험을 사전에 점검한다. 기존 소프트웨어 자재명세서(SBOM) 기반 보안에 AI 모델과 관련 구성요소를 점검하는 AI 자재명세서(AI-BOM) 기능을 확장했다. AI 모델의 출처와 취약점, 라이선스 정보를 확인하고, 모델이 어떤 도구와 데이터에 접근하는지 파악해 승인되지 않은 구성요소의 도입을 줄이는 방식이다. 이미 도입해 운영 중인 AI 자산도 점검해 통합 관리할 수 있도록 지원한다.

운영 단계에서는 AI 에이전트의 행동을 실시간으로 감시하고 통제한다. 방 대표는 AI 모델의 내부 동작은 복잡한 수치와 가중치로 구성돼 기존 소프트웨어처럼 코드를 분석하는 방식만으로는 이상 행동을 판단하기 어렵다고 설명했다. 이에 따라 에이전트가 업무 도구와 데이터베이스(DB), 파일 등에 접근할 때 사전에 설정된 정책에 부합하는지 확인하고, 위험한 작업은 차단하거나 사람의 승인을 거치도록 하는 보안 하네스 개념을 제시했다.

애쉬는 에이전트의 도구 호출과 실행 행동을 감시하고, 권한에 맞지 않는 접근이나 위험한 명령을 통제한다. 주요 실행 기록을 남겨 문제가 발생했을 때 원인과 처리 과정을 확인할 수 있도록 하는 것도 특징이다. 쿤텍은 향후 보안 정책과 모델의 학습을 연계해 새로운 위협에 대응하는 기능도 발전시킬 계획이다.

데이터 활용 단계에서는 원본을 노출하지 않고 분석·연산 결과를 얻도록 지원한다. 넥사는 신뢰실행환경(TEE) 기술을 기반으로 데이터 제공자와 활용자가 원본 데이터를 직접 주고받지 않고도 필요한 연산을 수행할 수 있도록 설계됐다. 데이터 제공자가 허용한 범위 안에서 분석을 진행하고 승인된 결과만 외부로 내보내는 방식이다.

이를 통해 기업 간 데이터 협업이나 민감정보가 포함된 내부 데이터의 AI 활용 과정에서 정보 유출 위험을 낮추는 것을 목표로 한다. 데이터 활용 과정과 작업 이력을 기록해 관리·감사할 수 있도록 지원하며, 금융·공공·제조 등 데이터 보호 요구가 높은 분야를 주요 적용 대상으로 제시했다.

방 대표는 “AI 시대에는 완벽하게 침해를 막는 것만큼 자산을 신속하게 파악하고 위협을 탐지해 대응하는 체계가 중요하다”며 “AI 도입부터 운영, 데이터 활용까지 전 주기를 보호하는 보안 기술을 통해 기업이 AI를 보다 안전하게 활용할 수 있도록 지원하겠다”고 밝혔다.