“AI 확산에 사이버 공격도 급변… 보안 전략 재설계 필요” [보안혁신 2026] | 종합

3시간 전 15 읽음

“AI 확산에 사이버 공격도 급변… 보안 전략 재설계 필요” [보안혁신 2026]

IT조선

인공지능(AI) 확산과 함께 사이버 공격 양상이 근본적으로 변화하고 있다. 자동화된 공격과 AI 기반 위협이 현실화되며 기존 경계 기반 보안 체계의 한계도 분명해졌다. 이런 가운데 국내에서는 정부가 제로 트러스트와 국가망보안체계(N2SF) 등 새로운 보안 프레임워크 적용을 정책적으로 요구하며, 낡은 보안 체계를 혁신하라는 압박이 커지고 있다. 여기에 하루가 다르게 발전하고 있는 생성형 AI와 AI 에이전트까지 고려한 새로운 보안 전략에 대한 필요성이 높아지면서, 기업·기관 담당자들의 고민이 깊어지고 있다.

이에 조선미디어그룹의 ICT 전문 미디어 IT조선은 15일 서울 용산전자랜드 랜드홀에서 ‘AI 시대 보안 전략의 재설계’를 주제로 ‘사이버 보안 혁신 세미나 2026’을 개최했다. 한국사이버안보학회가 후원한 이번 행사는 공공·금융·기업 보안 책임자 및 실무자 100여명을 대상으로 준비됐다.

AI 시대 보안 패러다임 전환 요구…단순 경계 넘어선 새 체계 필요

기조강연에 나선 한국사이버안보학회 N2SF연구회장 김창훈 대구대학교 교수는 ‘소버린 AI 클라우드 센터 설계 방향’을 주제로 발표했다.

김 교수는 대한민국이 국가 AI 전환(AX)을 핵심 과제로 삼고 정책을 추진하는 가운데, 이러한 목표를 달성하기 위해서는 AI 모델을 넘어 데이터·운영·기술 주권까지 포함하는 진정한 의미의 ‘소버린 AI’ 체계 구축이 필요하다고 강조했다. 특히 국가 기반시설용 AI는 그 중요성이 높은 만큼, 범용 인프라와 분리해 ‘보안을 처음부터 내재화한 특수목적 인프라’로 설계해야 한다고 제언했다.

또한 현재 국내 AI 보안 체계가 부처별로 분산돼 있는 구조를 지적하며, 공통 보안 기준과 설계를 제시할 컨트롤타워 부재도 문제라고 짚었다. 김 교수는 “보안은 사후 대응이 아니라 설계 단계부터 포함돼야 한다”며 “데이터·운영·기술 전반과 보안 주권까지 확보해야 진정한 소버린 AI가 가능하다”고 말했다.

이어 최영철 SGA솔루션즈 대표가 ‘에이전틱 AI 시대의 보안: 제로 트러스트 아키텍처 구축 전략’을 주제로 발표했다.

최 대표는 에이전틱 AI가 사람처럼 시스템에 접근하고 작업을 수행하는 구조로 진화하면서, 기존 LLM 기반 AI와는 차원이 다른 보안 위협이 발생하고 있다고 진단했다. 특히 멀티 에이전트 환경과 외부 도구 연동 과정에서 해커가 개입할 경우, 사용자가 인지하지 못한 상태에서 정보 유출이나 권한 오남용이 발생할 수 있다고 지적했다.

이에 대한 대응으로 그는 사람뿐 아니라 AI 에이전트까지 모든 접근 주체를 동일하게 검증하는 제로 트러스트 아키텍처 적용을 제시했다. AI 에이전트 역시 식별·인증·권한 관리 체계 안에 하나의 신원으로 포함시켜 지속적으로 검증해야 하며, 정책결정지점(PDP)을 중심으로 접근 제어와 세션 관리, 이상 행위 차단까지 통합적으로 수행해야 한다는 게 최 대표의 설명이다. 최영철 대표는 “에이전트 AI 환경에서의 보안은 결국 아무도 신뢰하지 않는 구조에서 출발해야 한다”며 제로 트러스트 기반 보안 체계가 에이전틱 AI 환경에서도 필요하다는 점을 강조했다.

이어 김광수 사이버아크코리아 솔루션엔지니어 부장은 아이티센피엔에스(ITCEN PNS)와 함께 ‘AI 에이전트 시대, 보안의 중심은 아이덴티티로 이동 - 권한과 신원의 통합 거버넌스 전략’을 주제로 발표했다.

김 부장은 기업 보안 환경이 사람보다 많은 머신 아이덴티티, 인증서 유효기간 단축, 클라우드 확산 등으로 빠르게 복잡해지고 있다고 진단했다. 특히 AI 에이전트는 머신이면서도 자율적으로 판단·행동하는 특성을 가져, 권한 설정이 잘못될 경우 기존보다 훨씬 큰 피해로 이어질 수 있다고 지적했다. 그는 “관리되지 않은 AI 에이전트 도입은 브레이크 없는 슈퍼카와 같다”고 경고했다.

이에 대한 대응으로 김광수 부장은 사람·머신·AI 에이전트를 통합 관리하는 아이덴티티 보안 플랫폼의 필요성을 언급했다. 인증서 자동화와 라이프사이클 관리, 통합된 시크릿·워크로드 가시성 확보 등을 통해 복잡한 인증 환경을 일관되게 통제해야 한다는 설명이다. 김 부장은 “에이전트 역시 동일한 인증·권한 체계 안에서 관리돼야 한다”며 “누가 어떤 시스템에 접속해 무엇을 하는지 정의하고 통제하는 ‘브레이크’ 역할이 필요하며, 사이버아크가 이를 지원하겠다”고 덧붙였다.

AI 시대에 적합한 ‘통합 보안 전략’으로 확장 필요

김진호 메가존클라우드 HALO 시큐리티 테크 유닛 리더는 ‘신뢰할 수 있는 혁신의 전제조건: AI 거버넌스 구축과 전방위 보안 전략’을 주제로 발표했다.

김 리더는 생성형 AI 확산으로 공격 표면 확대, 데이터 유출, 모델 취약점, 규제 대응 공백 등 새로운 보안 리스크가 빠르게 증가하고 있다고 진단했다. 특히 조직 내부에서 사용 중인 AI를 파악하지 못하는 ‘섀도우 AI’, 프롬프트 입력 과정에서의 민감 정보 유출, 프롬프트 인젝션·환각(Hallucination) 등 AI 특화 취약점이 복합적으로 나타나고 있다고 설명했다. 그는 “AI 보안은 더 이상 사후 대응이 아닌, 새로운 패러다임 전환이 필요한 영역”이라고 말했다.

이에 대한 대응으로 그는 보안을 내재화해 설계된, 통칭 ‘시큐리티 바이 디자인(Security by Design)’ 기반의 통합 보안 체계를 제시했다. 인프라 단계에서는 AI 자산 식별부터 시작해 보안을 전제로 한 아키텍처 설계를, 데이터 영역에서는 입력·출력 통제를 위한 AI 가드레일 적용을 강조했다. 또한 AI 레드팀을 통한 취약점 검증과 함께, 전사 차원의 거버넌스 및 규제 대응 체계 구축이 필요하다고 설명했다. 김진호 리더는 “AI 보안은 단일 솔루션이 아닌 다층 방어 체계로 접근해야 한다”며 “설계부터 운영까지 이어지는 통합 보안 프레임워크가 필요하다”고 말했다.

마지막으로 이창성 한국 딜로이트 그룹 파트너가 ‘AI 시대, 방어라는 환상에서 회복(Resilience)이라는 현실로의 전환’을 주제로 발표했다.

이 파트너는 AI 확산으로 사이버 공격의 복잡성과 영향 범위가 커지면서, 보안 전략 역시 ‘사전 방어’ 중심에서 ‘사고 이후 대응과 영향 최소화’로 무게 중심이 이동하고 있다고 강조했다. 그는 “사이버 보안 사고는 더 이상 막을 수 없는 전제가 되고 있다”며 “사고 발생 시 얼마나 빠르게 대응하고 비즈니스 영향을 최소화하느냐가 핵심 과제가 됐다”고 말했다.

이 파트너는 이어 AI 도입 환경에서는 공격 발생 시 피해 범위와 영향도를 즉각 파악하기 어려워 대응이 지연될 수 있다고 지적했다. 이에 따라 AI 도입 초기부터 정보보호 조직이 참여해 리스크를 함께 설계해야 하며, CISO(정보보호 최고책임자)와 보안 조직의 역할과 권한 역시 강화돼야 한다고 설명했다.

이창성 파트너는 “보안 조직이 비즈니스 영향까지 이해하고 대응하는 구조로 전환되지 않으면 AI 시대에 제 역할을 하기 어렵다”며 “AI를 활용한 사고 대응과 복원력 강화도 함께 고려해야 한다”고 말했다.

한편 기조강연과 4개의 세션으로 구성된 ‘사이버 보안 혁신 세미나 2026’ 발표가 모두 종료된 후에는 경품 행사도 진행됐다. 사전등록한 참석자를 대상으로 추첨을 통해 벨킨 부스트업 맥세이프 마그네틱 10W 차량용 무선 충전기 거치대(WIC004) 총 10대를 증정했다.

정종길 기자

jk2@chosunbiz.com