정부, 내년 ‘독자 AI 정보보호 체계’ 전환…민관합동으로 AI 사이버위협 대응 강화

정부가 인공지능(AI) 기반 사이버위협에 대응하기 위한 민관합동 체계를 구축하고, 내년에는 ‘독자 AI 정보보호 체계’로 전환하는 방침을 밝혔다. 정부는 최근 AI 기술이 빠르게 확산되는 가운데 악성코드 생성, 자동화된 공격, 위협 탐지 회피 등 신종 위협이 늘고 있어, 공공과 민간의 역량을 한데 묶는 방식으로 대응을 고도화하겠다는 입장이다.

민관합동 체계 구축…“AI 특화 정보보호”로 이동

아시아경제에 따르면 정부는 AI 사이버위협 대응을 위해 민관이 함께 참여하는 협력 체계를 마련하고, 이를 기반으로 내년 독자 AI 정보보호 체계로 전환할 계획이다. 이번 전환은 단순한 보안 가이드라인이나 기존 정보보호 체계의 연장선이 아니라, AI가 실제로 활용되는 방식과 위협 양상을 반영한 AI 특화 대응 체계를 목표로 한다는 점에서 의미가 크다.

특히 AI 사이버위협은 공격 주체가 공격을 “더 빠르고 더 자동화된 방식”으로 수행할 수 있게 만드는 경향이 있다. 예를 들어 공격자는 AI를 활용해 정교한 피싱 문구를 대량으로 생성하거나, 취약점 탐색과 침해 시도 절차를 자동화할 수 있다. 반대로 방어 측도 AI를 활용해 탐지·분석 역량을 높일 수 있지만, 그만큼 공격-방어 간 기술 경쟁이 격화될 수 있다. 정부는 이런 구조적 변화에 맞춰 대응 방식의 체질 전환을 시도하는 것으로 보인다.

내년 전환의 핵심: ‘자체 체계’와 운영역량

정부가 강조한 “독자”라는 표현은 단순히 외부 솔루션 의존도를 낮추겠다는 의미를 넘어, 위협 정보 수집부터 분석, 대응 절차, 교육·훈련, 정책 환류까지 이어지는 전 과정을 국가 차원의 운영 체계로 정립하겠다는 방향성과 맞닿아 있다. 정부가 민관합동 체계를 먼저 만들고 내년에 독자 체계로 전환한다는 로드맵은, 단기간에 모든 것을 구축하기보다 현장에서 필요한 운영 실증을 축적한 뒤 제도화하겠다는 접근으로 해석된다.

다만 구체적으로 어떤 형태의 체계가 될지에 대해서는 추가 확인이 필요하다. 일반적으로 AI 특화 정보보호 체계는 ▲ 위협 시그널(이상 징후) 조기 수집 ▲ AI 기반 공격/방어 시나리오 분석 ▲ 대응 의사결정의 표준화 ▲ 민간 기업과의 정보 공유 메커니즘 ▲ 취약점·모델 위험(예: 데이터 오염, 모델 오용, 프롬프트 공격) 관리 등 여러 요소가 함께 요구된다. 정부가 내년 전환을 예고한 만큼, 실제 운영 항목과 참여 범위가 향후 관전 포인트가 될 전망이다.

기업·기관의 부담은 줄이고, 실효성은 높인다

AI 정보보호 체계가 성공하려면 기술적 논리만큼이나 실무적 수용성이 중요하다. 민관합동 방식은 기업이 현업에서 겪는 시행착오를 정책에 반영할 수 있게 해주는 장점이 있다. 동시에 정부는 공공부문에서의 보안 요구 수준을 정하고, 민간이 이를 기준으로 대응 체계를 정비할 수 있도록 지원할 가능성이 크다.

또한 AI 위협 대응은 특정 분야에 국한되지 않는다. 금융, 제조, 유통, 공공서비스 등 다양한 산업에서 데이터와 자동화 시스템이 AI와 결합되고 있어, 한 곳의 보안 강화가 다른 곳의 위험을 완전히 상쇄하기 어렵다. 따라서 민관이 함께 참여하는 구조는 위협 정보의 단절을 줄이고, 공격 징후가 포착됐을 때 신속한 확산 방지와 대응 공유를 가능하게 한다는 점에서 실효성이 높을 수 있다.

정부-민간 협력, 그리고 ‘공유의 수준’이 성패를 가른다

다만 협력 체계가 실제 성과로 이어지기 위해서는 정보 공유의 범위와 방식이 명확해야 한다. 공격 기법과 취약점 정보는 공유 가치를 높이는 동시에, 잘못 공유될 경우 보안에 역효과가 될 수 있다. 따라서 정부가 추진하는 민관합동 체계가 어떤 정보를, 어떤 수준으로, 어떤 시점에 공유하는지에 대한 기준이 마련돼야 한다.

또한 AI 기반 보안은 ‘탐지 정확도’만으로 평가하기 어렵다. 공격이 날로 진화하는 환경에서 방어 체계가 얼마나 신속하게 업데이트되고, 대응 절차가 얼마나 표준화돼 있는지 등이 함께 요구된다. 내년 독자 체계 전환이 예고된 만큼, 운영 지표(예: 탐지-차단까지 걸리는 시간, 훈련 참여율, 대응 프로세스 준수율 등)가 공개될 경우 민간의 참여 동기를 높이는 데도 도움이 될 수 있다.

앞으로의 일정과 관전 포인트

정부의 계획에 따르면 내년에는 현재의 민관합동 체계를 기반으로 독자 AI 정보보호 체계로 전환이 이뤄질 예정이다. 기업과 공공기관 입장에서는 보안 담당 조직뿐 아니라, AI 모델 개발·운영을 맡은 부서도 함께 참여하는 내부 점검이 필요해질 가능성이 크다. 특히 AI 모델이 실제 서비스에 적용되는 과정에서 발생할 수 있는 위험(데이터 취약성, 모델 오용, 프롬프트 기반 공격 등)을 보안 관점에서 점검하는 체계가 요구된다.

향후에는 정부가 어떤 방식으로 민간의 참여를 설계하는지, 그리고 독자 체계의 범위가 어디까지인지가 핵심이다. AI 사이버위협 대응은 기술과 제도, 운영이 함께 움직여야 성과가 나오는 분야인 만큼, 정부가 제시할 세부 추진안과 일정이 공개될 때 시장과 업계의 반응도 빠르게 갈릴 것으로 예상된다.