미국 상무부가 구글, 마이크로소프트, xAI 등 주요 기업의 신형 인공지능(AI) 모델을 공개(상용) 출시 전 안전성 시험 단계로 넘기는 협력 체계를 확대했다. BBC에 따르면, 이들 기업은 상무부 산하 ‘센터 for AI Standards and Innovation(CAISI)’를 통해 모델을 자발적으로 제출해 성능과 보안 측면의 평가를 받기로 합의했으며, 이번 조치는 바이든 행정부 시기 마련된 업계 협약을 한층 넓힌 형태다.
상무부는 CAISI 평가 범위에 대해 “테스트, 공동 연구, 상용 AI 시스템 관련 모범 사례(best practice) 개발”까지 포괄한다고 밝혔다. CAISI 책임자인 Chris Fall는 “공공의 이익을 위한 작업을 공공 관심이 중요한 시점에서 확장(scale)하는 데 도움”이 된다고 설명했다. 다만 어떤 모델이 실제로 공개가 중단되거나 보류됐는지는 센터가 구체적으로 밝히지 않았다.
CAISI 시험, ‘정부·민간 협업’의 새로운 표준으로
CAISI의 이번 확대는 단순한 자문을 넘어, 상용 AI 모델을 출시 전 단계에서 점검하는 구조를 강화한다는 의미가 있다. BBC 보도에 따르면 CAISI는 이미 40차례에 걸친 사전 평가를 진행해 왔고, 그 가운데에는 아직 공개되지 않은 최신(state-of-the-art) 모델 일부에 대한 평가도 포함됐다. 이번에는 Google의 Gemini(딥마인드), Microsoft의 Copilot, 그리고 xAI의 Grok 등 각 사 대표 모델이 평가 대상에 포함될 가능성이 커졌다.
이와 관련해 마이크로소프트는 CAISI 발표 이후 자체 블로그에서 “자사도 이미 AI 모델을 테스트한다”면서도, “국가 안보 및 대규모 공공 안전 위험에 대한 평가는 정부와의 협업이 필수”라고 강조했다. 즉, 기업 내부 테스트만으로는 부족할 수 있는 ‘공공 영역의 리스크’까지 다루기 위한 절차로 CAISI가 기능한다는 설명이다.
구글·마이크로소프트·xAI 각각의 ‘현장 사용 맥락’이 시험 논점
각 기업 모델은 단순한 챗봇을 넘어 다양한 현장에서 쓰일 수 있다는 점에서, 시험 항목 역시 ‘안전성’의 폭을 넓힐 소지가 있다. CAISI가 언급한 평가 프레임에는 기술적 성능뿐 아니라, 오남용 가능성과 보안 위험, 실제 운영 환경에서의 안정성 등이 포함될 것으로 해석된다.
구글의 경우 딥마인드 산하 기술로 알려진 Gemini가 이미 여러 구글 제품 전반에서 폭넓게 사용되는 가운데, BBC는 해당 기술이 미국 국방 및 군사 관련 기관에서도 활용되고 있다고 전했다. Microsoft의 Copilot은 생산성과 업무 자동화에 깊게 연결돼 있고, xAI의 Grok는 대중적으로 주목을 받으며 일부 이슈(예: 이미지 관련 문제)도 논란의 중심에 있었다. 이런 배경은 왜 정부가 ‘출시 전 점검’에 더 무게를 두는지 보여주는 단서로 읽힌다.
다만 BBC는 CAISI가 구체적으로 어떤 모델을 ‘공개 금지’ 또는 ‘보류’ 상태로 만들었는지 명시하지는 않았다고 전했다. 구체적 결과가 공개되지 않는다면, 시장은 “안전성 기준 충족 여부”를 가늠하기 어려워질 수도 있다. 대신 기업 입장에서는 평가가 공개적 압박으로만 작동하기보다는, 공동 연구와 모범 사례를 통해 불확실성을 줄이는 방식일 수 있다는 관점도 가능하다.
규제 접근의 ‘방향 전환’…트럼프 행정부의 관점 변화 신호
이번 협력 확대는 기술·AI 규제의 큰 흐름과도 맞물려 있다. BBC에 따르면 이는 AI 안전성 감독에서 비교적 손을 놓는 듯 보였던 트럼프 백악관의 접근과는 결이 다른 움직임이다. 지난해 트럼프 대통령이 서명한 일련의 행정명령은 “불필요한 규제(레드 테이프)를 제거”해 AI 개발을 촉진하고, 미국이 기술 경쟁에서 앞서도록 하겠다는 취지를 담고 있었다.
하지만 최근 군(국방) 영역에서 AI 사용이 확대되고, 동시에 민간 모델의 위험 관리가 쟁점이 되면서 시각이 달라질 조짐이 나타났다는 해석이 가능하다. 실제로 BBC는 앤트로픽(Anthropic)이 ‘공개하면 안 될 만큼 강력한’ 모델을 개발했다는 주장과 함께, 미 국방부와의 소송이 얽혀 있다고 전했다. 이런 맥락에서 CAISI를 통한 시험 강화는 단순한 기술 평가가 아니라, 정부가 리스크를 더 체계적으로 다루려는 신호로 볼 여지가 있다.
또한 BBC는 백악관 고위 인사들이 최근 앤트로픽 CEO 다리오 아모데이와 만났다는 보도도 함께 언급했다. 이처럼 논의가 이어지는 가운데, 이번 CAISI 확대는 기업들이 자발적으로 제출하되 정부가 안전성 검증의 ‘표준 프로세스’를 정교화해 가는 그림으로 읽힌다.
이제 남은 과제: 평가 결과의 투명성, 안전 기준의 구체화
앞으로 관건은 두 가지로 요약된다. 첫째, CAISI 평가가 실제로 어떤 항목과 기준(예: 유해 출력, 데이터 오염, 보안 취약점, 특정 분야 오작동 등)에서 얼마나 엄격하게 적용되는지다. 둘째, 기업들이 제출한 모델에 대해 어떤 수준까지 결과가 공유될지—혹은 기업 비공개를 전제로 모범 사례만 축적될지—가 시장과 개발자 생태계의 예측 가능성을 좌우할 수 있다.
상무부는 “공공의 이익”을 위한 평가라고 강조했지만, 기술 기업들은 동시에 제품 경쟁과 출시 일정 압박을 우려할 수 있다. 따라서 향후에는 CAISI가 평가 프로세스·일정·형태를 어느 정도 표준화해 기업들이 예측 가능한 방식으로 위험을 관리하게 할지가 중요한 관찰 포인트가 될 전망이다.
CAISI 확대가 ‘자발적 협력’이라는 틀에서 진행되는 만큼, 이번 시험 결과가 업계 전반의 안전 기준을 얼마나 실질적으로 끌어올릴지—그리고 규제 강도의 방향이 어떻게 이어질지—가 다음 뉴스의 핵심이 될 것으로 보인다.
댓글