200만 개 카나리가 밝혀낸 AI 라우팅 인프라의 데이터 유출: 클라우드 자격증명 탈취와 ZDR 무력화 실태

AI 라우터와 다단계 리셀러를 거치는 과정에서 AWS 접근 키와 내부 URL이 탈취된 실증 실험 결과를 분석하고 엔터프라이즈 방어 아키텍처를 제시한다.

발행일: 2026.11.21

카나리 프롬프트 추적 규모
2,000,000건

고유 자격증명 및 URL 투입 실증

호스팅 벤더 직접 침해
3개 사

프런트엔드 수신 단계에서 키 탈취

ZDR 무력화 스크래핑 비율
66% 초과

데이터 미수집 요청 대상 역추적 발생

핵심 판정 ·비용 최적화를 명분으로 여러 계층의 AI 라우터와 저가 리셀러를 경유하는 인프라는 종단간 암호화 부재로 인해 심각한 자격증명 유출 통로로 전락했다.

엔터프라이즈 인공지능(AI) 서비스 도입이 가속화되면서 추론 단가를 낮추기 위한 다계층 라우팅 구조가 빠르게 확산했다. 기업들은 오픈에이아이(OpenAI)나 앤트로픽(Anthropic)과 직접 계약하는 대신, 레이턴시와 호출 비용을 실시간 비교해 최적의 모델로 분기하는 AI 게이트웨이 및 리셀러 망을 채택하고 있다. 그러나 이러한 중개 네트워크는 전송 구간별로 복호화가 일어나는 심각한 구조적 결함을 안고 있다.

보안 연구원 HD 무어(HD Moore)가 실행한 200만 건의 디지털 카나리(추적용 가짜 자격증명) 투입 실험은 AI 공급망의 프라이버시 붕괴 실태를 입증했다. 사용되지 않은 AWS 접근 키, SSH 자격증명, 프라이빗 깃(Git) 저장소 주소, 고유 DNS가 포함된 프롬프트가 중개 인프라를 거치는 과정에서 즉각적인 침해 사고와 무단 데이터 수집으로 이어졌다. 최적화 도구 뒤에 숨겨진 무단 로깅과 호스팅 서버 침해는 제로 데이터 보존(Zero Data Retention, ZDR) 서약마저 완전히 무력화했다.

다계층 AI 공급망의 평문 복호화 및 데이터 유출 경로

엔드포인트 간 통신 구간마다 복호화된 프롬프트가 노출되는 구조적 결함

01 · 단계 01
엔터프라이즈 앱

TLS 암호화된 프롬프트(시크릿 포함) 전송

02 · 단계 02
AI 라우터 (Vercel 등)

라우팅 판단을 위해 페이로드 복호화 및 평문 검사

03 · 단계 03
2차 브로커 (OpenRouter 등)

최저가 호스팅 탐색 및 프롬프트 평문 재전송

04 · 단계 04
취약한 서드파티 호스팅

침해된 프런트 도어에서 AWS 키 복제 및 API 악용

중개 계층의 홉별 복호화와 인프라 침해가 촉발한 키 탈취 메커니즘

AI 라우터는 들어오는 프롬프트의 텍스트를 읽어야만 최적의 추론 엔진과 모델을 결정할 수 있다. 이로 인해 통신 전송 구간(Transit)에서는 암호화가 유지되더라도, 네트워크 내부의 각 노드(Hop)에 도달할 때마다 페이로드는 평문(Plaintext)으로 복호화된다. 단일 프롬프트가 애플리케이션에서 출발해 최종 가속기(GPU)에 도달하기까지 Vercel과 같은 프런트 라우터, 오픈라우터(OpenRouter) 같은 2차 집합 브로커, 개별 GPU 호스팅 업체를 거치면서 평문 데이터가 다수 사업자의 메모리와 로그에 남는다.

실험 결과 호스팅 제공업체 세 곳이 외부 공격자에게 완전히 침해당한 상태였다. 공격자들은 한 호스팅 업체의 수신 관문(Front Door)을 장악하고 유입되는 모든 프롬프트에서 AWS 자격증명을 실시간으로 복제했다. 모델이 실행되기도 전에 요청이 거부된 트래픽에서도 키가 유출되었다. 이는 공격 코드가 추론 런타임 이전인 웹 서버 프록시 계층에 상주했음을 입증한다.

탈취된 자격증명은 수 시간 만에 실제 공격에 동원되었다. 공격자들은 동일한 임대 서버 인프라를 활용해 두 곳 이상의 침해된 호스팅 업체에서 빼낸 키를 동시에 가동했다. 훔친 자격증명을 통해 수만 건의 AWS API 호출을 발생시켰으며, S3 버킷, AWS Secrets Manager, 파라미터 스토어를 검색해 추가 자격증명 탈취를 시도했다. 공격자들은 AWS Bedrock에서 호스팅 모델을 활성화하려 시도하고 영구 거점 확보를 위해 신규 IAM 사용자를 등록하는 등 전형적인 클라우드 장악 절차를 밟았다.

AI 공급망 다계층 침해의 원인과 현장 리스크 분석

공급망 중개 노드의 보안 부재가 엔터프라이즈 클라우드 침해로 연결되는 메커니즘

01 · 인프라 위기
AWS 키 탈취 및 무단 API 스캔

프롬프트에 포함된 클라우드 키가 유출되어 IAM 사용자 생성 및 자원 탈취 시도 발생

02 · 핵심 원인
홉별 평문 복호화 및 호스팅 침해

라우터와 저가 리셀러가 수신단에서 평문을 노출하고 프런트 웹 서버가 해킹된 상태로 방치

03 · 구조적 대책
다계층 리셀러 배제 및 프라이빗 직결

미검증 중개 브로커 사용을 금지하고 온프레미스 또는 1차 CSP 직결 엔드포인트 구축

저가 리셀러의 로그 악용과 데이터 보존(ZDR) 정책의 구조적 무력화

자격증명 유출은 외부 공격자의 침해에만 국한되지 않았다. 일부 저가 추론 리셀러들은 고객을 유인하기 위해 원가 이하의 가격을 제시한 뒤, 자체 수신 로깅을 활성화해 유입되는 프롬프트를 전수 수집했다. 동일한 모델에 대해 복수의 리셀러를 거쳐 카나리를 전송했을 때 특정 저가 판매 경로에서만 자격증명 재사용이 관측되었다. 이는 중개 사업자가 지적 자산과 민감 데이터를 탈취하기 위해 의도적으로 인프라를 운영했음을 보여준다.

더욱 심각한 문제는 규정 준수(Compliance)를 보장한다는 제로 데이터 보존(ZDR) 플래그가 아무런 보호 기능을 하지 못했다는 점이다. 중국계 AI 랩 모델을 호스팅하는 환경에서는 ZDR 플래그가 설정된 요청의 66% 이상에서 시스템이 프롬프트 내부의 시크릿 URL을 2–3일 내에 역으로 스크래핑했다. 이후 클라우드 환경의 깃 클라이언트가 프롬프트에 언급된 비공개 저장소를 복제(Clone)하려는 시도까지 포착되었다.

데이터 주권(Data Sovereignty) 보장 역시 허구로 드러났다. 미국 내 호스팅 서비스를 선택해 자국 내에서만 데이터가 처리되도록 지정했음에도, 프롬프트 페이로드는 해외 모델 개발사로 우회 전송되어 동일한 웹 스크래퍼를 트리거했다. 검색 엔드포인트를 제공하는 한 미국계 호스팅 제공업체는 단 한 번의 추론 호출이 발생한 지 두 달이 지난 시점에도 해당 시크릿 URL을 크롤링했다.

공급망 경로 유형홉별 복호화 여부ZDR 정책 강제력데이터 주권 통제력주요 침해 위협 벡터
다계층 오픈 라우터망매 홉마다 복호화통제 불가 (우회됨)경로 불투명 (해외 유출)프런트엔드 수신 프록시 해킹, 자격증명 스니핑
저가 추론 리셀러평문 수집 및 저장상업적 무단 수집불투명 (재판매 연쇄)공급자 자체 프롬프트 수집, API 키 악용
1차 대형 파운데이션 CSP종단간 암호화(내부 격리)SLA 계약 기반 보장리전(Region) 선택 가능내부자 위협, 잘못된 API 설정
온프레미스 자체 호스팅외부 노출 없음인프라 자체 완전 통제100% 사내 상주자체 인프라 관리 및 CapEx 부담

엔터프라이즈 환경의 인프라 전환 마찰과 총소유비용(TCO) 재산정

많은 조직이 추론 비용 절감을 목표로 저가형 라우팅 서비스를 선택해 왔다. 100만 토큰당 수 센트의 비용을 아끼기 위해 다단계 중개 서비스를 도입했으나, 이번 실험 결과는 보안 침해 대응 비용과 클라우드 자격증명 유출 위험이 표면적인 절감액을 압도한다는 사실을 확인해 준다.

AI 라우터 도입 시 표면 절감액 대비 숨은 리스크 TCO

저가 추론 모델 선택으로 얻는 단가 이익과 유출 사고 시 발생하는 추가 손실

직접 호출 대비 단가 절감 연간 1억 토큰 기준 리셀러 할인
-$12,000
비정상 API 트래픽 과금 탈취된 AWS 키로 발생한 무단 호출
+$35,000
자격증명 회전 및 감사 보안 침해 대응 및 외부 포렌식 비용
+$48,000
실질 손실 총액 (TCO) 단가 절감액을 완전히 상쇄하는 위험 비용
+$71,000

추론 단가 절감만 보고 서드파티 중개 브로커를 사용하는 아키텍처는 심각한 재무적 역마진을 초래할 수 있다. 탈취된 자격증명이 클라우드 인프라 내부에서 Bedrock 모델을 활성화하거나 고사양 GPU 인스턴스를 무단 프로비저닝할 경우 발생하는 초과 과금은 통제 범위를 벗어난다. 단가 40% 절감을 노리고 구축한 파이프라인이 엔터프라이즈 보안 감사 실패와 고객사 신뢰 상실로 이어지는 셈이다.

전환 마찰 비용 또한 상당하다. 이미 여러 라우터 SDK를 코드베이스 깊숙이 통합한 기업은 엔드포인트를 1차 CSP(AWS, Azure, GCP)나 자체 호스팅 환경으로 되돌리는 데 평균 4–8주의 엔지니어링 리드타임을 소모한다. 프롬프트 내에 포함될 수 있는 PII(개인식별정보)와 API 토큰을 사전에 차단하는 데이터 유출 방지(DLP) 프록시를 자체 구축하는 작업에도 상당한 인프라 유지비용이 발생한다.

추론 라우팅 경로 선택에 따른 득실 비교

저가 다계층 브로커 사용과 엔터프라이즈 직결 방식의 실무 트레이드오프

엔터프라이즈 1차 CSP 직결 시 확보 이점
  • + 단일 SLA 기반 데이터 폐기 및 보안 격리 준수
  • + 전송 구간 데이터의 해외 리셀러 유출 원천 차단
  • + IAM 역할(Role) 기반의 세분화된 접근 권한 통제
감수해야 할 운영 비용 및 제약
  • – 동적 최저가 모델 분기 불가로 추론 비용 상승
  • – 특정 클라우드 플랫폼 벤더 종속(Lock-in) 리스크
  • – 자체 게이트웨이 및 프롬프트 살균 레이어 개발 부담

AI 공급망 침해 방어를 위한 아키텍처 재설계 가이드

엔터프라이즈 보안 책임자와 인프라 엔지니어링 팀은 현재 가동 중인 AI 추론 파이프라인에서 신뢰할 수 없는 중개 계층을 즉시 제거해야 한다. 비용 최적화보다 데이터 격리가 우선시되어야 하며, 인프라 설계는 다음의 원칙에 따라 재편되어야 한다.

데이터 민감도에 따른 AI 추론 엔드포인트 선정 기준
처리하는 프롬프트에 내부 자격증명, 소스코드, 고객 PII가 포함되는가?
포함됨 (고민감도 데이터)
자체 호스팅 또는 하이퍼스케일러 직결

온프레미스 GPU 클러스터 또는 BAA/SLA 체결된 AWS Bedrock, Azure OpenAI 사용

→ 금융, 의료, 엔터프라이즈 코어 백엔드
미포함 (공개 데이터 요약 등)
엄격한 살균 프록시 기반 단일 라우터

사내 DLP 계층을 통과하여 모든 시크릿이 마스킹된 트래픽에 한해 제한적 사용

→ 공개 콘텐츠 생성 및 단순 번역 작업

즉각적인 인프라 방어 및 직결 체계 구축이 필요한 기준

  • 프롬프트 내 기밀 자산 노출 환경: 애플리케이션이 RAG(검색 증강 생성) 파이프라인을 통해 내부 소스코드, 고객 데이터베이스 연결 문자열, 비공개 API 문서를 프롬프트에 동적으로 삽입하는 경우, 모든 서드파티 AI 라우터와 다단계 리셀러 엔드포인트를 즉시 차단해야 한다.
  • 규제 준수 의무 대상 기업: HIPAA, GDPR, SOC 2 Type II 인증을 유지해야 하는 조직은 계약상 데이터 보존 금지가 법적으로 담보되지 않는 모든 2차 중개망과의 연결을 끊어야 한다.
  • 아키텍처 대안: AWS Bedrock, Azure OpenAI Service 등 단일 클라우드 제공업체와 직접 체결한 BAA(Business Associate Agreement) 기반 엔드포인트를 사용하거나, 장기적으로 오픈소스 모델(Llama 등)을 자체 프라이빗 서브넷 내 vLLM 인프라에 올려 호스팅해야 한다.

중개 라우터를 제한적으로 유지할 수 있는 조건

  • 완전한 비식별화 및 단방향 마스킹 파이프라인 보유: 내부망 게이트웨이에서 프롬프트가 외부로 나가기 전 정규표현식 및 엔티티 인식 모델을 통해 모든 IP, URL, 접근 토큰, 이메일을 더미 텍스트로 치환하는 전처리 프록시가 가동 중인 조직에 한한다.
  • 공개 데이터 처리 워크로드: 웹 스크래핑된 공개 기사 요약, 마케팅 문구 생성 등 데이터가 외부로 유출되거나 리셀러에 의해 로깅되어도 지적 재산권 침해나 인프라 침입으로 이어지지 않는 단순 워크로드로 사용 범위를 한정해야 한다.

AI 추론 시장에서 저가 브로커 네트워크가 제공하는 단가 할인은 데이터 노출과 클라우드 자격증명 탈취라는 높은 리스크를 동반한다. 보안 엔지니어링 팀은 공급망 내부의 모든 중개자를 잠재적 침해 노드로 간주하는 제로 트러스트 원칙에 입각해 추론 아키텍처를 전면 재감사해야 한다.

관련 심층 분석 리포트

카테고리 전체 보기 →
비주얼 AI

앤스로픽 1,048억 달러 상장과 1조 달러 인프라 부채: 파운데이션 모델의 자본 종속 구조

앤스로픽이 사상 최대 규모의 IPO로 1,048억 달러를 확보했으나, 1조 달러를 웃도는 인프라 지출 약정으로 인해 빅테크 하드웨어 연합과의 자본 결속이 가속화된다.

2026.11.20

비주얼 AI

공모가 83달러와 1조 5,000억 달러의 밸류에이션: 앤트로픽 나스닥 상장이 재편하는 AI 인프라 자본 지형

앤트로픽이 희망 밴드 상단을 돌파한 주당 83달러에 공모가를 확정하며 기업가치 1조 5,000억 달러 규모로 나스닥에 입성한다. 아마존과 구글이 합산 29% 지분을 확보한 복합 자본 구조와 빅테크 260억 달러 사모 발행의 실무적 함의를 분석한다.

2026.11.19

비주얼 AI

655억 달러로 불어난 지분과 젠슨 황의 퇴진: 엔비디아 인프라 보증 축소가 AI 생태계에 미칠 파장

엔비디아의 비상장 지분 가치가 655억 달러에 도달한 시점에 젠슨 황이 물러났다. 1,180억 달러 규모의 데이터센터 지급보증과 공격적 벤더 파이낸싱이 멈출 경우 네오클라우드와 파운데이션 모델 스타트업이 직면할 자본 리스크를 분석한다.

2026.11.18

비주얼 AI

스텔스 3개월 만의 10억 달러 기업가치: 코르마(Corma)가 증명한 자율 방어 AI 모델의 실무 효용성

사이버 보안 AI 스타트업 코르마가 NEA 주도로 1억 2,500만 달러 규모의 시리즈 A 투자를 유치하며 유니콘에 올랐다. 범용 LLM의 한계를 넘어 자체 방어 전용 모델을 구축한 기술적 배경과 SOC 원가 절감 효과를 분석한다.

2026.11.17

주간 뉴스레터

테크 & 비즈니스 데이터 주간 브리핑

새로 검증된 소프트웨어 분석과 실무 유의점, 최신 공급망 지표를 매주 정리해 드립니다.

언제든 1클릭으로 구독을 해지할 수 있습니다. 스팸 메일은 보내지 않습니다.

* 본 리포트의 링크를 통해 가입 시 수수료를 지급받을 수 있으나, 실측 데이터와 평가에는 일체 영향을 주지 않습니다.