자고 일어났더니 AI 요금 1억 원: 다크웹으로 번지는 'LLM재킹' 수법과 차단 전략

남의 회사 계정으로 공짜 AI 돌리기: 다크웹에서 번지는 ‘LLM재킹’의 실체

남의 집 전기를 몰래 끌어다 쓰듯, 다른 기업이 매달 돈을 내고 쓰는 인공지능(AI) 계정에 몰래 빨대를 꽂는 범죄가 무섭게 늘고 있다. 구글 위협 분석 그룹(Google Threat Intelligence Group)에 따르면, 최근 사이버 암시장에서 다른 기업의 인공지능 사용 권한을 훔쳐 마음대로 쓰는 이른바 ‘LLM재킹(LLMjacking)’ 수법이 크게 번지고 있다.

과거에는 해커들이 남의 컴퓨터나 클라우드 서버를 몰래 장악해 암호화폐를 채굴하는 ‘크립토재킹(Cryptojacking)‘이 유행했다. 당시에는 남의 컴퓨터 중앙처리장치(CPU)와 그래픽카드(GPU)를 100% 혹사해 전기 요금 폭탄을 안겼다. LLM재킹은 이 방식이 그대로 생성형 AI 시대로 옮겨온 것이다. 차이점이 있다면 이제는 컴퓨터 기계 자체가 아니라, 기업이 거대언어모델(LLM)을 쓰기 위해 발급받아 둔 비밀 통행증인 ‘API 인증 열쇠(API 키)‘나 로그인 계정을 노린다는 점이다.

해커들은 피싱 이메일로 직원을 속이거나, 보안 관리가 허술한 클라우드 서버 구석에 방치된 설정 파일, 혹은 공개 소프트웨어 저장소에 실수로 올려둔 코드 속에서 이 열쇠를 찾아낸다. 이렇게 손에 넣은 API 열쇠는 대부분 사용량 한도가 넉넉하게 열려 있거나, 쓴 만큼 다음 달에 후불로 청구되는 법인 계정이다. 해커들은 이 계정으로 비싼 최신 인공지능 모델을 마음껏 돌려 자신들의 데이터 작업을 공짜로 처리한다. 여기서 그치지 않고, 훔친 사용 권한을 다크웹 암시장에서 정상 요금보다 90% 이상 싼 헐값에 다른 범죄자들에게 팔아넘기며 거대한 어둠의 시장을 키우고 있다.

하루 10만 달러 청구서의 충격: 암호화폐 채굴 탈취와 LLM재킹 실제 피해 비교

LLM재킹으로 인한 피해 규모는 과거 암호화폐 채굴 악성코드 피해를 가볍게 뛰어넘는다. 클라우드 보안 전문 기업 시스디그(Sysdig)의 위협 분석팀이 내놓은 실제 조사 수치를 보면, 해커들이 최상급 거대언어모델을 집중적으로 탈취해 사용할 경우 피해 기업에는 하루 4만 6,000달러(약 6,300만 원)에서 많게는 10만 달러(약 1억 3,800만 원) 이상의 추가 요금이 청구될 수 있다.

인공지능 모델은 글자나 단어 조각을 뜻하는 ‘토큰(Token)’ 단위로 요금을 매긴다. 질문이 길어지고 처리하는 데이터가 많아질수록 요금 미터기는 1초에도 수십 번씩 올라간다. 특히 최신 모델일수록 처리 속도가 빠르고 성능이 뛰어난 대신 토큰당 단가가 비싸다. 해커가 자동화 프로그램을 걸어두고 밤새도록 수백만 건의 데이터를 밀어 넣으면, 단 며칠 만에 중소 규모 기업의 한 해 운영 예산 전체가 날아갈 수 있다.

월말 요금 폭탄부터 공격자 자금줄 지원까지: 기업 현장에 닥치는 3대 위험

LLM재킹은 단순히 기술 부서의 작은 보안 사고로 끝나지 않는다. 회사 전체의 자금 흐름을 뒤흔들고 서비스 신뢰도를 무너뜨리는 치명적인 연쇄 작용을 낳는다. 현장 실무진이 맞닥뜨리는 실질적 위험은 세 가지 영역에서 즉각적으로 나타난다.

예측 불가능한 운영 비용 폭증과 자금 고갈

대부분의 기업은 인공지능 서비스를 만들 때 개발과 테스트 편의를 위해 결제 한도를 넉넉하게 풀어둔다. “사용자가 갑자기 늘어났을 때 서비스가 멈추면 안 된다”는 이유로 자동 결제 승인을 걸어두는 경우가 흔하다. 해커들은 바로 이 빈틈을 파고든다.

피해 기업은 평소 월 50만 원 안팎으로 나오던 인공지능 사용료가 갑자기 며칠 사이에 수천만 원으로 불어나는 청구서를 마주하게 된다. 특히 후불 청구 방식 특성상 이상 징후를 알아채지 못하면 결제일이 되어서야 카드사 승인 알림이나 클라우드 청구서를 보고 사태를 파악하게 된다. 이 단계에 이르면 이미 빠져나간 돈을 인공지능 제공업체로부터 환불받기란 대단히 까다롭고 오랜 시간이 걸린다.

정상 업무 처리 지연과 서비스 먹통 사태

모든 인공지능 서비스 제공업체는 1분당 보낼 수 있는 요청 수(RPM)와 처리할 수 있는 글자 수(TPM)에 한도를 걸어둔다. 아무리 비싼 요금제를 써도 정해진 시간 동안 처리할 수 있는 양에는 물리적 한계가 있다.

해커가 훔친 열쇠로 엄청난 양의 요청을 쏟아부으면, 정작 그 계정의 진짜 주인인 기업의 정상적인 업무가 마비된다. 사내 업무 자동화 도구가 멈추고, 고객을 응대하는 인공지능 상담 챗봇이 먹통이 된다. 시스템 로그에는 ‘요청 한도 초과(Rate Limit Exceeded)’ 오류만 쏟아지고, 고객 불만과 서비스 평판 하락은 고스란히 기업의 몫으로 돌아온다.

범죄 집단에게 공격 무기를 사주는 꼴이 되는 위험

구글 위협 분석팀이 지적한 가장 심각한 문제는, 피해 기업이 알지 못하는 사이에 사이버 공격자들의 든든한 물주 역할을 하게 된다는 점이다. 고도화된 사이버 공격을 설계하거나, 대규모 악성 코드를 작성하고 취약점을 분석하는 작업에도 인공지능이 쓰인다.

해커들은 남의 돈으로 강력한 인공지능 모델을 돌리며 비용 부담 없이 공격 기술을 갈고닦는다. 반면 공격을 막아야 하는 방어자인 기업은 치솟는 인공지능 사용료를 감당하느라 예산 부족에 시달린다. 결국 우리 회사 금고에서 빠져나간 돈이 해커들의 무기 개발 자금으로 쓰이는 비대칭적 불균형이 만들어지는 셈이다.

새어나간 열쇠를 회수하고 방패를 세우는 현장 보호 기술과 기업 방어 사례

이러한 위협에 맞서 선도적인 클라우드 엔지니어링 조직들은 인증 열쇠 관리 방식을 원천적으로 뜯어고치고 있다. 핵심은 “열쇠를 사람이 직접 만지거나 볼 수 없게 만들고, 이상한 움직임이 있으면 1초 만에 수도꼭지를 잠근다”는 단순한 원칙이다.

실제 글로벌 결제 인프라를 운영하는 한 핀테크 기업은 소스코드 저장소에 인공지능 인증 열쇠가 단 한 글자라도 섞여 들어가지 못하도록 자동 차단 시스템을 구축했다. 개발자가 코드를 서버에 올리려는 순간(Git Push 단계), 특수 검사 엔진이 코드를 전수 검사하여 API 키 형태의 문자열이 발견되면 등록 자체를 즉시 거부한다.

동시에 모든 API 열쇠의 수명을 24시간으로 제한했다. 혹시라도 열쇠가 외부로 새어 나가더라도, 해커가 이를 손에 쥐었을 때는 이미 쓸모없는 깡통 열쇠가 되도록 만든 것이다. 또한 사용량 통계를 10분 단위로 모니터링하여 평소보다 토큰 소모량이 300% 이상 튀어 오르면 담당자 승인 없이도 즉각 해당 키의 권한을 정지시키는 자동 차단 장치를 걸었다.

LLM재킹 피해를 막아내는 3단계 보안 방어선

인공지능 계정은 이제 회사의 은행 계좌와 다를 바 없다. 복잡한 이론 대신 당장 오늘 오후부터 전산실과 개발팀이 즉각 실행할 수 있는 세 단계 방어선을 구축해야 한다.

1차 방어선: 즉각적인 지출 한도 잠금 및 방치된 열쇠 폐기

가장 먼저 해야 할 일은 회사 명의로 가입된 오픈AI(OpenAI), 앤트로픽(Anthropic), 구글 클라우드 등의 관리자 페이지에 들어가는 것이다.

• 하드 리밋(Hard Limit) 강제 설정: 사용량 한도 설정을 ‘무제한’으로 두지 말고, 전월 평균 사용량의 120–150% 수준에서 서비스가 자동으로 멈추도록 강제 상한선을 걸어둔다. 조금 불편하더라도 월 수천만 원의 폭탄을 막는 가장 확실한 안전핀이다.
• 방치된 테스트용 키 일괄 삭제: 30일 이상 호출 기록이 없는 오래된 API 열쇠, 퇴사한 직원이 발급했던 열쇠, 과거 프로젝트 테스트용으로 만들었던 인증 정보는 망설이지 말고 즉시 삭제하거나 비활성화한다.
• 알림 임계치 세분화: 일일 지출 한도의 50%, 80%, 100%에 도달할 때마다 보안 담당자와 팀장에게 실시간 메신저와 문자가 발송되도록 알림 규칙을 다시 설정한다.

2차 방어선: 최소 권한 부여와 인증 정보 숨기기

개발 편의를 위해 모든 권한이 다 열려 있는 ‘슈퍼 관리자 키’를 업무에 마구 사용하는 관행을 끊어내야 한다.

• 최소 권한 원칙(Least Privilege) 적용: 번역 작업만 하는 프로그램에는 번역 기능만, 특정 데이터베이스 조회만 하는 시스템에는 해당 모델 접근권만 부여한다. 한 곳이 뚫려도 회사 전체 계정이 털리는 참사를 막기 위함이다.
• 코드 내부 하드코딩 전면 금지: 소스코드 파일 안에 영문과 숫자로 된 API 키를 직접 적어 넣는 행위를 엄격히 금지한다. 클라우드 서비스가 제공하는 비밀 보관소(Secret Manager)나 환경 변수(Environment Variable)를 통해서만 암호화된 상태로 불러오도록 코드를 수정한다.
• 정기적인 키 교체(Rotation) 자동화: 모든 인증 열쇠는 최소 30–90일 주기로 새것으로 바꾸고 옛것은 폐기하는 순환 절차를 업무 규칙으로 못 박는다.

3차 방어선: 이상 징후 실시간 감시와 긴급 차단 절차 수립

사고가 터졌을 때 허둥대지 않고 5분 안에 공격을 끊어낼 수 있는 비상 대응 순서를 마련해 두어야 한다.

• 비정상 접속 국가 및 IP 차단: 사내 서비스가 한국이나 특정 지사에서만 사용된다면, 동유럽, 중동 등 평소 접속할 리 없는 해외 지역에서 들어오는 API 호출은 클라우드 방화벽 수준에서 원천 차단한다.
• 급격한 트래픽 튐 현상 감시: 새벽 시간대나 주말에 갑자기 분당 요청 수가 평소의 수십 배로 폭증하는 경우, 시스템이 이를 침해 사고로 판단하고 자동으로 해당 API 키를 무효화(Revoke)하도록 비상 조치 코드를 심어둔다.
• 사고 발생 시 공급사 즉각 통보: 계정이 털린 것으로 의심될 때는 키를 재발급하는 것에 그치지 말고, 즉시 해당 인공지능 공급사 지원팀에 유출 사실과 공격받은 시간대를 알리고 부당 청구된 비용에 대한 감면 조정을 요청해야 한다. 평소 보안 기록을 꼼꼼히 남겨두어야 이 과정에서 소명 자료로 활용할 수 있다.