소스 코드 한 줄 안 고치고 판다스 속도 38배 개선: 엔비디아와 델이 더블AI에 2억 달러를 베팅한 이유

기계어 직접 수정으로 증명한 연산 효율: 더블AI 10억 달러 기업가치 인정

소프트웨어 개발 현장에서 연산 속도를 끌어올리는 작업은 늘 혹독한 수작업을 동반했다. 수십만 줄에 달하는 소스 코드를 엔지니어가 일일이 뜯어보고, 메모리 병목 지점을 찾아내며, 하드웨어 칩 구조에 맞춰 코드를 다시 짜는 일에 수개월의 시간이 소모된다. 하지만 인공지능이 컴파일러 뒤편에 숨은 기계어(바이너리)를 직접 읽고 실행 중에 연산 흐름을 재설계한다면 어떨까.

이스라엘 텔아비브 기반의 스타트업 더블AI(doubleAI, 법인명 AA-I 테크놀로지스)가 라이트스피드와 베세머 벤처 파트너스가 공동 주도한 2억 달러(약 2,750억 원) 규모의 시리즈 A 투자를 유치했다. 이번 투자 라운드에는 하드웨어 공급망의 두 거인인 엔비디아(Nvidia)와 델 테크놀로지스(Dell Technologies)가 전략적 투자자로 합류했다. 현지 보도에 따르면 이번 투자에서 평가된 더블AI의 기업가치는 10억 달러를 훌쩍 넘어섰다. 설립 초기 단계의 기업이 단숨에 유니콘 대열에 오른 배경에는 이들이 개발한 연산 최적화 인공지능 모델 ‘맥스웰(Maxwell)‘이 자리 잡고 있다.

맥스웰은 사람이 작성하는 고수준 프로그래밍 소스 코드를 건드리지 않는다. 대신 컴퓨터 프로세서가 직접 실행하는 0과 1의 기계어 번역본, 즉 바이너리 파일을 직접 분석한다. 실행 파일이 컴퓨터 칩 내부의 레지스터나 캐시 메모리와 상호작용하는 물리적 경로를 추적한 뒤, 그 자리에서 가장 낭비 없는 명령어로 실행 구조를 바꾼다. 소스 코드를 다시 빌드하거나 배포 파이프라인을 멈출 필요 없이 실제 운영 환경에서 작동 중인 프로그램을 즉시 개선하는 방식이다. 엔비디아와 델이 이 작은 스타트업에 거액을 투입한 이유는 명확하다. 그래픽 처리 장치(GPU) 공급 부족과 폭등하는 데이터센터 전력 소비 문제를 해결할 가장 현실적인 열쇠가 연산 구조의 기계어 최적화에 있기 때문이다.

더블AI는 확보한 2억 달러의 투자금 중 절반에 달하는 1억 달러를 엔비디아의 차세대 블랙웰 칩인 B300 1,000장을 사들이는 데 전량 투입하기로 결정했다. 자체 모델의 지능을 고도화해 거대 연구 작업을 자동화하는 오픈AI나 앤트로픽 같은 선두 기업들과 정면 승부를 벌이겠다는 계산이다. 실제로 오픈AI가 최근 722편의 AI 생성 수학 논문을 내놓고, 앤트로픽이 사람이 수년 걸려 작성해야 할 1,300만 줄 규모의 수학 증명 코드를 자동 추출해 낸 상황에서, 더블AI 역시 50년 동안 깨지지 않던 체스 퍼즐 기록을 갈아치우고 새로운 그래프 수학 이론을 자체 검증하며 복잡 연산 해결 역량을 입증했다.

판다스 38배 가속부터 라이브러리 반토막 경량화까지: 실측 수치 비교

더블AI가 실리콘밸리와 반도체 업계의 이목을 끈 결정적 계기는 단순한 연구실 수치가 아닌, 실제 널리 쓰이는 오픈소스 라이브러리를 극적으로 개선해 낸 실적 데이터에 있다. 데이터 분석가들이 매일같이 사용하는 파이썬 기반 데이터 조작 도구인 판다스(pandas)와 엔비디아의 자체 그래프 연산 라이브러리인 쿠그래프(cuGraph)가 대표적이다.

엔비디아가 공급망 관리나 복잡한 네트워크 분석을 위해 제공하는 쿠그래프는 이미 엔비디아 내부 엔지니어들이 GPU 가속에 맞춰 고도로 다듬어 둔 라이브러리다. 그러나 맥스웰은 이 라이브러리의 바이너리를 분석해 하드웨어 사용량을 낮추는 방식으로 다시 짰다. 그 결과 쿠그래프에 내장된 알고리즘 중 55%의 처리 속도가 2배 이상 빨라졌다. 전 세계 데이터 엔지니어들의 기본 도구인 판다스의 경우 쿼리 속도 측정 표준인 PDS-H 벤치마크 테스트에서 처리 속도가 기존 대비 무려 38배 향상되었다. 생성형 AI 분야에서도 LTX-2.5 영상 생성 월드 모델의 비디오 렌더링 속도를 2배로 끌어올렸다.

이러한 성능 격차가 기업 인프라 지출에 미치는 영향을 따져보기 위해, 대규모 데이터 파이프라인과 비디오 생성 추론을 운영하는 기업 환경을 기준으로 실제 비용 시뮬레이션을 도출해 볼 수 있다.

비교 항목	기존 레거시 컴파일 운영	맥스웰 기반 바이너리 최적화	실무 시뮬레이션 개선 효과
최적화 대상 단계	고수준 소스 코드 (수작업)	저수준 기계어 바이너리 (자동)	개발자 코드 수정 공수 100% 제거
작업 반영 방식	코드 재빌드 및 서버 재기동 필요	운영 중 실시간 동적 패치	서비스 점검 시간(Downtime) 제로화
데이터 처리 쿼리 속도	기준치 (PDS-H 1.0x)	38배 가속 (PDS-H 38.0x)	대규모 쿼리 지연 시간 97% 이상 단축
비디오 생성 렌더링 시간	프레임당 약 1.8초	프레임당 약 0.9초	시간당 처리량 2배 확대
하드웨어 지원 범위	특정 아키텍처별 전용 튜닝	GPU 및 CPU 교차 통합 최적화	이종 칩 혼합 환경 자원 낭비 최소화
월간 인프라 추정 비용	$120,000 (100 노드 기준)	$63,000 (동일 처리량 유지 시)	실무 기준 월간 지출 약 47.5% 절감

업계 평균 단가 기준 추정에 따르면, 대규모 데이터를 처리하는 데이터 플랫폼 기업이 맥스웰의 최적화 방식을 적용할 경우 동일한 양의 작업을 절반 이하의 연산 노드로 처리할 수 있다. 하드웨어를 증설하지 않고도 기존 장비의 효율을 극대화할 수 있다는 뜻이다.

데이터센터 전력난과 인프라 운영 비용을 뒤흔드는 3대 실무 파급력

엔비디아와 델이 주도한 이번 자금 지원은 단순한 벤처 투자를 넘어, 전 세계 엔터프라이즈 하드웨어 공급망이 맞닥뜨린 현실적 한계를 방어하려는 포석이다. 서버 랙을 무작정 늘릴 수 없는 기업 실무 환경에 미칠 파급력은 크게 세 가지 축으로 요약된다.

연산 인프라 운영 지출(OPEX)의 즉각적 정상화

인공지능 모델을 상용 서비스에 적용하는 기업들이 가장 먼저 마주하는 벽은 추론과 데이터 처리에 들어가는 막대한 클라우드 청구서다. 고성능 GPU 인스턴스는 시간당 대여 비용이 높을 뿐만 아니라, 장기 약정을 맺더라도 유휴 자원 낭비가 발생하기 쉽다. 더블AI의 방식은 기존 코드를 그대로 둔 상태에서 하드웨어 칩 점유율을 낮춘다. 동일한 워크로드를 소화하는 데 필요한 클라우드 인스턴스 개수 자체가 줄어들기 때문에, 매달 고정적으로 지출되던 연산 비용이 즉각적으로 깎여 나가는 효과를 낳는다.

소프트웨어 배포 지연 시간(Lead Time)의 획기적 단축

통상적으로 사내 소프트웨어의 성능을 끌어올리려면 성능 프로파일링, 병목 코드 식별, 알고리즘 재설계, 단위 테스트, 전체 시스템 재빌드라는 긴 순환 주기를 거쳐야 한다. 이 과정에서 수 주에서 수개월의 엔지니어링 시간이 사라진다. 반면 바이너리 단위에서 작동하는 AI 최적화 도구는 개발팀이 핵심 비즈니스 로직에만 집중할 수 있게 만든다. 운영 체제에 적재된 바이너리를 AI가 백그라운드에서 분석하고 교정하므로, 성능 튜닝에 들어가던 개발 인력의 리드 타임이 거의 0에 수렴하게 된다.

데이터센터 전력 공급 병목에 대응할 가용성 확보

현재 북미와 유럽의 주요 데이터센터는 새로운 서버를 사들이고 싶어도 물리적인 전력망 용량이 부족해 신규 랙을 들이지 못하는 사태를 겪고 있다. 델과 같은 서버 제조사 입장에서는 기업 고객에게 장비를 판매하더라도 전력 한계 때문에 증설이 막히는 것이 가장 큰 영업 리스크다. 맥스웰을 통해 소프트웨어 단위의 전력 효율을 30–50% 개선할 수 있다면, 기업들은 전력 증설 인허가를 기다리지 않고도 기존 전력 한도 안에서 두 배 이상의 AI 연산 작업을 구동할 수 있게 된다.

컴파일러 한계를 넘는 AI: 기존 소프트웨어 스택의 진화

지금까지 소프트웨어 최적화는 LLVM이나 GCC 같은 정적 컴파일러의 몫이었다. 개발자가 C++이나 러스트(Rust), 파이썬으로 짠 코드를 컴파일러가 기계어로 번역하면서 나름의 규칙에 따라 최적화를 진행했다. 그러나 전통적인 컴파일러는 매우 보수적인 규칙 기반으로 작동한다. 조금이라도 시스템 오류가 발생할 위험이 있으면 가장 안전하지만 느린 명령어 배열을 선택한다.

반면 맥스웰과 같은 최신 AI 에이전트는 데이터의 입출력 패턴과 하드웨어 레지스터의 실제 사용 흐름을 포괄적으로 학습한다. 단순히 정해진 문법 규칙을 따르는 것이 아니라, 데이터가 메모리 사이를 오가는 경로 전체를 거시적으로 조망하며 최적의 명령어 순서를 찾아낸다.

더블AI가 보여준 기술적 차별점은 최근 개발 현장에서 널리 쓰이는 도구들과 비교해 보면 더욱 선명해진다. 코딩 과정에서 실시간으로 버그를 고치고 함수를 제안하는 Cursor 같은 지능형 코드 에디터가 ‘개발자의 소스 코드 작성’을 돕는 단계라면, 더블AI의 맥스웰은 ‘완성된 코드가 칩 위에서 돌아가는 마지막 순간’을 뜯어고친다. 프로그래머가 아무리 코드를 정갈하게 짜더라도 하드웨어 특유의 캐시 미스(Cache Miss)나 스레드 충돌을 완벽히 통제하기는 어려운데, 맥스웰은 실행 파일 그 자체를 변환하여 이 문제를 해결한다.

동시에 클라우드 인프라 운영 측면에서도 변화가 예상된다. 서버리스 방식으로 GPU 컨테이너를 가볍게 띄워 초 단위로 연산을 소모하는 Modal 같은 현대적 인프라 환경에서, 실행 바이너리 자체가 가벼워지고 속도가 빨라지면 작업 완료 시간이 줄어들어 기업이 결제해야 하는 서버리스 청구 요금이 비례하여 줄어든다. 소프트웨어 하부 구조의 효율화가 클라우드 요금 체계 전반과 맞물려 연쇄적인 비용 절감 효과를 내는 셈이다.

향후 1–2년 시장 재편 시나리오와 승자의 조건

엔비디아와 델이 더블AI에 실탄을 쥐여준 사건은 인공지능 시장의 주도권 경쟁이 ‘거대 모델 훈련’에서 ‘추론 및 실행 인프라의 효율성’으로 빠르게 이동하고 있음을 보여준다. 앞으로 펼쳐질 기업용 소프트웨어 및 클라우드 시장은 다음 두 가지 방향으로 재편될 가능성이 높다.

기존 레거시 기업이 직면할 마진 압박 시나리오

하드웨어 자원 효율화 기술을 확보하지 못한 채 무작정 GPU 서버만 늘려온 전통적인 클라우드 사업자나 소프트웨어 기업들은 심각한 마진 압박에 직면하게 된다. 경쟁사가 동일한 성능의 서비스를 40–50% 낮은 인프라 유지비로 제공하기 시작하면, 높은 클라우드 청구서를 감당해야 하는 기업은 가격 경쟁력을 상실할 수밖에 없다.

특히 자체적인 하드웨어 튜닝 인력을 대규모로 보유하지 못한 중소 소프트웨어 기업들은 기계어 최적화 도구를 적극적으로 수용하지 않을 경우 늘어나는 트래픽이 곧바로 적자로 이어지는 구조적 늪에 빠질 위험이 크다.

변화하는 생태계에서 주도권을 쥘 승자의 핵심 조건 3가지

소프트웨어 실행의 중심축이 바이너리 레벨의 AI 자동 최적화로 넘어가는 격변기 속에서 주도권을 쥐기 위한 조건은 다음과 같다.

• 칩 아키텍처에 구속되지 않는 유연한 소프트웨어 스택: 엔비디아 GPU뿐만 아니라 AMD의 가속기, 자체 커스텀 ASIC, 범용 CPU를 넘나들며 바이너리를 자유자재로 최적화할 수 있는 소프트웨어 생태계를 선점해야 한다. 특정 하드웨어에 종속되지 않고 동일한 바이너리 최적화 이점을 누릴 수 있는 유연성이 핵심 무기가 된다.
• 수작업 튜닝을 배제한 자율 운영 파이프라인 구축: 성능 개선을 위해 개발팀의 리소스를 소모하는 관행을 버리고, 실행 단계에서 성능 병목을 감지해 자동으로 바이너리를 패치하는 자율 제어 체계를 갖추어야 한다. 개발자는 가치 창출에 집중하고, 성능 최적화는 하부 엔진에 일임하는 구조적 분리가 필수적이다.
• 전력 제약 환경을 고려한 연산 밀도 극대화: 단순히 연산 속도를 높이는 데 그치지 않고, 와트(W)당 처리량을 극대화하는 전력 친화적 연산 설계를 완성해야 한다. 앞으로의 데이터센터 확장 한계는 돈이 아니라 전력 공급량이 결정하기 때문에, 동일 전력 내에서 더 많은 AI 추론을 소화하는 기업이 최종적인 시장 승자가 될 것이다.