단일 24GB GPU로 구동하는 에이전틱 코딩: SageMaker JumpStart에 입점한 Ornith 1.0 심층 분석
DeepReinforce AI의 Ornith-1.0-9B 및 35B MoE 모델이 AWS JumpStart에 공식 출시되었다. 자가 스캐폴딩 구조와 VRAM 효율성을 바탕으로 엔터프라이즈 온프레미스 및 클라우드 코딩 파이프라인의 TCO를 재설계한다.
발행일: 2026.11.12
공식 사이트 확인월 5억 토큰 인퍼런스 자체 호스팅 기준
단일 GPU(g5.2xlarge 급) 구동 가능
JumpStart 전용 인스턴스 손익분기점
엔터프라이즈 소프트웨어 개발 조직에서 대규모 언어 모델을 코드 생성 엔진으로 채택할 때 직면하는 장벽은 명확하다. 사내 프라이빗 리포지토리의 소스 코드가 외부 상용 API로 전송될 때 발생하는 데이터 운영 관리 위반과 고정 토큰 과금의 누적이다. 상용 프런티어 모델은 단일 질의당 높은 완성도를 보이지만, 자율 에이전트(Agentic Coding)가 수십 번의 파일 탐색과 터미널 테스트를 반복하는 루프에 진입하면 호출 비용이 기하급수적으로 폭증한다.
DeepReinforce AI가 공개한 오픈소스 에이전틱 코딩 모델 제품군인 Ornith-1.0-9B와 Ornith-1.0-35B가 AWS의 완전 관리형 머신러닝 허브인 Amazon SageMaker JumpStart에 공식 등록되었다. 이번 릴리스는 MIT 라이선스 기반의 자가 비계(Self-Scaffolding) 코딩 모델을 AWS 엔터프라이즈 인프라 내부 VPC에 몇 번의 클릭이나 SDK 호출만으로 격리 배포할 수 있는 길을 열었다.
강화학습 기반 자가 비계 생성과 24GB 단일 GPU 구동 메커니즘
Ornith 1.0 제품군의 핵심 아키텍처는 Qwen 3.5 기반의 사후 학습(Post-training)에 강화학습을 결합한 자가 비계(Self-Scaffolding) 프레임워크다. 기존의 에이전틱 코딩 모델은 외부 파이썬 프레임워크나 랭체인 류의 정적 오케스트레이터가 하드코딩한 규칙에 따라 도구 호출과 파일 탐색을 수행했다. 반면 Ornith 모델은 강화학습 단계에서 문제를 해결하기 위한 스캐폴드(Scaffold) 구조 생성과 실제 코드 시스템 롤아웃을 동시에 최적화하도록 훈련되었다.
정적 오케스트레이터 없이 모델 내부 정책망이 탐색과 검증을 직접 제어
256K 컨텍스트 윈도우에 코드베이스 및 실패 로그 적재
하위 태스크 분할 및 실행 경로 자가 탐색 계획 수립
가상 터미널 및 테스트 러너 연동을 통한 실시간 피드백
강화학습 가치 평가에 기반한 최적 패치 코드 생성
Ornith-1.0-9B는 90억 개 파라미터의 덴스(Dense) 모델로 설계되었다. 32개 디코더 레이어와 256K 토큰에 달하는 대용량 컨텍스트 윈도우를 기본 지원한다. 단일 개발자 워크스테이션이나 엔트리급 클라우드 GPU 인스턴스(AWS g5.xlarge 등)에서도 지연 없이 구동된다. 로컬 파일 시스템 탐색과 단위 테스트 수정 같은 단일 레포지토리 중심의 가벼운 에이전트 워크플로우에 최적화된 스펙이다.
상위 모델인 Ornith-1.0-35B는 350억 개 파라미터 규모의 MoE(Mixture-of-Experts) 아키텍처를 채택했다. MoE 구조는 토큰을 처리할 때 전체 파라미터 중 사전에 정의된 특정 전문가 네트워크만 활성화하므로 연산 비용을 대폭 절감한다. 활성 파라미터 비율을 제어한 결과 35B 모델임에도 단일 24GB VRAM 환경에서 원활히 배포된다. 고밀도 인퍼런스 서버를 여러 대 묶지 않고도 SWE-Bench 및 Terminal-Bench 2.1 벤치마크에서 동급 오픈소스 최고 수준의 성능을 실현했다.
9B 덴스 모델과 35B MoE 모델의 하드웨어 리소스 프로파일 대조
실제 숫자로 검증한 스펙 및 SageMaker JumpStart 인프라 TCO
상용 폐쇄형 API(예: Claude 3.5 Sonnet, GPT-4o)와 자체 호스팅 오픈소스 모델 간의 재무적 손익분기점은 월간 처리 토큰 총량에 의해 결정된다. 상용 API는 초기 인프라 유지 비용이 전혀 들지 않지만, 대규모 코드 리팩토링이나 CI/CD 통합 테스트 단계에서 토큰 소비량이 수억 건을 돌파하면 매월 수천 달러의 청구서가 발행된다.
반면 Amazon SageMaker JumpStart를 통해 Ornith 모델을 호스팅하면 고정 인스턴스 비용이 발생한다. 인스턴스가 상시 가동되는 동안에는 토큰 인퍼런스 비용이 추가로 부과되지 않는다. AWS 환경에서 ml.g5.2xlarge(A10G GPU 24GB, 시간당 약 $1.21) 인스턴스를 월 730시간 완전 가동할 경우 월 인프라 비용은 약 885달러 수준으로 수렴한다.
| 평가 항목 | Ornith-1.0-9B (Self-Hosted) | Ornith-1.0-35B (JumpStart) | 상용 Tier-1 코딩 API (대체재) |
|---|---|---|---|
| 모델 아키텍처 | 9B Dense (Qwen 3.5 기반) | 35B MoE (희소 활성화) | 폐쇄형 상용 대형 모델 |
| 컨텍스트 길이 | 256,000 토큰 | 256,000 토큰 | 128,000 – 200,000 토큰 |
| 라이선스 형태 | MIT (상업적 이용 및 수정 자유) | MIT (완전 자체 제어) | 상용 종속 독점 라이선스 |
| 최소 하드웨어 | 1x 16GB VRAM (ml.g5.xlarge) | 1x 24GB VRAM (ml.g5.2xlarge) | 클라우드 엔드포인트 종량제 |
| 호스팅 비용 (월) | 약 $734 (인스턴스 고정비) | 약 $885 (인스턴스 고정비) | $0 (기본료 없음) |
| 100만 입력 토큰 단가 | $0 (인스턴스 비용에 포함) | $0 (인스턴스 비용에 포함) | $3.00 – $5.00 |
| 100만 출력 토큰 단가 | $0 (인스턴스 비용에 포함) | $0 (인스턴스 비용에 포함) | $15.00 – $20.00 |
| 월 5억 토큰 처리 TCO | 약 $734 (고정) | 약 $885 (고정) | 약 $3,100 (가변 종량) |
| 배포 방식 | 로컬 및 JumpStart 콘솔/SDK | JumpStart 엔드포인트 배포 | SaaS REST API 연동 |
상용 API는 5억 토큰(입력 80%, 출력 20% 가정)을 처리할 때 월 약 3,100달러 이상의 가변 비용이 발생한다. 같은 작업량을 SageMaker JumpStart의 ml.g5.2xlarge 인스턴스에 배포된 Ornith-1.0-35B 엔드포인트로 이전하면 월 인프라 총소유비용(TCO)은 885달러 수준으로 유지된다. 이는 약 71.4%의 비용 절감 효과를 뜻한다.
월 1억 2천만 토큰 처리 구간을 초과하는 시점부터 JumpStart 배포가 재무적 우위를 점유
상용 코딩 API (종량제) $147 vs JumpStart Ornith-35B (ml.g5.2xlarge) $885
상용 코딩 API (종량제) $3680 vs JumpStart Ornith-35B (ml.g5.2xlarge) $885
엔터프라이즈 데브옵스 환경의 3대 실무 파급력
신규 코딩 모델의 JumpStart 등록은 단순한 벤치마크 숫자 이상의 운영 변화를 소프트웨어 엔지니어링 조직에 전달한다. 현업 클라우드 아키텍트와 데브옵스 리더는 세 가지 관점에서 인프라 파이프라인을 재정의해야 한다.
프라이빗 VPC 격리를 통한 소스코드 유출 차단과 감사 증적 확보
금융, 통신, 방위산업 등 규제 엄격 산업군에서는 외부 엔드포인트로 소스코드를 전송하는 행위 자체가 컴플라이언스 위반이다. SageMaker JumpStart를 통해 사내 VPC 서브넷 내부에 전용 엔드포인트로 띄운 Ornith 모델은 공인 인터넷 트래픽을 완전히 차단한다. AWS PrivateLink와 IAM 세분화 정책을 결합하여 모델 입출력 로그를 사내 S3 버킷과 CloudWatch에만 안전하게 남길 수 있다.
엔터프라이즈 보안 운영 관리 및 대량 트래픽 FinOps 기준 분석
256K 컨텍스트 윈도우를 활용한 대규모 모노레포 컨텍스트 적재
에이전틱 코딩의 치명적 결함은 참조해야 할 함수와 의존성 라이브러리가 방대할 때 컨텍스트가 단절되는 문제였다. Ornith 1.0은 256K 토큰의 입력 길이를 기본 제공하므로 중간 규모의 프로젝트 전체 디렉터리 트리와 주요 인터페이스 정의서를 단일 세션에 주입할 수 있다. 분할된 청크를 검색 기반으로 주입하는 RAG 파이프라인의 검색 노이즈를 줄이고, 에이전트가 정확한 코드 호출 관계를 추론하도록 돕는다.
자가 비계 기반의 터미널 도구 연동과 실패 자동 복구
Ornith 모델은 강화학습 과정에서 터미널 기반 도구 상호작용(Terminal-Bench 2.1)과 레포지토리 수준 이슈 해결(SWE-Bench) 데이터셋을 심층 학습했다. 단위 테스트 실패 로그가 반환되었을 때 당황하지 않고 스캐폴딩 계층에서 오류 원인을 분해하여 대체 수정 코드를 재작성하는 복원력을 지닌다. 이는 개발자가 개입하지 않는 야간 배치 자동 리팩토링이나 자동 취약점 패치 에이전트의 완결성을 끌어올린다.
모델 전환에 따른 운영 마찰과 유휴 인프라 리스크
오픈소스 모델 자체 호스팅으로의 전환이 항상 장밋빛 결과만을 가져오는 것은 아니다. 클라우드 엔지니어링 팀은 관리 오버헤드와 인프라 낭비 요소를 명밀히 계산해야 한다.
엔지니어링 팀이 사전 대비해야 할 주요 관리 제약 사항
- + 프라이빗 VPC 내부 완벽한 소스코드 기밀성 유지
- + 대규모 워크로드 구동 시 토큰 단위 가변 비용 제거
- + MIT 라이선스 기반의 자유로운 사내 미세조정 권한
- – 요청이 없는 야간/주말에도 시간당 인스턴스 비용 지속 발생
- – 단일 프롬프트당 추론 지연시간(Latency)이 초거대 상용 모델 대비 다소 증가
- – GPU 용량 할당 및 엔드포인트 헬스체크 유지보수 리소스 소요
가장 큰 마찰 지점은 유휴 시간(Idle time)에 발생하는 기본 인스턴스 비용이다. 개발팀이 업무를 하지 않는 주말이나 야간에도 ml.g5.2xlarge 인스턴스를 프로비저닝 상태로 유지하면 불필요한 클라우드 지출이 누적된다. 이를 해결하기 위해 SageMaker의 오토스케일링 정책을 수립하거나 개발 업무 종료 시간에 맞춰 엔드포인트를 축소하는 이벤트 기반 자동화 스크립트를 파이프라인에 필수적으로 통합해야 한다.
추론 지연시간(Latency)과 처리량(Throughput) 역시 엔지니어링 검증 대상이다. 35B MoE 모델이 단일 24GB GPU에 적재된다는 것은 역으로 메모리 대역폭 한계치 근처까지 리소스를 쥐어짜낸다는 것을 뜻한다. 동시 요청(Concurrency)이 5건 이상 급증하는 프로덕션 환경에서는 큐 대기 시간이 길어질 수 있다. 따라서 팀 단위 배포 시에는 요청 분산을 위한 로드밸런서 배치나 인스턴스 증설 계획을 사전에 수립해야 한다.
조직 규모 및 트래픽에 따른 엔터프라이즈 도입 의사결정
SageMaker JumpStart에 입점한 Ornith 1.0 제품군은 개발팀의 작업 패턴과 월간 토큰 수요량에 따라 완전히 다른 ROI를 제공한다. 현업 의사결정권자는 조직의 인프라 준비도와 개발 트래픽을 아래 프레임워크에 대입하여 도입 여부를 판정해야 한다.
사내 VPC 내부 ml.g5 인스턴스 전용 엔드포인트 구성
인프라 관리 오버헤드를 없애고 실제 사용량만큼만 결제
즉각 JumpStart 배포를 실행해야 하는 조직 조건
- 월간 에이전틱 코딩 토큰 소비량이 1억 2천만 토큰을 초과하는 조직: 상용 API의 토큰 과금 곡선이 JumpStart 인스턴스 월 고정비(약 885달러)를 넘어서는 구간이다. 자가 호스팅으로 전환하는 즉시 현금 유출을 방어할 수 있다.
- 사내 보안 규정상 외부 SaaS로 코드 전송이 불가능한 엔터프라이즈: 온프레미스 연동 사내 AWS Direct Connect 망 안에서 모든 추론 트래픽을 완결해야 하는 금융권 및 대기업 보안 환경에 최적이다.
- CI/CD 파이프라인에 자동 코드 리팩토링 루프를 결합하려는 플랫폼 엔지니어링 팀: 정해진 GPU 자원 안에서 무제한으로 회귀 테스트와 자동 패치를 돌릴 수 있어 비용 예측 가능성이 보장된다.
도입을 보류하고 상용 API를 유지해야 하는 조직 조건
- 개발 인력이 10명 미만이며 주간 토큰 사용량이 불규칙한 초기 조직: 고정 인스턴스 비용을 감당할 만큼 토큰 밀도가 나오지 않아 유휴 비용 손실이 더 크게 발생한다.
- 클라우드 인프라 유지보수 및 SageMaker 엔드포인트 관리 인력이 전무한 조직: 오토스케일링 정책 실패나 인스턴스 쿼터(Quota) 부족 문제를 해결하지 못하면 도리어 개발 생산성이 정체될 수 있다.
Ornith-1.0-9B 및 35B의 SageMaker JumpStart 합류는 오픈소스 에이전틱 코딩 모델이 엔터프라이즈 프로덕션 환경의 실질적 대안으로 안착했음을 입증한다. 보안 격리와 FinOps 균형을 추구하는 조직이라면 JumpStart 콘솔에서 파일럿 엔드포인트를 생성하고 기존 개발 에이전트 워크플로우와의 연동 테스트를 즉시 시작할 시점이다.