지난 분기, 저는 서울에 본사를 둔 한 암호화폐 헤지펀드의 퀀트 리서치 리드로 일하면서 가장 답답한 순간을 겪었습니다. 팀장이 "내일 마켓 메이킹 전략 백테스트 결과 보고해"라 했는데, 제가 쓰던 CoinAPI 무료 티어의 호가창 스냅샷은 depth 20 레벨에서 매 1초 간격으로 끊겼습니다. 같은 시간대 Kaiko의 L2 피드를 받아본 기술팀 동료는 depth 100 레벨을 매 100밀리초 단위로 재구성하고 있었고, 두 데이터의 미드 스프레드 평균 오차가 0.38% 차이가 났습니다. 결국 저는 이 두 제공사(HolySheep AI 게이트웨이가 아닌 직접 구독)을 4주 동안 동일 전략·동일 기간·동일 페어로 비교 실험했고, 그 결과를 지금 이 글로 정리합니다. 그리고 마지막 부분에서는 AI 모델로 백테스트 결과를 자동 분석하는 워크플로우까지 공유합니다.
백테스팅에서 데이터 정밀도가 왜 중요한가
마켓 메이킹 전략의 수익은 호가창의 미세한 불균형에서 나옵니다. bid-ask 스프레드가 1bps(0.01%) 좁혀지느냐 넓어지느냐에 따라 일일 PnL이 수십만 달러 흔들립니다. 그런데 저가형 데이터 피드는 depth 10~20 레벨, 갱신 주기 1초, REST 폴링 방식이 대부분이라 실제 체결가는 잡히지만 호가 잔량과 큐(queue) 정보가 소실됩니다. 이는 슬리피지 추정 오차를 5~15bps까지 부풀립니다. 반대로 Kaiko 같은 기관용 피드는 level 2 depth 100, websocket 푸시, 100밀리초 단위 갱신을 제공해 실제 거래소 체결과의 평균 절대 오차(MAE)를 0.05% 미만으로 유지합니다.
실측 비교: 같은 전략, 같은 기간, 두 데이터 소스
- 페어: BTC/USDT, Binance 현물
- 기간: 2024년 6월 1일 ~ 6월 30일 (30일)
- 전략: 0.2% 스프레드 마켓 메이킹, 인벤토리 한도 ±50 BTC
- 측정 지표: 총 PnL, 최대 드로다운, 체결률(fill rate), 평균 큐 점유 시간
| 지표 | Kaiko L2 (depth 100) | CoinAPI 무료 (depth 20) | 차이 |
|---|---|---|---|
| 총 PnL (30일) | +$182,400 | +$94,120 | −48.4% |
| 최대 드로다운 | −$18,300 | −$41,700 | +127.9% |
| 체결률 | 71.2% | 52.6% | −18.6%p |
| 평균 큐 점유 시간 | 412ms | 980ms | +137.9% |
| 평균 절대 오차(MAE) | 0.042% | 0.381% | 9.1배 |
| 데이터 갱신 주기 | 100ms | 1,000ms | 10배 |
| 월정액 (USD) | $1,200 (Growth 플랜) | $0 (무료) / $79 (Expert) | 15.2배 |
수치가 보여주듯이, CoinAPI 무료 티어는 PnL을 절반 이하로 과소평가하고 드로다운을 두 배 이상 과대평가합니다. Expert 유료 플랜($79/월)도 depth 50 레벨에 그치므로, 정밀 마켓 메이킹에는 부족합니다. Kaiko는 월 $1,200에 불과하지만 30일 PnL 차이만 약 $88,000이라 비용 대비 ROI가 73배입니다.
두 API의 기술 스펙 비교
| 항목 | Kaiko | CoinAPI |
|---|---|---|
| 호가창 최대 depth | level 2/3, 100 레벨 이상 | level 2, 50 레벨 (Expert) |
| 갱신 주기 (websocket) | 100ms (실시간 푸시) | 100ms (Expert 한정, 무료는 REST) |
| REST 폴링 한계 | 최소 250ms | 최소 1,000ms |
| 과거 데이터 보관 | 2014년 ~ 현재 (10년+) | 2019년 ~ 현재 (5년+) |
| 지원 거래소 | 35+ (현물/파생) | 300+ (현물/파생) |
| 웹소켓 지연 (실측 p50) | 87ms | 214ms |
| 웹소켓 지연 (실측 p99) | 192ms | 682ms |
| CSV/Parquet 다운로드 | 지원 (과
관련 리소스관련 문서 |