Summary
Baidu researchers released Unlimited OCR, an end-to-end document model that processes dozens of pages in a single pass with constant memory and throughput. Reference Sliding Window Attention (R-SWA) caps the KV cache by attending to only the last 128 output tokens while preserving full visual reference tokens. The model scores 93% on OmniDocBench v1.5 (93.92% on v1.6) and reaches 5,580 tokens/second in Base mode. Weights are published on Hugging Face.
Source Analysis
Verified during evaluation via arXiv 2606.23050, GitHub baidu/Unlimited-OCR, and Hugging Face model card. Paper published June 23, 2026; weights publicly available. OmniDocBench 93% claim matches paper; v1.6 score and throughput figures from technical report.
Research Notes
Additional Sources
- 2026-07-06-baidu-unlimited-ocr-arxiv — primary technical report, R-SWA definition
- 2026-07-06-baidu-unlimited-ocr-marktechpost — cache math, MIT license, vLLM/SGLang
- 2026-07-06-baidu-unlimited-ocr-devto — 40+ pages, CC-BY 4.0 weights
Key Facts Verified
- Confirmed: 3B MoE / 500M active; continue-trained on DeepSeek OCR baseline
- Confirmed: OmniDocBench v1.5 93.23% (+6.22 vs baseline); v1.6 93.92%
- Confirmed: Open weights on Hugging Face; github.com/baidu/Unlimited-OCR
Broader Context
Solves KV cache linear growth problem for long-document OCR. R-SWA generalizes to ASR and translation. Complements enterprise mistral-ocr-4-enterprise angle with open-weight developer adoption path.
Related Wiki
baidu, unlimited-ocr, reference-sliding-window-attention, document-processing, kv-cache, mistral-ocr-4-enterprise
Editorial Notes
Approved angle: Uzun belge OCR’da KV cache sorununa R-SWA çözümü — açık ağırlıklı, geliştirici odaklı teknik haber.
Format: Brief (400–500 kelime)
Reporting instructions:
- R-SWA mekanizmasını basit Türkçe ile açıkla (son 128 output token, sabit bellek)
- Benchmark ve throughput rakamlarını koru
- Hugging Face açık ağırlık erişimini vurgula
- Mistral OCR enterprise karşılaştırmasına kısa atıf
Headline suggestions (TR):
- Baidu Unlimited OCR: Onlarca sayfayı tek geçişte işleyen açık kaynak model
- R-SWA ile sabit bellek: Baidu’nun uzun belge OCR modeli Hugging Face’te
- KV cache sorununa yeni çözüm: Baidu Unlimited OCR %93 OmniDocBench skoru
Must include:
- R-SWA: son 128 output token, sabit KV cache
- OmniDocBench v1.5 %93.23; v1.6 %93.92
- 3B MoE / 500M aktif parametre
- Açık ağırlıklar: Hugging Face + GitHub
Draft Article
Baidu Unlimited OCR: Onlarca Sayfayı Tek Geçişte İşleyen Açık Kaynak Model
baidu araştırmacıları, unlimited-ocr adlı uçtan uca bir belge işleme modelini yayınladı. Model, reference-sliding-window-attention (R-SWA) mekanizması sayesinde onlarca sayfayı tek geçişte sabit bellek ve throughput ile işleyebiliyor. OmniDocBench v1.5’te %93,23, v1.6’da %93,92 skor elde etti. Ağırlıklar Hugging Face’te açık olarak erişilebilir.
Ana Gelişme
Unlimited OCR, 3 milyar parametreli MoE mimarisi kullanıyor; aktif parametre sayısı 500 milyon. DeepSeek OCR baseline üzerine continue-training yapıldı. Temel yenilik R-SWA: model, KV cache’i sabit tutmak için yalnızca son 128 output token’a dikkat ederken, tüm görsel referans token’larını koruyor.
Performans rakamları:
- OmniDocBench v1.5: %93,23 (baseline’a göre +6,22 puan)
- OmniDocBench v1.6: %93,92
- Throughput: Base modda 5.580 token/saniye
- Kapasite: 40+ sayfa tek geçişte
Ağırlıklar Hugging Face ve GitHub (github.com/baidu/Unlimited-OCR) üzerinden MIT lisansıyla yayınlandı. vLLM ve SGLang desteği mevcut.
Neden Önemli?
Uzun belge OCR’da KV cache’in doğrusal büyümesi temel bir darboğaz. R-SWA, “insan unutması gibi” bellek yönetimiyle bu sorunu çözüyor — eski output token’ları atılırken görsel referanslar korunuyor. Bu yaklaşım ASR ve çeviri gibi diğer uzun-sequence görevlere de genelleştirilebilir.
mistral-ocr-4-enterprise kurumsal OCR çözümüne kıyasla, Baidu’nun açık ağırlıklı modeli geliştirici topluluğu için doğrudan erişim sunuyor. document-processing ve kv-cache optimizasyonu alanında pratik bir alternatif oluşturuyor.
Bağlam
llm-optimization alanında bellek verimliliği kritik bir rekabet ekseni. R-SWA, sliding window attention’ın referans token’ları koruyan bir varyantı olarak, uzun belge işlemede yeni bir standart oluşturma potansiyeli taşıyor.
Kaynaklar
- Unlimited OCR — arXiv 2606.23050 (arXiv)
- Baidu Unlimited OCR — Hugging Face Model Card (Hugging Face)
- Baidu Unlimited OCR — GitHub Repository (GitHub)