Bloga dön

OmniRoute: Tek Endpoint ile Free, Ucuz ve Pahalı AI Modelleri Arasında Otomatik Geçiş

Problem

Coding AI hızlıdır — ta ki kota biter, rate limit gelir ya da pahalı modelde gereksiz para yakmaya başlayana kadar. Her araç ayrı provider ayarı ister. Free model bitince pahalıya geçmek manuel uğraş olur.

Çözüm

OmniRoute, tüm coding AI araçlarını tek bir yerel endpoint üzerinden çalıştırır. İsteği free → ucuz → pahalı sağlayıcılar arasında otomatik yönlendirir. Kota bitince durmazsın; daha pahalı modele ancak gerektiğinde düşersin. OmniRoute


OmniRoute ne yapar? (tek cümle)

268+ sağlayıcıyı (90+ free dahil) tek OpenAI uyumlu API haline getirir. Üstüne otomatik model/provider geçişi, token sıkıştırma ve MCP sunucusu ekler. OmniRoute


Asıl önemli özellik: akıllı maliyet yönlendirme

OmniRoute'un en güçlü yanı "yedekleme" değil — hangi modeli ne zaman kullanacağını yönetmesi:

  1. Önce free kotayı bitir Zaten ödediğin veya ücretsiz olan provider'ları önce tüketir.

  2. Sonra ucuz API'lere geç Free bitince en düşük maliyetli sağlayıcıya kayar.

  3. Pahalı modeli sadece gerektiğinde kullan Kota/limit veya kalite ihtiyacı olunca Claude / GPT gibi pahalı modellere geçer.

  4. Sen tek endpoint kullanmaya devam edersin Claude Code, Cursor, Cline, Copilot… hepsi aynı localhost:20128/v1 adresine bakar.

Kısaca: free ve ucuz modellerle işi yürüt, pahalıya otomatik düş.


Diğer işine yarayacak özellikler

  1. Araçlar için tek endpoint Araç/IDE tarafında localhost:20128/v1 kullanırsın. Her şey aynı base URL'e konuşur.

  2. Sağlayıcılar arasında otomatik geçiş İlk sağlayıcı kota/rate limit yüzünden zorlanırsa OmniRoute milisaniyeler içinde başka sağlayıcıya geçer. OmniRoute

  3. Free tier + kredi kartı yok OmniRoute 90+ free sağlayıcı (ve ayrıca "free forever" seçenekleri) ve geniş bir aylık free havuz vaadediyor. OmniRoute

  4. Token sıkıştırma Tool çıktısını / bağlamı sıkıştırıp modele daha az token ile gönderir — aynı işi daha ucuza yaptırır. OmniRoute

  5. Dayanıklılık katmanları Circuit breaker / cooldown / lockout hataları izole eder. Bir key veya model düşse bile sistem tamamen durmaz. OmniRoute

  6. Yerleşik MCP sunucusu OmniRoute kendisini MCP server olarak sunar; ajan tooling "gateway'i çağırır". OmniRoute

  7. A2A protokolü JSON-RPC üzerinden ajanlar arası etkileşimleri destekler. OmniRoute


Kurulum: 60 saniye (lokal-first)

1) Kur

npm i -g omniroute

2) Başlat

omniroute

3) Dashboard'u aç

Şuraya git: http://localhost:20128/dashboard OmniRoute

4) Hızlı test

curl http://localhost:20128/v1/models

IDE'yi OmniRoute'a bağla

Araç/IDE tarafında şu ayarları kullan:

  • Base URL: http://localhost:20128/v1
  • API key: OmniRoute dashboard'tan aldığın key OmniRoute

Bu ayardan sonra araçlar hangi free/ucuz/pahalı modelden yanıt geldiğini umursamaz.


Claude Code / MCP: tek komut

Claude Code ile MCP kullanıyorsan OmniRoute'u şu komutla ekleyebilirsin:

claude mcp add omniroute --type http --url http://localhost:20128/api/mcp/stream

Routing modu seç (free / ucuz / hızlı)

OmniRoute auto alias'ı ve /coding, /fast, /cheap gibi routing modlarını duyuruyor. Öncelik neyse ona göre seç:

  • auto: en uygun sağlayıcıyı seçer
  • /cheap: önce free/ucuz modeli tercih eder
  • /fast: hızı optimize eder
  • /coding: kodlama iş yüklerine odaklanır

Mantık aynı: tek endpoint, OmniRoute free ↔ ucuz ↔ pahalı arasında karar verir. OmniRoute


1 dakikada doğrula (copy-paste)

Favori agent/araçta tek bir mini kod işi çalıştır ve "takılı kalıyor mu" diye kontrol et:

Türkçe açıklamalarla bir TypeScript fonksiyonu yaz: kayıtları bir anahtara göre gruplasın.
Tipler, edge case'ler ve küçük bir kullanım örneği ekle.

Arkada free modelden ucuza veya pahalıya geçse bile tam cevap alman gerekir.


Neden önemli?

  • Free kotanı boşa yakmazsın — önce onu kullanır.
  • Pahalı modele her istekte düşmezsin.
  • Kota bitince promptu baştan yazmazsın; otomatik geçer.
  • Birden fazla araca tek config ile bağlanırsın.

Sonuç

Coding AI ile her gün çalışıyorsan OmniRoute "devam ettiren + maliyeti yöneten" katmandır: tek endpoint, free/ucuz/pahalı model geçişi, auto-fallback ve MCP entegrasyonu. OmniRoute

İlgili yazılar