Was ist Modell-Routing?
Modell-Routing ist die automatische Auswahl des optimalen KI-Modells für jede eingehende Anfrage. Statt alles an dasselbe (teure) Modell zu senden, analysiert ein Router die Anfrage und wählt das günstigste Modell, das die Aufgabe erfüllen kann.
**Kernidee:** 80% der Anfragen können von günstigen Modellen bearbeitet werden. Nur 20% benötigen ein Premium-Modell.
Drei Routing-Ansätze
Ansatz 1: Regelbasiertes Routing (Einstieg)
```javascript
function routeRequest(request) {
const tokenCount = estimateTokens(request.prompt);
const isClassification = request.taskType === "classify";
const hasCode = /function|class|import/.test(request.prompt);
const needsReasoning = request.prompt.includes("analysiere") ||
request.prompt.includes("erkläre warum");
if (isClassification && tokenCount < 500) {
return { model: "gemini-flash", cost: "sehr günstig" };
}
if (hasCode) {
return { model: "claude-sonnet-4-6", cost: "mittel" };
}
if (needsReasoning && tokenCount > 2000) {
return { model: "gpt-5", cost: "premium" };
}
return { model: "gpt-4o-mini", cost: "günstig" };
}
```
Ansatz 2: KI-als-Router (Fortgeschritten)
Verwenden Sie Gemini Flash (€0,10/MTok) als Router:
```
[Router-Prompt]
Klassifiziere diese Anfrage:
EINFACH = Klassifizierung, Extraktion, einfache Q&A
MITTEL = Zusammenfassung, Code-Erklärung, Übersetzung
KOMPLEX = Reasoning, Code-Generierung, Analyse
Anfrage: "{user_prompt}"
Antworte nur mit: EINFACH, MITTEL oder KOMPLEX
```
Ansatz 3: ML-Klassifikator (Produktiv)
Trainieren Sie einen leichten BERT-Klassifikator auf Ihren historischen Anfragen. Inferenz kostet <5ms lokal.
Routing-Matrix für deutsche Unternehmen
| Aufgabentyp | % Traffic | Modell | Preis/MTok |
| :--- | :--- | :--- | :--- |
| Klassifizierung | 25% | Gemini Flash | $0,10 |
| Einfache Q&A | 20% | GPT-4o-mini | $1,10 |
| Zusammenfassung | 20% | Claude Haiku | $1,00 |
| Code & Analyse | 20% | Claude Sonnet | $3,00 |
| Komplexes Reasoning | 15% | GPT-5 / Opus | $5-25 |
Fallback-Strategie bei Routing-Fehlern
```python
async def route_with_fallback(prompt, task_type):
# Versuch 1: Günstiges Modell
result = await call_model("gemini-flash", prompt)
if validate_quality(result):
return result
# Versuch 2: Mittleres Modell
result = await call_model("gpt-4o-mini", prompt)
if validate_quality(result):
return result
# Fallback: Premium-Modell
return await call_model("gpt-4o", prompt)
```
Benchmark: 1 Million Anfragen/Monat
| Strategie | Monatliche Kosten | Einsparung |
| :--- | :--- | :--- |
| Alles auf GPT-5 | €3.750 | — |
| Alles auf GPT-4o | €3.750 | 0% |
| Regelbasiertes Routing | €1.100 | -71% |
| KI-Router + Fallback | €750 | **-80%** |
Häufig gestellte Fragen
**F: Verliert man Qualität durch Modell-Routing?**
Bei korrekter Implementierung nicht. Der Schlüssel ist eine gute Qualitätsvalidierung und ein zuverlässiger Fallback-Mechanismus.
**F: Welches Routing-Tool empfehlen Sie für den Start?**
Beginnen Sie mit regelbasiertem Routing — keine ML-Kenntnisse erforderlich, sofort einsatzbereit und bereits 60-70% Einsparung möglich.