Mit der Veröffentlichung von Laguna XS 2.1 und Laguna S 2.1 erweitert Poolside sein Angebot an offenen KI-Modellen, die sich besonders für den lokalen Betrieb eignen. Beide Modelle setzen auf eine Mixture-of-Experts-Architektur (MoE) und sind auf Coding-Aufgaben spezialisiert – mit nativem Reasoning und Tool-Calling-Support.
Was ist Laguna?
Laguna ist eine Familie von offenen KI-Modellen von Poolside, die auf Softwareentwicklung und agentic Workflows ausgelegt sind. Das Besondere: Alle Modelle sind vollständig offen gewichtet (Open Weight) und nutzen die OpenMDW-1.1-Lizenz, die sowohl kommerzielle als auch nicht-kommerzielle Nutzung erlaubt.
Aktuell umfasst die Laguna-Familie drei Modelle:
| Modell | Gesamtparameter | Aktive Parameter | Context Window |
|---|---|---|---|
| Laguna XS 2.1 | 33B | 3B | 256K |
| Laguna S 2.1 | 118B | 8B | 1M |
| Laguna M.1 | 225B | 23B | – |
Für den lokalen Einsatz auf typischen Entwicklermaschinen sind Laguna XS 2.1 und Laguna S 2.1 besonders interessant – das M.1-Modell ist mit 225 Milliarden Parametern in dieser Kategorie zu groß.
Technische Highlights im Detail
Mixture-of-Experts: Effizienz durch Spezialisierung
Die Mixture-of-Experts-Architektur (MoE) ist das Herzstück beider Laguna-Modelle. Im Gegensatz zu Dense-Modellen, bei denen jeder Parameter bei jeder Inference berechnet wird, aktiviert MoE nur einen Teil der Netzwerk-Schichten für jede Eingabe.
Bei Laguna XS 2.1 etwa bedeutet das:
- 256 spezialisierte Experten – jeder Experte ist eine spezialisierte neuronale Teilnetzwerk
- 1 geteilter Expert – wird immer aktiviert, als Basis-Expert
- 10 globale Attention-Layer – für komplexe Reasoning-Aufgaben
- 30 Sliding-Window-Attention-Layer – effiziente Verarbeitung langer Kontexte mit 512-Token-Fenster
- Nur 3B aktive Parameter bei 33B Gesamtparametern
Das Gating-Mechanismus entscheidet dynamisch, welcher Experte für welche Eingabe aktiviert wird. Ein Coding-Prompt aktiviert andere Experten als eine mathematische Frage. Diese Spezialisierung ermöglicht es, mehr Wissen zu speichern, ohne die Rechenkosten proportional zu erhöhen.
Die Sliding Window Attention (SWA) mit 512 Tokens Fenstergröße reduziert den Speicherbedarf zusätzlich. Jeder Layer muss nur die letzten 512 Tokens im KV-Cache halten – außer bei den 10 globalen Attention-Layern, die den vollen Kontext sehen.
Das Ergebnis: KV-Cache in FP8 – der Key-Value-Cache wird in Float8 quantisiert gespeichert, was den Speicherbedarf pro Token weiter reduziert. Für lange Coding-Sessions mit vielen Kontext-Fenstern ein entscheidender Vorteil.
Interleaved Thinking: Das Modell denkt mit
Laguna-Modelle unterstützen preserved thinking – das Modell generiert während der Arbeit ein internes Monolog, das in nachfolgenden Schritten erhalten bleibt. Das unterscheidet sich von einfachen Chain-of-Thought-Ansätzen:
2
3
4
5
inputs = tokenizer.apply_chat_template(messages, enable_thinking=True)
# Thinking deaktiviert
inputs = tokenizer.apply_chat_template(messages, enable_thinking=False)
Mit Thinking aktiviert generiert das Modell Blöcke wie diesen:
2
3
4
5
6
Ich sollte zuerst die Abhängigkeiten prüfen, dann...
Der Fehler tritt auf, weil das Modul nicht importiert wurde...
Ich schreibe ein Python-Skript, das...
Dieses Thinking wird nicht als finale Antwort ausgegeben, sondern bleibt im Kontext für den nächsten Inference-Schritt erhalten. Bei agentic Coding-Aufgaben mit Tool-Calling ist das entscheidend: Das Modell kann Tool-Ergebnisse in sein Reasoning einbeziehen und seine Strategie anpassen.
Tool Calling: Die XML-Syntax im Detail
Die Modelle sind für den Einsatz als Coding-Agenten optimiert und unterstützen nativ Tool Calls. Die Syntax nutzt XML-ähnliche Tags:
Der Vorteil dieser Syntax gegenüber JSON: Sie ist für Sprachmodelle natürlicher zu generieren und zu parsen. Die Tool-Calls werden im vLLM mit dem
1 | poolside_v1 |
Parser korrekt extrahiert und als strukturierte API-Responses zurückgegeben.
Use Cases: Was kann man mit Laguna machen?
Laguna-Modelle sind keine Allzweck-Chatbots. Ihr Fokus liegt auf Szenarien, in denen ein KI-Modell über länger Zeit selbstständig arbeiten muss. Typische Einsatzgebiete:
Coding-Assistenten und Code-Reviews
Ein lokaler Coding-Assistent, der direkt im Terminal läuft – ohne Cloud-API, ohne Datenschutzbedenken. Entwickler können Code schreiben lassen, PRs erstellen, Tests durchführen:
Automatische Code-Migration
Große Refactoring-Projekte, bei denen ein Modell über Hunderte von Dateien iterieren muss, sind ein idealer Use Case. Die Modelle können:
- Ähnliche Codemuster in verschiedenen Dateien erkennen
- API-Updates konsistent durchführen
- Migration von Legacy-Code auf moderne Patterns
- Testabdeckung automatisch analysieren und verbessern
Terminal-basierte Workflow-Automatisierung
Mit dem offenen pool-Tool von Poolside wird Laguna zum echten Coding-Agenten: Das Modell bekommt Zugriff auf Shell-Tools, Dateisystem und Prozesse und kann mehrstufige Aufgaben selbstständig ausführen.
Ein Anwendungsbeispiel aus der Praxis: Ein Entwickler задаet dem Modell, ein neues GitHub-Issue zu analysieren, den relevanten Code zu finden, einen Fix zu implementieren und einen PR zu erstellen – alles in einem Durchgang.
Lokale Dokumentationsanalyse
Mit dem 256K- bzw. 1M-Token-Kontext können ganze Codebasen analysiert werden, ohne dass das Modell zwischen Kontext-Fenstern „vergisst“, was es bereits gesehen hat. Ideal für:
- Architektur-Dokumentation für große Projekte
- Codebase-spezifische Q&A-Systeme
- Automatische API-Dokumentation
Benchmark-Details: Was bedeuten die Zahlen?
Die gezeigten Benchmark-Ergebnisse sind nicht nur Marketing-Zahlen. Sie reflektieren reale Fähigkeiten in der Softwareentwicklung. Werfen wir einen genaueren Blick auf die verwendeten Benchmarks:
SWE-bench (Software Engineering Benchmarks)
SWE-bench ist der Standard-Benchmark für Coding-Fähigkeiten von KI-Modellen. Er basiert auf echten GitHub-Issues mit dazugehörigen Pull Requests:
- Verified – manuell verifizierte Issues, höhere Qualität
- Multilingual – Issues aus Repositories in verschiedenen Programmiersprachen (Python, JavaScript, Java, Go, etc.)
- Pro – schwierigere Issues mit komplexeren Änderungen
Ein Score von 70,9% bei SWE-bench Verified bedeutet: Das Modell löst etwa 7 von 10 realen Software-Bugs selbstständig.
Terminal-Bench
Terminal-Bench simuliert einen anderen Use Case: Ein Coding-Agent, der über die Shell mit einem System interagiert. Die Aufgaben umfassen:
- Software installieren und konfigurieren
- Dateien durchsuchen und bearbeiten
- Build-Prozesse starten und debuggen
- Systemkonfiguration ändern
Laguna S 2.1 erreicht hier 70,2% – das ist Rang 11 im offiziellen Leaderboard, noch vor deutlich größeren Modellen wie DeepSeek-V4-Pro-Max (64,0% bei 1,6B Parametern).
DeepSWE
DeepSWE ist der aktuell schwierigste Coding-Benchmark. Seine Aufgaben erfordern:
- Sehr lange Kontexte (die gesamte Codebasis)
- Multi-Step Reasoning über viele Dateien hinweg
- Lösungen, die an mehreren Stellen gleichzeitig ändern
Die niedrigen Scores vieler Modelle auf DeepSWE (selbst große Closed-Source-Modelle scheitern) zeigen: Agentic Coding auf Codebase-Ebene ist immer noch extrem schwierig. Laguna S 2.1 mit 40,4% ist hier beachtlich – zum Vergleich: DeepSeek-V4-Pro-Max (1,6T Parameter!) erreicht nur 9,0%.
Alle Benchmark-Ergebnisse im Überblick
Die folgenden Benchmark-Ergebnisse stammen aus dem offiziellen Release-Blogpost von Poolside und dem Technical Report:
Laguna XS 2.1
| Benchmark | Ergebnis |
|---|---|
| SWE-bench Verified | 70,9% |
| SWE-bench Multilingual | 63,1% |
| SWE-Bench Pro | 47,6% |
| Terminal-Bench 2.0 | 37,5% |
Laguna S 2.1
| Benchmark | Ergebnis |
|---|---|
| Terminal-Bench 2.1 | 70,2% |
| SWE-Bench Multilingual | 78,5% |
| SWE-Bench Pro | 59,4% |
| DeepSWE | 40,4% |
Hinweis: Die Benchmarks wurden mit dem Harbor Framework und Poolsides agent harness durchgeführt. Laguna S 2.1 erreicht 40,4% auf DeepSWE – beachtlich, da dieses Benchmark selbst von 1T+ Modellen teils unter 10% schaffen.
Vergleich mit anderen offenen Modellen
Wie schlägt sich Laguna im Vergleich zu anderen offenen Coding-Modellen ähnlicher Größe?
| Modell | Größe | SWE-bench Verified | SWE-bench Multilingual | Terminal-Bench |
|---|---|---|---|---|
| Laguna XS 2.1 | 33B-A3B | 70,9% | 63,1% | 37,5% |
| Qwen3.6-35B-A3B | 35B-A3B | 73,4% | 67,2% | 51,5% |
| North Mini Code | 30B | 67,6% | – | 36,0% |
| MAI-Code-1-Flash | 137B | 71,6% | 65,5% | 54,8% |
Laguna XS 2.1 liegt auf SWE-bench Verified knapp hinter Qwen3.6-35B (73,4%), performt aber stark beim multilingualen Coding. Laguna S 2.1 mit 118 Milliarden Parametern erreicht beeindruckende 70,2% auf Terminal-Bench 2.1 – das ist Rang 11 im offiziellen Leaderboard, noch vor DeepSeek-V4-Pro-Max (64,0%) und Nemotron 3 Ultra (56,4%).
Andere Modelle wie Gemma 3 27B sind ein anderes Kaliber: Es ist ein multimodales Modell (Text + Bilder) mit primärem Fokus auf Allgemeinwissen und Reasoning, nicht auf Coding-Agents. Die SWE-bench-Pro-Rate von 11,38% zeigt, dass es für agentic Coding weniger spezialisiert ist.
DFlash Speculative Decoding
Einer der spannendsten technischen Features ist der DFlash Speculator. Dabei handelt es sich um ein separates, kleines Draft-Modell (nur 5 Layer), das während der Inference vorschlägt, welche Tokens als nächstes kommen sollten.
Wie funktioniert Speculative Decoding?
Normale Inference generiert Tokens sequentiell – jedes Token hängt vom vorherigen ab. Das ist inhärent langsam, weil die GPU auf jeden Schritt warten muss.
Speculative Decoding nutzt einen schnellen Draft-Decoder, der mehrere Tokens gleichzeitig vorschlägt. Das große Modell validiert diese Vorschläge parallel und akzeptiert nur korrekte Tokens. Bei einer Akzeptanzrate von ~70% bedeutet das:
- Bis zu 7 Tokens pro Spekulationsrunde
- Im Durchschnitt verdoppelt sich die tok/s-Rate
- Kein Qualitätsverlust – das Hauptmodell validiert alles
Verwendung mit vLLM
2
}'
Der DFlash Speculator ist open-weight verfügbar und wurde von Poolside speziell für Coding-Aufgaben trainiert. Die Akzeptanzrate von ~70% ist für diese Domäne optimiert – allgemeine Draft-Modelle erreichen oft nur 50-60%.
Lokaler Betrieb mit vLLM
Der Fokus bei der Entwicklung lag auf lokalem Betrieb. Besonders interessant ist der Einsatz mit vLLM, dem performanten Inference-Server von UC Berkeley:
Installation
Server starten
Wichtig: Nutze vLLM-Version 0.21.0 oder höher. Bei älteren Builds kann der
Tool Parser Tool Calls mit leerem Zeilenumbruch nach dem Funktionsnamen verlieren. Alternativ
verwenden.
Mit dem Server kommunizieren
2
3
4
5
6
"model": "laguna",
"messages": [
{"role": "user", "content": "Erkläre mir kurz, wie ein Mixture-of-Experts-Modell funktioniert."}
]
}'
Hardware-Anforderungen
Laguna XS 2.1
| Quantisierung | VRAM / RAM |
|---|---|
| BF16 (Full) | ~36 GB |
| FP8 | ~20 GB |
| INT4 / Q4_K_M | ~18 GB |
| Ollama (Q4_K_M) | ~18 GB |
Damit ist Laguna XS 2.1 auf einem Mac mit 36 GB RAM lauffähig – oder auf einer NVIDIA-GPU mit 20-24 GB VRAM mit FP8-Quantisierung.
Laguna S 2.1
| Quantisierung | VRAM |
|---|---|
| BF16 (Full) | ~240 GB |
| FP8 | ~130 GB |
| INT4 | ~65 GB |
Laguna S 2.1 in voller Präzision benötigt einen Multi-GPU-Stack. Mit INT4-Quantisierung läuft es auf NVIDIA-Hardware mit 65+ GB VRAM – oder auf einem einzelnen NVIDIA DGX Spark.
Alternative: Ollama
Wer vLLM nicht selbst betreiben möchte, kann Ollama nutzen – den einfachsten Weg, LLMs lokal zu betreiben:
2
3
4
5
ollama pull laguna-xs-2.1
# Modell starten
ollama run laguna-xs-2.1
Verfügbar sind verschiedene Quantisierungen:
-
1laguna-xs-2.1
– Standard (Q4_K_M)
-
1laguna-xs-2.1:q8_0
– Höhere Präzision
-
1laguna-xs-2.1:bf16
– Volle Präzision
macOS-Hinweis: Ollama kann auf Apple Silicon aktuell leere Outputs liefern (Metal f16 Overflow im MoE Down-Projection). Bis ein Fix verfügbar ist, empfiehlt Poolside einen Linux/CUDA-Host oder den
-Endpoint mit
.
DFlash Speculative Decoding
Das ist das Grundprinzip hinter dem DFlash Speculator – einem separaten Draft-Modell, das die Inference-Geschwindigkeit lokal verdoppeln kann. Das Modell ist open-weight verfügbar und wurde speziell für Coding-Aufgaben trainiert.
So verwendest du DFlash mit vLLM
2
}'
Bei einer Akzeptanzrate von ~70% auf Coding-Tasks bedeutet das eine Verdopplung der Token pro Sekunde – ohne jeglichen Qualitätsverlust, da das Hauptmodell jeden Vorschlag validiert.
OpenMDW-1.1: Die Lizenz im Detail
Alle Laguna-Modelle sind unter der OpenMDW-1.1-Lizenz (Open Model Documentation Workshop) veröffentlicht. Diese Lizenz, die auch von NVIDIA für Cosmos, Isaac, Gr00t und Nemotron verwendet wird, bietet entscheidende Vorteile:
Was erlaubt OpenMDW-1.1?
- Kommerzielle Nutzung – unbegrenzt, ohne Lizenzgebühren
- Modification – Modelle dürfen angepasst und weiterentwickelt werden
- Distribution – modifizierte Versionen dürfen weitergegeben werden
- Patentlizenz – implizite Lizenz für relevante Patente
- Keine Attribution erforderlich (nur empfohlen)
Was ist nicht erlaubt?
- Nutzung, die gegen geltendes Recht verstößt
- Verwendung für bestimmte eingeschränkte Zwecke (ähnlich wie bei Apache 2.0)
Im Vergleich zu anderen Open-Source-Lizenzen:
| Aspekt | OpenMDW-1.1 | Apache 2.0 | Gemma Lizenz |
|---|---|---|---|
| Kommerzielle Nutzung | Ja | Ja | Ja (mit Einschränkungen) |
| Modifikation | Ja | Ja | Ja |
| Weitergabe | Ja | Ja | Ja (mit Einschränkungen) |
| Patentlizenz | Ja | Ja | Unklar |
| Keine Attribution nötig | Ja | Nein | Ja |
| Verwendungsbeschränkungen | Leicht | Keine | Umfangreich |
Die OpenMDW-Lizenz ist damit eine der permissivsten Open-Source-KI-Lizenzen überhaupt und eignet sich besonders für Unternehmen, die KI-Modelle in proprietäre Produkte integrieren möchten.
Fazit
Laguna XS 2.1 und Laguna S 2.1 sind ernstzunehmende Optionen für Entwickler, die Coding-Agenten lokal und ohne Cloud-Abhängigkeit betreiben möchten. Die MoE-Architektur macht sie effizient, das native Reasoning und Tool-Calling machen sie zu echten Agenten-Modellen.
Besonders spannend:
- Laguna XS 2.1 ist das einzige 33B-Modell, das auf einem Mac mit 36 GB RAM läuft und dabei 70%+ auf SWE-bench erreicht
- Laguna S 2.1 erreicht auf Terminal-Bench 2.1 beeindruckende 70,2% – das ist Frontier-Niveau in einem 118B-Modell
- DFlash Speculator verdoppelt die Inference-Geschwindigkeit lokal
- OpenMDW-1.1 erlaubt kommerzielle Nutzung ohne Einschränkungen
Wer also einen local-first Coding-Assistenten aufbauen möchte, sollte Laguna auf dem Radar haben. Die Modelle sind ab sofort auf Hugging Face verfügbar.
Ressourcen
- Poolside Modelle
- Hugging Face: Laguna XS 2.1
- Hugging Face: Laguna S 2.1
- Technical Report (PDF)
- vLLM Dokumentation
- Ollama Library
- pool – Der Coding Agent von Poolside
Dieser Beitrag wurde mit Stand Juli 2026 verfasst. Benchmark-Ergebnisse und Modellspezifikationen können sich ändern. Alle Angaben ohne Gewähr.
