01 Was passiert ist
Am 5. November 2026 kündigte Microsoft Foundry Local an, eine Plattform für lokales agentisches Codieren mit dem Qwen3.8-27B-Modell. Code und Kontext verbleiben auf dem Gerät, senken Cloud-Kosten, verbessern die Privatsphäre und ermöglichen Offline-Arbeit, wobei für komplexe Denkaufgaben Cloud-Modelle empfohlen werden. Erforderlich ist eine NVIDIA GPU mit mindestens 24 GB VRAM.
02 Die wichtigsten Details
- Foundry Local führt Qwen3.8-27B lokal auf NVIDIA GPUs mit ab 24 GB VRAM aus; 24 GB unterstützen bis zu 64K Token Kontext, 32+ GB erreichen das Maximum von 262K Token.
- Code und Kontext verlassen nie das Gerät; Offline-Arbeit ist möglich. Anbindung an GitHub Copilot via Bring Your Own Key (BYOK).
- Im Microsoft-Vergleich mit llama.cpp auf einer RTX 5090 (32 GB) und einem DGX Spark erzielte Foundry Local bei jeder Prompts-Länge höhere Generierungsgeschwindigkeit, besonders ab 131K Token.
- Erforderlich: Foundry Local CLI 0.13.0+; CUDA und cuDNN müssen separat installiert werden, da Foundry Local diese Abhängigkeiten nicht herunterlädt. Unterstützung für Macs und AMD-GPUs ist geplant.
03 Warum das wichtig ist
Entwickler können agentisches KI-Coding lokal nutzen, Cloud-Kosten vermeiden, sensible Daten lokal halten und offline arbeiten – bei gegenüber Cloud-Modellen eingeschränkter Logik.
04 Für wen es relevant ist
Softwareentwickler.
Originalquelle