01 Was passiert ist

Am 5. November 2026 kündigte Microsoft Foundry Local an, eine Plattform für lokales agentisches Codieren mit dem Qwen3.8-27B-Modell. Code und Kontext verbleiben auf dem Gerät, senken Cloud-Kosten, verbessern die Privatsphäre und ermöglichen Offline-Arbeit, wobei für komplexe Denkaufgaben Cloud-Modelle empfohlen werden. Erforderlich ist eine NVIDIA GPU mit mindestens 24 GB VRAM.

02 Die wichtigsten Details

  • Foundry Local führt Qwen3.8-27B lokal auf NVIDIA GPUs mit ab 24 GB VRAM aus; 24 GB unterstützen bis zu 64K Token Kontext, 32+ GB erreichen das Maximum von 262K Token.
  • Code und Kontext verlassen nie das Gerät; Offline-Arbeit ist möglich. Anbindung an GitHub Copilot via Bring Your Own Key (BYOK).
  • Im Microsoft-Vergleich mit llama.cpp auf einer RTX 5090 (32 GB) und einem DGX Spark erzielte Foundry Local bei jeder Prompts-Länge höhere Generierungsgeschwindigkeit, besonders ab 131K Token.
  • Erforderlich: Foundry Local CLI 0.13.0+; CUDA und cuDNN müssen separat installiert werden, da Foundry Local diese Abhängigkeiten nicht herunterlädt. Unterstützung für Macs und AMD-GPUs ist geplant.

03 Warum das wichtig ist

Entwickler können agentisches KI-Coding lokal nutzen, Cloud-Kosten vermeiden, sensible Daten lokal halten und offline arbeiten – bei gegenüber Cloud-Modellen eingeschränkter Logik.

04 Für wen es relevant ist

Softwareentwickler.

Originalquelle
Microsoft