# Aqueduct Release Notes

<!-- Jeden Eintrag hier auf Deutsch und in release-notes.md auf Englisch ergänzen. -->

## 2026-11-10

**Neue Modelle für Bild- und Sprachgenerierung**

Zwei neue Modelle sind jetzt über die OpenAI-kompatible Aqueduct-API verfügbar:

* [Qwen Image 2.1 Turbo](https://huggingface.co/Qwen/Qwen-Image-2.1-Turbo) (`qwen-image-2-1-turbo`) generiert Bilder aus Textprompts.
* [Voxtral 4B TTS](https://huggingface.co/mistralai/Voxtral-4B-TTS-2603) (`voxtral-4b-tts`) ermöglicht ausdrucksstarke Sprachsynthese in neun Sprachen.

Aqueduct unterstützt derzeit nur die Text-zu-Bild-Generierung; Endpoints zur Bildbearbeitung werden nicht unterstützt.

`kokoro`, `piper-thorsten` und `z-image-turbo` sind für den **24. November 2026** zur Außerbetriebnahme vorgesehen. Die [Modellübersicht](https://datalab.tuwien.ac.at/de/aiml/aqueduct/models/) zeigt das aktuelle Angebot.

## 2026-10-14

**Qwen 3.8 27B jetzt verfügbar**

**Qwen 3.8 27B** ist ab sofort in Aqueduct als `qwen-3.8-27b` verfügbar. Es ist auf unserem H200-Knoten mit vier Instanzen bereitgestellt und baut damit unser Angebot an kleineren Modellen mit mehr Kapazität weiter aus.

**Modell-Details:**

* [Qwen/Qwen3.8-27B-FP8](https://huggingface.co/Qwen/Qwen3.8-27B-FP8) (FP8)
* 262.144 Tokens Context Length
* unterstützt `low`, `medium` und `xhigh` Reasoning Efforts
* unterstützt Bild-Inputs

**Aliase**

Das Modell ist auch unter den Aliasen `vision` und `ocr` verfügbar und hat 2x die Rate Limits unserer anderen Modelle.

**Außerbetriebnahme von Qwen 3.6 35B**

Unser bisheriges kleines Modell `qwen-3.6-35b` wird nach dem 27. Oktober außer Betrieb genommen. Je nach Nachfrage können wir es bereits früher auf weniger Instanzen herunterskalieren.

## 2026-09-30

**Qwen 3.5 außer Betrieb**

Wie angekündigt wurde Qwen 3.5 heute außer Betrieb genommen und ist in Aqueduct nicht mehr verfügbar.

**DeepSeek V4 Flash mit Bildunterstützung**

Eine aktualisierte Version von DeepSeek V4 Flash mit Bildunterstützung ist ab heute als `deepseek-v4-vision-exp-284b` verfügbar. Damit unterstützt unsere Main-Model-Tier wieder Bild-Inputs.

**Modell-Details:**

* [deepseek-ai/DeepSeek-V4-Flash-Vision-Exp](https://huggingface.co/deepseek-ai/DeepSeek-V4-Flash-Vision-Exp)
* unterstützt Bild-Inputs
* 393,216 Tokens Context Length
* unterstützt low`, `high` und `max` Reasoning Efforts

Unsere Aliase `main` und `coding` zeigen ab sofort auf dieses neue Modell.

Wenn ihr diese Aliase verwendet, müsst ihr nichts ändern. Falls ihr `deepseek-v4-flash-284b` direkt verwendet, stellt bitte auf `deepseek-v4-vision-exp-284b` um.

**Übergangszeitraum:**

* Das neue Modell ist technisch nicht exakt dasselbe wie unser bisheriges `deepseek-v4-flash-284b`. Deshalb betreiben wir beide Modelle eine Woche lang, **bis 7. Oktober**, parallel.
* Nutzt diese Zeit bitte, um eure Use Cases mit dem neuen Modell zu testen. Falls euch Unterschiede im Verhalten auffallen oder ihr auf Probleme stoßt, gebt uns Bescheid.
* Nach dieser Woche wird `deepseek-v4-flash-284b` entfernt.

Weitere Informationen zu den nächsten Modell-Releases geben wir bekannt, wenn wir das alte DeepSeek V4 Flash entfernen.

## 2026-09-17

Unser Modell **Qwen 3.5** wird **am 30. September** außer Betrieb genommen.

**Nachfolgemodelle**

DeepSeek-V4-Flash läuft inzwischen auf den RTX-6000-GPUs. Damit können wir den Einsatz auf diesem Knoten ausweiten und das Modell als Ersatz für Qwen 3.5 anbieten.

Durch den Umzug des aktuellen DeepSeek-Modells werden auf dem H200-Knoten Kapazitäten frei. Für diesen Knoten ziehen wir **Qwen3.8-27B** in Betracht. Als unser leistungsstärkster Knoten könnte der H200 vier Instanzen des Modells betreiben und damit die Kapazität unseres Angebots an kleineren Modellen weiter erhöhen.

**Mögliche zukünftige Modelle**

Wir beobachten zwei Kandidaten für ein späteres Upgrade auf dem RTX-6000-Knoten:

- **DeepSeek-V4-Flash-Vision-Exp** benötigt die Fehlerbehebung aus [flashinfer#4802](https://github.com/flashinfer-ai/flashinfer/pull/4802). Diese ist in der heute veröffentlichten Version [flashinfer v0.7.0rc3](https://github.com/flashinfer-ai/flashinfer/releases/tag/v0.7.0rc3) enthalten. Ob das Modell damit auf unserer Hardware läuft, müssen wir noch prüfen.
- **GLM-5.3-Flash** benötigt dieselbe Fehlerbehebung sowie [flashinfer#4947](https://github.com/flashinfer-ai/flashinfer/pull/4947) und entweder [vLLM#55277](https://github.com/vllm-project/vllm/pull/55277) oder [vLLM#53969](https://github.com/vllm-project/vllm/pull/53969).

Beide Modelle kommen als Nachfolger infrage, sofern sie mit unserer Hardware kompatibel sind und die Tests erfolgreich verlaufen. Ein Termin für das Upgrade steht noch nicht fest.

Außerdem arbeiten wir weiterhin mit dem ASC-Team daran, die Probleme mit dem AMD-Knoten zu beheben. Sobald dieser einsatzbereit ist, kommen **DeepSeek-V4.1-Flash** oder **GLM-5.3** für den Einsatz dort infrage, ebenfalls abhängig von Kompatibilität und Testergebnissen.

## 2026-08-07

DeepSeek V4 Flash ist jetzt in Aqueduct als `deepseek-v4-flash-284b` verfügbar.

Es zeigt eine starke [Benchmark-Performance](https://artificialanalysis.ai/?models=minimax-m3%2Cdeepseek-v4-flash%2Cglm-5-2%2Ckimi-k3&intelligence=coding-index#intelligence-tabs), besonders im Verhältnis zu seiner Größe. Diese Kombination macht es aktuell zu einer sehr starken Wahl.

**Ein Hinweis dazu:** DeepSeek unterstützt keine Bild-Inputs. Das bedeutet, dass wir diese Modalität bei unserem großen Modell verlieren. Bild-Input wird weiterhin über unser Qwen 3.6-Modell möglich sein. Gebt uns gerne Feedback, falls dies eure aktuellen Use Cases beeinträchtigt.

**Modell-Details:**

* [deepseek-ai/DeepSeek-V4-Flash-0731](https://huggingface.co/deepseek-ai/DeepSeek-V4-Flash-0731)
* Originalmodell ohne zusätzlich angewandte Quantisierung
* 393.216 Tokens Context Length
* unterstützt `high` und `max` Reasoning Efforts

Rollout-Plan:

* DeepSeek V4 Flash läuft nun parallel auf unseren H200s, während Qwen 3.5 weiterhin auf den RTX 6000 Pros läuft
* Aktuell gibt es Upstream-Probleme in vLLM bezüglich des Deployments von DeepSeek V4 auf RTX Pro 6000 Blackwell.
* Qwen 3.5 wird schließlich vollständig deprecated, sobald DeepSeek auf RTX Pro 6000 Blackwell läuft. DeepSeek übernimmt dann den "main"-Modell-Alias.
* Wir informieren euch mit einem konkreten Zeitplan, sobald wir ein klares Bild haben, jedoch nicht vor dem 21. August.