# Verfügbare Modelle

!!! warning "Modelle wechseln schnell"

    Unser Modellangebot ändert sich alle paar Monate: Ein Modell bleibt meist **3–4 Monate, höchstens etwa 6 Monate**
    verfügbar. Neue Modelle und Außerbetriebnahmen kündigen wir in den [Release Notes](https://datalab.tuwien.ac.at/de/aiml/aqueduct/release-notes/) und im
    [Matrix-Raum](https://matrix.to/#/#llm-service:tuwien.ac.at) an. Wenn deine Arbeit von einem bestimmten Modell
    abhängt, zum Beispiel deine Abschlussarbeit, lies zuerst
    [Wie lange bleibt ein Modell verfügbar?](https://datalab.tuwien.ac.at/de/aiml/faq/#how-long-does-a-model-stay-available).

Alle Modelle sind über die OpenAI-kompatible API unter `https://aqueduct.ai.datalab.tuwien.ac.at/v1` und in
[Open WebUI](https://datalab.tuwien.ac.at/de/aiml/openwebui/) verfügbar.

!!! warning "Geplante Außerbetriebnahmen — 24. November 2026"

    `kokoro`, `piper-thorsten` und `z-image-turbo` sollen am 24. November 2026 außer Betrieb genommen werden.

## Sprachmodelle { #language-models }

| Modell-ID | Kontext | Bild-Input | Reasoning Efforts | Limits | Status |
| --- | --- | :---: | --- | :---: | --- |
| `deepseek-v4-vision-exp-284b` | 393.216 | :material-check: | low · high · max | 1× | <span class="badge badge--stable">Stabil</span> |
| `glm-5.3-744b-experimental` | 262.144 | | low · high · max | 1× | <span class="badge badge--experimental">Experimentell</span> |
| `qwen-3.8-27b` | 262.144 | :material-check: | low · medium · xhigh | 2× | <span class="badge badge--stable">Stabil</span> |

**Kontext** ist das maximal nutzbare Kontextfenster in Tokens, inklusive Output. **Limits** ist der Multiplikator auf
deine persönlichen [Rate Limits](https://datalab.tuwien.ac.at/de/aiml/faq/#how-are-rate-limits-calculated-and-when-do-i-get-a-429).

### Modell-Details { #model-details }

`deepseek-v4-vision-exp-284b`
:   [DeepSeek-V4-Flash-Vision-Exp](https://huggingface.co/deepseek-ai/DeepSeek-V4-Flash-Vision-Exp) auf Hugging Face.
    Unser Hauptmodell. 2 Instanzen, jeweils auf 4x NVIDIA RTX PRO 6000 Blackwell.

`glm-5.3-744b-experimental`
:   [GLM-5.3](https://huggingface.co/zai-org/GLM-5.3) auf Hugging Face.
    **Experimentelles Deployment**: bitte nur für Coding oder alltägliche Aufgaben verwenden. Kann kurzfristig entfernt
    werden. 1 Instanz auf 8x AMD Instinct MI300X.

`qwen-3.8-27b`
:   [Qwen3.8-27B-FP8](https://huggingface.co/Qwen/Qwen3.8-27B-FP8) auf Hugging Face.
    Schnelles, kleineres Modell, auch unter den Aliasen `vision` und `ocr` verfügbar.
    4 Instanzen, jeweils auf 1x NVIDIA H200.

### Kontext und Output-Tokens { #context-and-output-tokens }

Die Kontextlängen in der Tabelle sind die **maximal nutzbaren** Werte: Längere Eingaben werden auf diese Größe gekürzt,
und Output-Tokens zählen zum Kontextfenster. Antworten können standardmäßig bis zu **65536 Tokens** lang sein; mit
`max_tokens` änderst du das pro Request.

Manche Clients (z. B. Pi, Continue) haben eine eigene `maxTokens`-Einstellung, die Antworten abschneidet. Setz sie auf
65536, um das volle Output-Budget zu nutzen.

### Reasoning { #reasoning }

Die Sprachmodelle können vor der Antwort nachdenken (Reasoning). Das steuerst du pro Request:

- **`reasoning_effort`**: wie viel das Modell nachdenkt, mit den Werten aus der Spalte **Reasoning Efforts**
- **`enable_thinking`**: `false` schaltet das Nachdenken aus, `true` ein und überschreibt damit den Server-Standard

Mit der OpenAI-kompatiblen API kommen beide Einstellungen in `chat_template_kwargs`:

``` python
# client = OpenAI(...)
response = client.chat.completions.create(
    model=model,
    messages=messages,
    extra_body={
        "chat_template_kwargs": {
            "enable_thinking": True,    # überschreibt den Server-Standard
            "reasoning_effort": "medium",
        },
    },
)
```

Manche Clients (z. B. ältere Versionen mancher Coding-Tools) geben `reasoning_effort` nicht weiter. Aqueduct gibt dann
`aqueduct.UnsupportedParamsError` zurück: Aktualisiere in dem Fall den Client oder nutze einen Modell-Alias ohne
Reasoning. Alle Optionen pro Request findest du unter
[Reasoning Outputs](https://docs.vllm.ai/en/stable/features/reasoning_outputs/#request-level-override) in der
vLLM-Dokumentation.

## Text-to-Speech (TTS) { #text-to-speech-tts }

Zur Nutzung siehe den [Speech-Guide](https://tu-wien-datalab.github.io/aqueduct/api/speech/) in der öffentlichen
Aqueduct-Dokumentation.

| Modell-ID | Sprache | Stimmen | Beispiel |
| --- | --- | --- | --- |
| [`voxtral-4b-tts`](https://huggingface.co/mistralai/Voxtral-4B-TTS-2603) | 9 Sprachen | 20 voreingestellte Stimmen | — |

`voxtral-4b-tts` unterstützt Englisch, Französisch, Spanisch, Portugiesisch, Italienisch, Niederländisch, Deutsch, Arabisch
und Hindi.

**Englische und deutsche Stimmen:**

| Sprache | Stimmen |
| --- | --- |
| Englisch | `neutral_male`, `neutral_female`, `casual_male`, `casual_female`, `cheerful_female` |
| Deutsch | `de_male`, `de_female` |


## Speech-to-Text (STT) { #speech-to-text-stt }

Zur Nutzung siehe den [Speech-Guide](https://tu-wien-datalab.github.io/aqueduct/api/speech/) in der öffentlichen
Aqueduct-Dokumentation.

| Modell-ID | Sprachen |
| --- | --- |
| [`whisper-large`](https://huggingface.co/Systran/faster-whisper-large-v3) | 99 Sprachen, darunter Englisch und Deutsch |

## Bildgenerierung { #image-generation }

Zur Nutzung siehe den [Guide zur Bildgenerierung](https://tu-wien-datalab.github.io/aqueduct/api/image_generation/) in
der öffentlichen Aqueduct-Dokumentation.

| Modell-ID |
| --- |
| [`qwen-image-2-1-turbo`](https://huggingface.co/Qwen/Qwen-Image-2.1-Turbo) |
| [`z-image-turbo`](https://huggingface.co/Tongyi-MAI/Z-Image-Turbo) |

`qwen-image-2-1-turbo` ist der 8-Schritte-Turbo-Checkpoint für Text-zu-Bild-Generierung. Aqueduct unterstützt derzeit keine
Endpoints zur Bildbearbeitung.

## Modelle per API auflisten { #listing-models-via-the-api }

Die API liefert immer das aktuelle Angebot:

``` bash
curl https://aqueduct.ai.datalab.tuwien.ac.at/v1/models \
  -H "Authorization: Bearer $AQUEDUCT_API_KEY" | jq
```

Wie gut jedes Modell bestimmte API-Features unterstützt (Streaming, Tool Calling, Structured Output, …), wird jede Nacht
getestet, siehe den Bericht zur [Modell-Kompatibilität](https://datalab.tuwien.ac.at/de/aiml/aqueduct/model-compatibility/).