Zum Inhalt

Verfügbare Modelle

Modelle wechseln schnell

Unser Modellangebot ändert sich alle paar Monate: Ein Modell bleibt meist 3–4 Monate, höchstens etwa 6 Monate verfügbar. Neue Modelle und Außerbetriebnahmen kündigen wir in den Release Notes und im Matrix-Raum an. Wenn deine Arbeit von einem bestimmten Modell abhängt, zum Beispiel deine Abschlussarbeit, lies zuerst Wie lange bleibt ein Modell verfügbar?.

Alle Modelle sind über die OpenAI-kompatible API unter https://aqueduct.ai.datalab.tuwien.ac.at/v1 und in Open WebUI verfügbar.

Geplante Außerbetriebnahmen — 24. November 2026

kokoro, piper-thorsten und z-image-turbo sollen am 24. November 2026 außer Betrieb genommen werden.

Sprachmodelle

Modell-ID Kontext Bild-Input Reasoning Efforts Limits Status
deepseek-v4-vision-exp-284b 393.216 low · high · max 1× Stabil
glm-5.3-744b-experimental 262.144 low · high · max 1× Experimentell
qwen-3.8-27b 262.144 low · medium · xhigh 2× Stabil

Kontext ist das maximal nutzbare Kontextfenster in Tokens, inklusive Output. Limits ist der Multiplikator auf deine persönlichen Rate Limits.

Modell-Details

deepseek-v4-vision-exp-284b
DeepSeek-V4-Flash-Vision-Exp auf Hugging Face. Unser Hauptmodell. 2 Instanzen, jeweils auf 4x NVIDIA RTX PRO 6000 Blackwell.
glm-5.3-744b-experimental
GLM-5.3 auf Hugging Face. Experimentelles Deployment: bitte nur für Coding oder alltägliche Aufgaben verwenden. Kann kurzfristig entfernt werden. 1 Instanz auf 8x AMD Instinct MI300X.
qwen-3.8-27b
Qwen3.8-27B-FP8 auf Hugging Face. Schnelles, kleineres Modell, auch unter den Aliasen vision und ocr verfügbar. 4 Instanzen, jeweils auf 1x NVIDIA H200.

Kontext und Output-Tokens

Die Kontextlängen in der Tabelle sind die maximal nutzbaren Werte: Längere Eingaben werden auf diese Größe gekürzt, und Output-Tokens zählen zum Kontextfenster. Antworten können standardmäßig bis zu 65536 Tokens lang sein; mit max_tokens änderst du das pro Request.

Manche Clients (z. B. Pi, Continue) haben eine eigene maxTokens-Einstellung, die Antworten abschneidet. Setz sie auf 65536, um das volle Output-Budget zu nutzen.

Reasoning

Die Sprachmodelle können vor der Antwort nachdenken (Reasoning). Das steuerst du pro Request:

  • reasoning_effort: wie viel das Modell nachdenkt, mit den Werten aus der Spalte Reasoning Efforts
  • enable_thinking: false schaltet das Nachdenken aus, true ein und überschreibt damit den Server-Standard

Mit der OpenAI-kompatiblen API kommen beide Einstellungen in chat_template_kwargs:

# client = OpenAI(...)
response = client.chat.completions.create(
    model=model,
    messages=messages,
    extra_body={
        "chat_template_kwargs": {
            "enable_thinking": True,    # überschreibt den Server-Standard
            "reasoning_effort": "medium",
        },
    },
)

Manche Clients (z. B. ältere Versionen mancher Coding-Tools) geben reasoning_effort nicht weiter. Aqueduct gibt dann aqueduct.UnsupportedParamsError zurück: Aktualisiere in dem Fall den Client oder nutze einen Modell-Alias ohne Reasoning. Alle Optionen pro Request findest du unter Reasoning Outputs in der vLLM-Dokumentation.

Text-to-Speech (TTS)

Zur Nutzung siehe den Speech-Guide in der öffentlichen Aqueduct-Dokumentation.

Modell-ID Sprache Stimmen Beispiel
voxtral-4b-tts 9 Sprachen 20 voreingestellte Stimmen —

voxtral-4b-tts unterstützt Englisch, Französisch, Spanisch, Portugiesisch, Italienisch, Niederländisch, Deutsch, Arabisch und Hindi.

Englische und deutsche Stimmen:

Sprache Stimmen
Englisch neutral_male, neutral_female, casual_male, casual_female, cheerful_female
Deutsch de_male, de_female

Speech-to-Text (STT)

Zur Nutzung siehe den Speech-Guide in der öffentlichen Aqueduct-Dokumentation.

Modell-ID Sprachen
whisper-large 99 Sprachen, darunter Englisch und Deutsch

Bildgenerierung

Zur Nutzung siehe den Guide zur Bildgenerierung in der öffentlichen Aqueduct-Dokumentation.

Modell-ID
qwen-image-2-1-turbo
z-image-turbo

qwen-image-2-1-turbo ist der 8-Schritte-Turbo-Checkpoint für Text-zu-Bild-Generierung. Aqueduct unterstützt derzeit keine Endpoints zur Bildbearbeitung.

Modelle per API auflisten

Die API liefert immer das aktuelle Angebot:

curl https://aqueduct.ai.datalab.tuwien.ac.at/v1/models \
  -H "Authorization: Bearer $AQUEDUCT_API_KEY" | jq

Wie gut jedes Modell bestimmte API-Features unterstützt (Streaming, Tool Calling, Structured Output, …), wird jede Nacht getestet, siehe den Bericht zur Modell-Kompatibilität.