FAQ¶
Kurze Antworten auf die häufigsten Fragen zu Aqueduct und Open WebUI. Jede Antwort verlinkt die Seite mit den Details.
-
Wer die Services nutzen kann, Zugang für Studierende, große Jobs
-
Verfügbare Modelle und wie lange sie bleiben
-
Rate Limits, Kontextfenster, Reasoning
-
Hosting, gespeicherte Daten, was du eingeben darfst
-
Langsame oder fehlerhafte Modelle, wo du fragen kannst
Zugang¶
Wer kann die KI-Services nutzen?¶
Alle Forschenden, Lehrenden und Mitarbeitenden der TU Wien. Melde dich mit deinem TU Wien Account an, unter chat.ai.datalab.tuwien.ac.at (Chat) oder aqueduct.ai.datalab.tuwien.ac.at (API-Keys).
Details: Zugang
Ich bin Student:in. Wie bekomme ich Zugang?¶
Beantrage den Zugang für deine Abschlussarbeit oder andere betreute Arbeiten mit dem Antragsformular für Studierende. Lies vorher, wie lange ein Modell verfügbar bleibt, besonders wenn du die Modelle in deiner Abschlussarbeit verwenden willst.
Details: Zugang: Studierende
Ich brauche mehr Kapazität für einen großen Job. Was kann ich tun?¶
Frag im Matrix-Raum nach einem Service-Account. Service-Accounts haben höhere Limits, und wir können große Jobs so einplanen, dass sie anderen Nutzer:innen keine Kapazität wegnehmen.
Details: Zugang: Service-Accounts
Modelle¶
Welche Modelle gibt es, und kann ich ein neues anfragen?¶
Siehe Verfügbare Modelle für das aktuelle Angebot, Kontextlängen und Fähigkeiten. Vorschläge für neue Modelle sind im Matrix-Raum jederzeit willkommen.
Wie lange bleibt ein Modell verfügbar?¶
Meist 3–4 Monate, höchstens etwa 6 Monate.
Modelle wechseln schnell
Aufgrund unserer Nutzer:innenbasis und unserer begrenzten Ressourcen können wir ausgemusterte Modelle nicht weiterbetreiben, und schon gar nicht für die 6–12 Monate, die eine Abschlussarbeit brauchen kann.
Was das für dich bedeutet:
- Mach dich nicht von einem bestimmten Modell abhängig, wenn es nicht sein muss. Schreib deinen Code und deine Prompts so, dass du zum nächsten Modell wechseln kannst.
- Mach unsere Modelle nicht zum Forschungsgegenstand. Nutze sie als Werkzeug, nicht als das, was du untersuchst. Wir können nicht garantieren, dass das Modell, mit dem du anfängst, noch verfügbar ist, wenn du fertig bist.
- Wenn deine Arbeit von einem bestimmten Modell abhängt, zum Beispiel deine Abschlussarbeit, melde dich gleich zu Beginn und rechtzeitig bei uns, damit wir gemeinsam vorausplanen können.
- Experimentelle Modelle können jederzeit entfernt werden und haben eventuell niedrigere Limits.
Neue Modelle und Außerbetriebnahmen kündigen wir rechtzeitig in den Release Notes und im Matrix-Raum an.
Die API nutzen¶
Wie werden Rate Limits berechnet, und wann bekomme ich einen 429?¶
Pro API-Key, mit einem Minuten-, einem Stunden- und einem Tageslimit. Überschreitest du eines, bekommst du eine
429-Antwort. Das Minutenlimit verhindert nur kurze Spitzen; nach dem Stunden- oder Tageslimit musst du warten, bis es
zurückgesetzt wird. Modelle mit einem Limit-Multiplikator (z. B. 2x Limits) erlauben entsprechend mehr Requests.
Deine Limits siehst du auf der Seite Teams in der Aqueduct-Oberfläche, deine aktuelle Nutzung im Fenster API Keys. Du brauchst mehr? Siehe Ich brauche mehr Kapazität für einen großen Job.
Wie groß ist das Kontextfenster, und wie lang können Antworten sein?¶
So groß wie pro Modell angegeben, inklusive Output; Antworten können standardmäßig bis zu 65536 Tokens lang sein.
Wenn Antworten abgeschnitten werden, prüf die eigene maxTokens-Einstellung deines Clients.
Details: Verfügbare Modelle: Kontext und Output-Tokens
Wie schalte ich Thinking (Reasoning) aus oder herunter?¶
Setz enable_thinking oder reasoning_effort in chat_template_kwargs. Wenn du
aqueduct.UnsupportedParamsError bekommst, unterstützt dein Client reasoning_effort nicht.
Details: Verfügbare Modelle: Reasoning
Daten und Datenschutz¶
Wo laufen die Modelle?¶
Auf Hardware der TU Wien. Alle Modelle laufen on-premises, und deine Requests werden dort verarbeitet.
Welche Daten werden gespeichert?¶
Deine Account- und Nutzungsdaten (z. B. Modell, Anzahl der Tokens, Zeitpunkte der Requests); Nutzungsdaten werden etwa
sieben Tage aufbewahrt. Prompts und Antworten über die Chat Completions API werden nicht gespeichert. Antworten der
Responses API werden standardmäßig gespeichert; mit "store": false verhinderst du das. Hochgeladene Dateien, Batches
und Vector Stores werden nach höchstens 30 Tagen zur Löschung vorgemerkt.
Details: Datenschutz: Speicherdauer
Darf ich personenbezogene oder vertrauliche Daten eingeben?¶
Es gelten die allgemeinen Regelungen der TU Wien. Personenbezogene Daten Dritter nur, wenn es nötig und durch eine Rechtsgrundlage gedeckt ist, und nie in der Websuche.
Details: Datenschutz: Welche Daten Sie eingeben dürfen und Nutzungsbedingungen: Rechtliche Vorgaben
Hilfe¶
Ein Modell ist langsam, läuft in einen Timeout oder scheint kaputt. Was tun?¶
Schau zuerst ins Monitoring-Dashboard. Es zeigt die aktuelle Auslastung der Inferenz-Server und ob ein Modell Requests in die Warteschlange stellt, überlastet ist oder normal antwortet. Gelegentlich sind Modelle überlastet, was zu langen Warteschlangen und Timeouts führt.
Bekannte Probleme und Wartungsfenster kündigen wir im Matrix-Raum an, oft gibt es dort schon einen Thread zu deinem Problem. Wenn nicht, eröffne einen mit dem Modellnamen, den Request-Parametern und der genauen Fehlermeldung.
Noch eine Frage?
Frag im Matrix-Raum. Wenn sie öfter kommt, nehmen wir sie hier auf.