Das ZDV stellt für die JGU einen KI-Dienst zur Verfügung. Dieser umfasst verschiedene große Sprachmodelle.
Anmelden
Voraussetzung ist ein JGU-Account, den Sie für die Anmeldung benötigen. Der KI-Chat steht Mitarbeitenden und Studierenden zur Verfügung.
Melden Sie sich unter https://ki-chat.uni-mainz.de mit den Anmeldedaten Ihres JGU-Accounts an.
Technische Grundlagen
Das ZDV kontrolliert und hostet den Dienst selbst, so bleiben die Daten (außer bei der Websuche) innerhalb der JGU.
Verfügbare KI-Modelle
Zukünftig ist ein Update der Modelle pro Semester angedacht. Dieses wird nach Möglichkeit in die vorlesungsfreie Zeit gelegt und vorher angekündigt.
|
Modell
|
Beschreibung
|
Herkunft / Wissensstand
|
Anwendung
|
|---|---|---|---|
|
GPT OSS 120B
|
Hocheffizientes Modell, benötigt weniger Rechenleistung, vergleichbar mit o3-mini/o4-mini, optional Reasoning* für verbesserte Logikfähigkeiten Offizielle Dokumentation: |
OpenAI, Release 08/2025, Wissensstand 06/2024
|
Allgemeine Chat-Anwendung, Texte erstellen und zusammenfassen
|
|
Qwen3 235B (VL/Thinking)
|
Duo aus zwei Modellen mit Bestleistungen, insbesondere in STEM**- und Coding-Anwendung (mit Reasoning) oder auch Textarbeit (ohne Reasoning) Offizielle Dokumentation: https://huggingface.co/Qwen/Qwen3-235B-A22B-Thinking-2507-FP8 |
Alibaba Cloud, Release 07/2025, Wissensstand 2024
|
STEM** (Reasoning an)
Agentic Coding (an/aus) Textarbeit (aus) Detailwissen (aus) Bildverarbeitung (aus) |
|
Qwen3 Coder 30B
|
Spezialisiert auf Programmieraufgaben, akkurates & sehr schnelles Coding auf Niveau größerer Modelle Offizielle Dokumentation: |
Alibaba Cloud, Release 08/2025, Wissensstand 10/2024 |
nur API |
*Bezeichnet die Fähigkeit des Modells vor der Antwort einen internen Monolog zu generieren, um zu genaueren oder logischeren Antworten zu gelangen.
**Science, Technology, Engineering and Mathematics
Die Modelle im Chat-Interface verwenden einen fest vorgegebenen System Prompt. Wenn Sie die Modelle über die API nutzen, können Sie einen eigenen System Prompt einstellen. Dieser überschreibt dann den standardmäßig konfigurierten System Prompt.
Weitere Informationen dazu in der aktuellen Meldung:
https://www.zdv.uni-mainz.de/neue-modelle-fuer-uni-ki-chat/
Systemkomponenten
- Frontend (OpenWebUI): Benutzeroberfläche für die Interaktion.
- Load Balancer (LiteLLM): Zentrale Schnittstelle zu KI-Server(n).
- KI-Server (vllm): Führt die KI-Modelle auf den GPUs aus.
Funktionen und Anwendung im Überblick
Neuigkeiten und Geplantes
Alle Meldungen und Neuigkeiten gebündelt: https://www.zdv.uni-mainz.de/tag/ki/
Aktuell arbeiten wir an folgenden Projekten:
- Freischaltung weiterer Features für den "Arbeitsbereich" (Prompts, Wissensbasis, ...)
- "Auto"-Modus, d.h. je nach Prompt wird das passendste Modell automatisch gewählt
- Tool-Calling Integrationen (z.B. Suche in arXiv)
Die wichtigsten Fragen (FAQs) im Überblick
- Wie lange kann ich meine Chats speichern?
- Wie kann ich Chats teilen und exportieren?
- Wie kann ich Dateien hochladen und was muss ich beachten?
- Wie funktioniert sprachbasierte Interaktion (Spracheingabe und Audioverarbeitung)?
Wie optimiere ich meine Ergebnisse?
Für optimale Ergebnisse formulieren Sie Ihre Anfrage auf Englisch. Bei allen KI-Modellen ist die englische Sprache in den Trainingsdaten deutlich dominant.
Datenschutz
Sämtliche Komponenten des Systems werden vom Zentrum für Datenverarbeitung (ZDV) der Universität gehostet und betrieben, weshalb grundsätzlich alle Daten nur auf Servern des ZDVs verbleiben.
Die einzige Ausnahme ist zwangsläufig die Funktion Websuche. Bei aktivierter Websuche wird der Prompt des Users durch Informationen angereichert. Das kann bspw. das aktuelle Datum sein. Bei Bedarf wird der Prompt zusammengefasst an unseren Suchanbieter Tavily (https://www.tavily.com/) geschickt, um die Suchanfrage zu beantworten. Anschließend wird der Prompt gemäß Vertrag/Einstellung verworfen.
Grundsätzlich werden dabei keine Dateien oder Bilder mitgeschickt. In manchen Fällen kann das Modell, das die Suchanfrage generiert, jedoch relevante Informationen aus dem Kontext verwenden, um die Anfrage anzureichern.
Supportstruktur
Uni-Mainz-Angehörige mit Anwendungsfragen wenden sich bitte an das Kompetenzteam Digitale Lehre.
E-Mail: digitale-lehre@uni-mainz.de
Uni-Mainz-Angehörige mit technischen Fragen wenden sich bitte an die Unix-Gruppe des ZDV.
E-Mail: unix@uni-mainz.de
Schulungen / Weiterbildungsangebot
Die Personalentwicklung bietet für Mitarbeitende verschiedene Weiterbildungsveranstaltungen zum Thema Künstliche Intelligenz an. Mit diesen Angeboten können Sie Ihre KI-Kompetenzen individuell und nach Bedarf erweitern und lernen, die JGU-KI-Tools sicher und verantwortungsvoll einzusetzen.
Das Angebot umfasst ein KI-Zertifikatsprogramm, bestehend aus vier Modulen. Die Module können auch einzeln gebucht werden. Zusätzlich steht Ihnen eine regelmäßige Praxiswerkstatt zur Verfügung, in der Sie an eigenen KI-Themen arbeiten können. Für Führungskräfte werden zusätzlich spezielle KI-Veranstaltungen angeboten.
Informationen zu allen Weiterbildungen finden Sie auf den Webseiten der Personalentwicklung.
https://www.personalentwicklung.uni-mainz.de/kuenstliche-intelligenz/
Für die direkte Anmeldung zu den Veranstaltungen werden Sie hier zum PE-Weiterbildungsprogramm, Rubrik „IT und Digitalisierung“, weitergeleitet. Dort finden Sie alle KI-Weiterbildungsangebote.
Bei Fragen wenden Sie sich gerne an: PE-Weiterbildung@uni-mainz.de