KI an der JGU

Das ZDV stellt für die JGU einen KI-Dienst zur Verfügung. Dieser umfasst verschiedene große Sprachmodelle.

Anmelden

Voraussetzung ist ein JGU-Account, den Sie für die Anmeldung benötigen. Der KI-Chat steht Mitarbeitenden und Studierenden zur Verfügung.

Melden Sie sich unter https://ki-chat.uni-mainz.de mit den Anmeldedaten Ihres JGU-Accounts an.

Technische Grundlagen

Das ZDV kontrolliert und hostet den Dienst selbst, so bleiben die Daten (außer bei der Websuche) innerhalb der JGU.

Verfügbare KI-Modelle

Zukünftig ist ein Update der Modelle pro Semester angedacht. Dieses wird nach Möglichkeit in die vorlesungsfreie Zeit gelegt und vorher angekündigt.

Modell
Beschreibung
Herkunft / Wissensstand
Anwendung
GPT OSS 120B
Hocheffizientes Modell, benötigt weniger Rechenleistung, vergleichbar mit o3-mini/o4-mini, optional Reasoning** für verbesserte Logikfähigkeiten
OpenAI, Release 08/2025, Wissensstand 06/2024
Allgemeine Chat-Anwendung, Texte erstellen und zusammenfassen
Qwen3 235B (Thinking)
Duo aus zwei Modellen mit Bestleistungen, insbesondere in STEM*- und Coding-Anwendung (mit Reasoning) oder auch Textarbeit (ohne Reasoning)
Alibaba Cloud, Release 07/2025, Wissensstand 2024
STEM* (Reasoning an)
Agentic Coding (an/aus)
Textarbeit (aus)
Detailwissen (aus)
Gemma3 27B
Multimodales Modell zur Verarbeitung von Text & Bildern, trainiert auf über 140 Sprachen, beliebter Stil

Google, Release 03/2025, Wissensstand 08/2024

Bildverarbeitung
Textarbeit

Qwen3 Coder 30B
Spezialisiert auf Programmieraufgaben, akkurates & sehr schnelles Coding auf Niveau größerer Modelle

Alibaba Cloud, Release 08/2025, Wissensstand 10/2024

Niedrigkomplexes Coding

*Science, Technology, Engineering and Mathematics

Weitere Informationen dazu in der aktuellen Meldung:
https://www.zdv.uni-mainz.de/neue-modelle-fuer-uni-ki-chat/

Systemkomponenten

  1. Frontend (OpenWebUI): Benutzeroberfläche für die Interaktion.
  2. Load Balancer (LiteLLM): Zentrale Schnittstelle zu AI-Server(n).
  3. AI-Server (vllm): Führt die KI-Modelle auf den GPUs aus.

Funktionen und Anwendung im Überblick

Neuigkeiten und Geplantes

Alle Meldungen und Neuigkeiten gebündelt: https://www.zdv.uni-mainz.de/tag/ki/

Aktuell arbeiten wir an folgenden Projekten:

  • Freischaltung weiterer Features für den "Arbeitsbereich" (Prompts, Wissensbasis, ...)
  • "Auto"-Modus, d.h. je nach Prompt wird das passendste Modell automatisch gewählt
  •  Tool-Calling Integrationen (z.B. Suche in arXiv)

Die wichtigsten Fragen (FAQs) im Überblick

Wie optimiere ich meine Ergebnisse?

Für optimale Ergebnisse formulieren Sie Ihre Anfrage auf Englisch. Bei allen KI-Modellen ist die englische Sprache in den Trainingsdaten deutlich dominant.

Datenschutz

Sämtliche Komponenten des Systems werden vom Zentrum für Datenverarbeitung (ZDV) der Universität gehostet und betrieben, weshalb grundsätzlich alle Daten nur auf Servern des ZDVs verbleiben.

Die einzige Ausnahme ist zwangsläufig die Funktion Websuche. Bei aktivierter Websuche wird der Prompt des Users durch Informationen angereichert. Das kann bspw. das aktuelle Datum sein. Bei Bedarf wird der Prompt zusammengefasst an unseren Suchanbieter Tavily (https://www.tavily.com/) geschickt, um die Suchanfrage zu beantworten. Anschließend wird der Prompt gemäß Vertrag/Einstellung verworfen.

Grundsätzlich werden dabei keine Dateien oder Bilder mitgeschickt. In manchen Fällen kann das Modell, das die Suchanfrage generiert, jedoch relevante Informationen aus dem Kontext verwenden, um die Anfrage anzureichern.

Supportstrutkur

Supportanfragen senden Sie bitte aktuell an digitale-lehre@uni-mainz.de.

Informationen zum Thema KI in der Hochschulbildung:
https://digitale-lehre.uni-mainz.de/ki-in-der-hochschulbildung/