Das ZDV stellt für die JGU einen KI-Dienst zur Verfügung. Dieser umfasst verschiedene große Sprachmodelle.
Anmelden
Voraussetzung ist ein JGU-Account, den Sie für die Anmeldung benötigen. Der KI-Chat steht zunächst Mitarbeitenden zur Verfügung. Das Angebot für Studierende wird aktuell vorbereitet.
Melden Sie sich unter https://ki-chat.uni-mainz.de mit den Anmeldedaten Ihres JGU-Accounts an.
Technische Grundlagen
Das ZDV kontrolliert und hostet den Dienst selbst, so bleiben die Daten (außer bei der Websuche) innerhalb der JGU.
Verfügbare AI-Modelle
|
Modell
|
Beschreibung
|
Spezifikationen
|
|---|---|---|
|
Nemotron Ultra 253B
|
Starke Leistung in allen Bereichen, optionales "Reasoning" für verbesserte Logikfähigkeiten |
Durch Nvidia abgeleitet von Llama 3.1 405B, Kontextfenster: 128k Token, Knowledge Cutoff: Dezember 2023
|
|
Gemma3 27B
|
Multimodale Verarbeitung von Text & Bildern, trainiert auf über 140 Sprachen, sehr effizient |
Google's offenes Pendant zu Gemini, Kontextfenster: ~90k Token (bei uns), Knowledge Cutoff: August 2024
|
|
Qwen2.5 Coder 32B
|
Spezialisiert auf Programmieraufgaben, akkurates&schnelles Coding auf Niveau der besten Modelle ohne Reasoning
|
Polygloter Coder von Alibaba, Kontextfenster: 32k Token, Knowledge Cutoff: Juni 2024 |
Systemkomponenten
- Frontend (OpenWebUI): Benutzeroberfläche für die Interaktion.
- Load Balancer (LiteLLM): Zentrale Schnittstelle zu AI-Server(n).
- AI-Server (vllm): Führt die KI-Modelle auf den GPUs aus.
In Planung
- Den Dienst für Studierende anzubieten, wird aktuell vorbereitet
- Verbesserte Extraktion und Suche in Dokumenten
- Erstellung permanenter "Wissensspeicher"
- Anbindung von Anwendungen wie Moodle oder BBB
- Erste Tool-Calling-Integrationen (z.B. Taschenrechner)
- Regelmäßiges Update der AI-Modelle
Support
Derzeit werden in Zusammenarbeit mit HE Informations- und Schulungsmaterialien für den Einsatz vorbereitet. Supportanfragen sende Sie bitte aktuell an digitale-lehre@uni-mainz.de.
Weitere Informationen
Das Kompetenzteam Digitale Lehre hat eine Webseite zum Thema KI in der Hochschulbildung erstellt. Dort finden Sie weitere Informationen und Veranstaltungshinweise:
https://digitale-lehre.uni-mainz.de/ki-in-der-hochschulbildung/