Das Zentrum für Datenverarbeitung (ZDV) hat einen neuen KI-Dienst für die Johannes Gutenberg-Universität Mainz (JGU) bereitgestellt. Dieser Dienst, der unter https://ki-chat.uni-mainz.de zugänglich ist, umfasst mehrere leistungsstarke Sprachmodelle, darunter Nemotron Ultra 253B, Gemma3 27B und Qwen2.5 Coder 32B.
Der KI-Chat steht zunächst ausschließlich Mitarbeitenden der JGU zur Verfügung, die sich mit ihren JGU-Account-Anmeldedaten anmelden können. Das ZDV kontrolliert und hostet den Dienst selbst, so bleiben die Daten (außer bei der Websuche) innerhalb der JGU.
Zukünftige Entwicklungen
Der neue Dienst soll zukünftig auch Studierenden zugänglich sein. Neben der regelmäßigen Aktualisierung der Sprachmodelle sind weitere Verbesserungen sind in Arbeit. Ziel ist es, die Suche und Extraktion von Dokumenten zu optimieren und einen permanenten Wissensspeicher zu schaffen. Anbindungen an Plattformen wie Moodle oder BBB und erste Integrationen (z. B. Taschenrechner) sind ebenfalls vorgesehen.
Mehr erfahren
Weitere Informationen zum Einsatz von KI in der Hochschulbildung sowie Unterstützung bei der Nutzung des Dienstes finden Sie auf der Webseite des Kompetenzteams Digitale Lehre https://digitale-lehre.uni-mainz.de/ki-in-der-hochschulbildung/.
Technische Hintergrundinformationen: https://www.zdv.uni-mainz.de/ki-an-der-jgu/
Mehr Neuigkeiten aus dem ZDV → finden Sie hier.
Das ZDV stellt für die JGU einen KI-Dienst zur Verfügung. Dieser umfasst verschiedene große Sprachmodelle.
Anmelden
Voraussetzung ist ein JGU-Account, den Sie für die Anmeldung benötigen. Der KI-Chat steht zunächst Mitarbeitenden zur Verfügung. Das Angebot für Studierende wird aktuell vorbereitet.
Melden Sie sich unter https://ki-chat.uni-mainz.de mit den Anmeldedaten Ihres JGU-Accounts an.
Technische Grundlagen
Das ZDV kontrolliert und hostet den Dienst selbst, so bleiben die Daten (außer bei der Websuche) innerhalb der JGU.
Verfügbare AI-Modelle
|
|
|
|
|
Nemotron Ultra 253B
|
Starke Leistung in allen Bereichen, optionales "Reasoning" für verbesserte Logikfähigkeiten |
Durch Nvidia abgeleitet von Llama 3.1 405B, Kontextfenster: 128k Token, Knowledge Cutoff: Dezember 2023
|
|
Gemma3 27B
|
Multimodale Verarbeitung von Text & Bildern, trainiert auf über 140 Sprachen, sehr effizient |
Google's offenes Pendant zu Gemini, Kontextfenster: ~90k Token (bei uns), Knowledge Cutoff: August 2024
|
|
Qwen2.5 Coder 32B
|
Spezialisiert auf Programmieraufgaben, akkurates&schnelles Coding auf Niveau der besten Modelle ohne Reasoning
|
Polygloter Coder von Alibaba, Kontextfenster: 32k Token, Knowledge Cutoff: Juni 2024
|
Systemkomponenten
- Frontend (OpenWebUI): Benutzeroberfläche für die Interaktion.
- Load Balancer (LiteLLM): Zentrale Schnittstelle zu AI-Server(n).
- AI-Server (vllm): Führt die KI-Modelle auf den GPUs aus.
In Planung
- Den Dienst für Studierende anzubieten, wird aktuell vorbereitet
- Verbesserte Extraktion und Suche in Dokumenten
- Erstellung permanenter "Wissensspeicher"
- Anbindung von Anwendungen wie Moodle oder BBB
- Erste Tool-Calling-Integrationen (z.B. Taschenrechner)
- Regelmäßiges Update der AI-Modelle
Support
Derzeit werden in Zusammenarbeit mit HE Informations- und Schulungsmaterialien für den Einsatz vorbereitet. Supportanfragen sende Sie bitte aktuell an digitale-lehre@uni-mainz.de.
Weitere Informationen
Das Kompetenzteam Digitale Lehre hat eine Webseite zum Thema KI in der Hochschulbildung erstellt. Dort finden Sie weitere Informationen und Veranstaltungshinweise:
https://digitale-lehre.uni-mainz.de/ki-in-der-hochschulbildung/
