Service-Katalog

Symbolbild Service-Katalog

Der Katalog umfasst die Gesamtheit der vom SCC erbrachten Dienstleistungen. Die Services sind zur besseren Übersichtlichkeit und leichteren Zuordnung in Kategorien zusammengefasst.

Er gibt Auskunft über die Leistungsmerkmale und Nutzungsmodalitäten (Nutzergruppen, Antrag). Darüber hinaus werden weiterführende Informationen und Hilfestellungen (z. B. Anleitungen) nach und nach bereitgestellt.

Service: ChatAI (GDWG-KI)

Beschreibung

Seit dem Start im Februar 2024 bietet der Service Chat AI den Nutzer*innen der Academic Cloud den Zugriff auf State-of-the-Art Large Language Models (LLMs). Dies umfasst Open-Source-Modelle, die auf der GWDG/KISSKI-Infrastruktur gehostet werden, und externe Modelle wie GPT-4. Da der Dienst in Deutschland an Popularität gewonnen hat, haben wir neue Modelle und Funktionen hinzugefügt, um der steigenden Nachfrage gerecht zu werden.

Unsere Open-Source-Modelle wie bspw. Llama3 bleiben für Sie weiterhin kostenlos verfügbar! Diese Modelle erzielen ebenfalls eine sehr gute Leistung und werden vonm Projekt des KI-Servicezentrums KISSKI gefördert.

Änderungen an der Verfügbarkeit von Chat-AI-Modellen 17. Mai 2024, 8:34

Für Nutzer*innen außerhalb Niedersachsens, die nicht einem Max-Planck-Institut angehören, beachten Sie bitte, dass wir ab dem 24. Mai 2024 keinen unentgeltlichen Zugriff mehr auf die Modelle “OpenAI GPT-3.5” und “OpenAI GPT-4” anbieten können. Wenn Sie Interesse haben, die OpenAI-Modelle weiter zu nutzen, können Ihre Einrichtung und die GWDG einen Nutzungsvertrag abschließen – wir geben die Kosten für die OpenAI-Modelle mit geringem Overhead weiter.

Die Änderung betrifft nicht unsere Nutzer*innen in Niedersachsen und Mitglieder von Max-Planck-Instituten. Während wir gerne weitere Ressourcen aus unserer eigenen Infrastruktur bereitstellen, um den Zugriff auf unsere Open-Source-Modelle sicherzustellen, ist unser Budget für die Nutzung von externen Dienstleistungen leider begrenzt. Daher können wir externe (OpenAI) Modelle unentgeltlich nur noch für Nutzer*innen in Niedersachsen und Mitglieder aller Max-Planck-Institute in Deutschland anbieten.

Wir sind bemüht, unseren Dienst kontinuierlich zu verbessern und sicherzustellen, dass er allen unseren Nutzer*innen zugutekommt. Vielen Dank für Ihr Verständnis und Ihre Unterstützung.

Zielgruppe
Betriebs- und ServicezeitenBetriebszeiten: 24 Stunden an 7 Tagen pro Woche
Servicezeiten: Montag bis Freitag 8 – 18 Uhr
Anwendungsszenarien

KI-Chatbot

Chat AI bietet einen einfachen und sicheren Zugang zu leistungsstarker generativer KI. Über die intuitive Oberfläche können Nutzende direkt mit einer Auswahl verschiedener KI-Modelle per Nachricht, Audioaufnahme oder Textdatei chatten. Mit verschiedenen internen und externen Sprachmodellen (LLMs) stehen vielfältige Optionen zur Verfügung, um Fragen zu beantworten und Unterstützung für Studium, Forschung und Lehre zu erhalten.

Flexibel und sicher mit KI interagieren

Chat AI bietet eine breite Auswahl an LLMs für die Anforderungen in Studium, Forschung und Lehre. Dafür stehen sowohl intern gehostete LLMs wie Intel Neural Chat 7B, Mixtral 8x7B Instruct, Qwen1.5 72B Chat oder Meta LLaMA 3 70B Instruct als auch extern gehostete LLMs wie OpenAI GPT-3.5-Turbo und GPT-4 zur Verfügung.

Die LLMs unterscheiden sich in der Antwortgeschwindigkeit und -qualität und können je nach individueller Priorisierung dieser Eigenschaften ausgewählt werden. In den erweiterten Optionen kann für die internen LLMs zusätzlich bestimmt werden, ob die Antworten logischer oder kreativer sein sollen. Über die Formulierung eines Systemprompts, der jeder Anfrage vorangestellt wird, kann das Verhalten des Modells gelenkt werden.

Mit Chat AI wird besonderer Wert auf die Datensicherheit gelegt. Bei Nutzung der internen LLMs werden persönliche Daten und Inhalte ausschließlich lokal gespeichert und nach Beenden der Sitzung gelöscht. Bei den OpenAI-Modellen werden allein die Anfragen ungefiltert weitergegeben. Persönliche Informationen, die in den Anfragen selbst enthalten sind, werden damit an den externen Dienstleister übermittelt.

Beantragung und Zugang

https://chat-ai.academiccloud.de/chat

 

dann -> föderierte Anmeldung -> Bauhaus Universität Weimar wählen

dann -> Anmeldung fortsetzen mit Uni Login

Hinweise zur Nutzung und Konfiguration

Aktualisierung von Chat AI (ehemals LLM-Service) 2. Mai 2024, 17:55

Chat AI (ehemals LLM-Service) bietet jetzt eine komplett neu gestaltete Benutzeroberfläche mit mehr Funktionen und vielen neuen Features. Sie können jetzt den System-Prompt für alle unsere intern gehosteten Modelle festlegen, was Ihnen uneingeschränkte Kontrolle über die Antworten des Modells gibt.

Darüber hinaus können Sie den Chat-Verlauf auf Ihrem Gerät speichern und später wieder laden, um sicherzustellen, dass Sie Ihre Arbeit nicht unerwartet verlieren. Wir sichern Ihnen zu, dass Ihre Daten niemals auf unseren Servern gespeichert werden und nur auf Ihrem Gerät gespeichert werden, wenn Sie dies explizit anfordern.

Die neue Oberfläche basiert auf einem speziell entworfenen Theme, inspiriert durch die Partnerschaft zwischen der GWDG und KISSKI, und bietet einen Dark-Mode für unsere lichtempfindlichen Nutzer*innen. Die Sprache kann leicht auf Deutsch umgestellt werden.

Neben der neuen Benutzeroberfläche bietet Chat AI jetzt auch eine OpenAI-kompatible API für ausgewählte Forscher*innen auf Anfrage. Sie können sich für den API-Zugriff über die Chat AI-Dienstwebseite bewerben, die über die KISSKI-Dienstliste zugänglich ist.

Lebenszyklus von Inhalten

Eine Abmeldung kann derzeit nicht durchgeführt werden, da aktuell Single Logout für OIDC Dienste (Chat, Account-Portal, etc.) technisch nicht unterstützt wird.

Eine Abmeldung von diesen Anwendungen ist daher aktuell nur über das manuelle Löschen der  Browser Cookies (Strg + Shift + Entf) und nachfolgendes Schließen des Browsers möglich.

Für weitere Unterstützung wenden Sie sich bitte an:

sso-support@gwdg.de           

Hilfe und Support

Nutzerservice

Ticket: Formular »Serviceanfragen und Störungsmeldungen« unter

www.uni-weimar.de/de/universitaet/struktur/zentrale-einrichtungen/scc-rechenzentrum/service/support/

E-Mail: nutzerservice@uni-weimar.de

Tel.: +49 (0) 36 43/58 24 24 Servicezeiten: Montag bis Freitag 8 – 18 Uhr