KI Workshop: LLMs selbst hosten und verstehen
Die NETWAYS Events Services GmbH nimmt einen KI Workshop in ihr Schulungsprogramm auf. Er richtet sich an IT-Verantwortliche, die große Sprachmodelle im eigenen Rechenzentrum betreiben wollen, statt sie über externe Dienste zu nutzen. Das Schulungsangebot des Nürnberger Open Source-Dienstleisters umfasste bisher die Bereiche Monitoring, Konfigurationsmanagement, Logging und Cloud Native und wird nun um die Kategorie “KI Infrastruktur” erweitert.
Anlass für das neue Format ist ein Zielkonflikt, der derzeit in vielen IT-Abteilungen auftritt: Sprachmodelle sollen produktiv eingesetzt werden, sensible Unternehmensdaten dürfen dabei aber nicht an Dritte gehen. Der Betrieb im eigenen Haus vermeidet diesen Datenabfluss. Nötig sind dafür Kenntnisse über einen Technologie-Stack, der sich in kurzer Zeit stark ausdifferenziert hat. Der Workshop ordnet die Komponenten dieses Stacks ein und zeigt, wie sie zusammenspielen.
Die Inhalte im Überblick:
- Grundlagen und Modellbetrieb: LLM-Grundbegriffe, lokaler Betrieb mit Ollama, Skalierung mit vLLM samt GPU-Anforderungen
- Oberfläche und Nutzerverwaltung: Open WebUI als zentraler Zugang für Teams, inklusive Rollen und Modellzugriff
- Eigene Daten und Werkzeuge: Anbindung interner Dokumente über RAG, Einbindung externer Systeme über das Model Context Protocol (MCP)
- Architektur und Produktivbetrieb: Planung eines eigenen Stacks samt Hardware-Auswahl und Absicherung
Zur Zielgruppe zählen IT-Leiter, Systemadministratoren, Entwickler, DevOps Engineers sowie Verantwortliche für Datenschutz und Sicherheit.
Vorkenntnisse zu KI oder Programmierung sind nicht erforderlich, eigene GPU-Hardware ebenso wenig; grundlegende IT-Kenntnisse genügen.
Die Gruppengröße ist auf 14 Teilnehmer begrenzt. Neben den offenen Terminen ist der Workshop auch als Inhouse-Schulung buchbar.
WORKSHOP DETAILS
KI Workshop
LLMs selbst hosten und verstehen
Preis: 1.390 € zzgl. MwSt.
Gruppenrabatte bis zu 25%
Teilnehmerzahl: max. 14 Teilnehmer
