Ollama und LM Studio - die DSGVO-konformen Alternativen zu ChatGPT

Seminarinformationen

Seminar - Ziel

In dieser 2-tägigen Schulung "Ollama und LM Studio - die DSGVO-konformen Alternativen zu ChatGPT" lernen Sie, wie Sie ChatGPT und OpenSource KI-Modelle wie LMStudio, Ollama und Llama sicher und DSGVO-konform im Unternehmensumfeld einsetzen. Sie erfahren, wie Sie mit sensiblen Daten umgehen, Urheberrecht und Copyright beachten und OpenSource-Chatbots auf Ihrem lokalen PC bereitstellen.

Der Kurs umfasst die Erweiterung und das Finetuning von Modellen sowie die sichere Bereitstellung im Unternehmensnetzwerk mit internen Servern, Guidelines und Best Practices. Sie lernen, wie Sie Update- und Sicherungsprozesse effizient gestalten und Ihre Modelle versionieren.

Abschließend vergleichen wir diese Tools mit kommerziellen Alternativen und zeigen Einsatzmöglichkeiten in der Azure-Cloud. In einem interaktiven Praxisteil bearbeiten Sie konkrete Business-Anwendungsfälle.

Teilnehmer - Zielgruppe

  • IT-Projektleiter
  • System-Administratoren
  • Programmierer

Kurs - Voraussetzungen

  • Grundlegendes Verständnis der DSGVO
  • Erfahrung im Umgang mit KI-Tools sind hilfreich
  • Vertrautheit mit der Nutzung von Computer-Systemen, Serversoftware und grundlegenden IT-Prozessen wird vorausgesetzt.
  • Interesse an OpenSource-Technologien
  • Verständnis für den Umgang mit sensiblen Daten

Seminardauer

  • 2 Tage
  • 09:00 Uhr bis 17:00 Uhr

Schulungsunterlagen

  • nach Absprache

Seminar-Inhalt / Agenda

DSGVO-Probleme mit ChatGPT

  • Was im Unternehmensumfeld zu beachten ist
  • Urheberrecht und Copyright
  • Umgang mit sensiblen Daten

Vorstellung LM Studio, Ollama und Llama-Model

  • Was ist LM Studio, was ist Ollama?
  • Bereitstellen eines OpenSource-Chatbots auf dem lokalen PC
  • Erweiterung des trainierten Wissens um Embeddings
  • Finetuning eines Models für besondere Use Cases

Bereitstellung des Tools im Unternehmensnetzwerk

  • Sichere Bereitstellung mit Hilfe eines internen Servers
  • Guidelines und Best-Practices
  • Umgang mit Userinput und Nutzerdaten

Update- und Sicherungsprozess

  • Vorgehensweisen und Best-Practices
  • Iterative Erweiterung von Offline-Wissen
  • Austausch der dahinter liegenden KI-Modelle
  • Sicherung und Versionierung der eigenen Modelle

Beleuchtung der Vor- und Nachteile (Vergleich zu anderen Tools)

  • Gegenüberstellung zu kommerziellen Alternativen
  • Möglichkeiten in der Azure-Cloud

Bearbeitung diverser Anwendungsfälle

  • Interaktiver Praxisteil für Business-Anwendungsfälle

Weitere Schulungen zu Thema KI

Von ChatGPT bis Gemini - LLM-Integration in Python

- u.a. in Nürnberg, Berlin, Stuttgart, München, Köln

In dieser 2-tägigen Schulung „Von ChatGPT bis Gemini – LLM-Integration in Python“ erwerben Sie praxisnahes Wissen über Large Language Models (LLMs) und deren Einbindung in Python. Sie erhalten eine fundierte Einführung in die Funktionsweise von LLMs und deren Anwendung ...

DeepSeek, ChatGPT, Claude, Gemini & Co. - Sprachmodelle verstehen, bewerten und anwenden

- u.a. in Nürnberg, Berlin, Stuttgart, München, Köln

In diesem 1-tägigen Seminar „DeepSeek, ChatGPT, Claude, Gemini und Co. – Funktionsweise, Anwendung und Auswahl“ erhalten Sie einen Überblick über die Grundlagen und Einsatzmöglichkeiten moderner Sprachmodelle. Sie lernen, wie Large Language Models (LLMs), Small ...