+49 911 65008-222 info@it-seminare.de

KI lokal nutzen mit OLLAMA & Co. - Eigene LLMs ohne Cloud betreiben

Seminardauer: 2 Tage

Das Seminar "KI lokal nutzen mit OLLAMA & Co. - Eigene LLMs ohne Cloud betreiben" ist seitens des Herstellers nicht mehr verfügbar, bzw. abgekündigt. Wir können Ihnen diese Schulung in Form eines Workshops in Ihrem Unternehmen oder in unserem Schulungszentrum anbieten.

Seminarinformationen

Seminar - Ziel

In diesem 2-tägigen Seminar „KI lokal nutzen mit OLLAMA & Co. – Eigene LLMs ohne Cloud betreiben“ erhalten Sie umfassende Kenntnisse über Large Language Models (LLMs), deren Funktionsweise sowie die Unterschiede zwischen Cloud-basierten und lokalen LLMs hinsichtlich Datenschutz, Kosten und Performance. Sie lernen die Installation und Anwendung von OLLAMA kennen und erfahren, wie Sie verschiedene Frameworks für lokale LLMs einsetzen können.

Durch praktische Übungen entwickeln Sie eigene LLM-basierte Anwendungen, verbessern Modelle mittels Feintuning und Prompt Engineering und passen Performance und Speicherbedarf an unterschiedliche Hardware-Umgebungen an.

Nach Abschluss des Seminars sind Sie befähigt, eigene LLM-Projekte zu erstellen, zu optimieren und produktiv einzusetzen – unter Berücksichtigung rechtlicher und ethischer Aspekte.

Teilnehmer - Zielgruppe

  • Entwickler und IT-Professionals, die LLMs in eigene Projekte einbinden möchten
  • Data Scientists, die KI-Modelle lokal testen oder optimieren wollen
  • Unternehmen, die datenschutzfreundliche Alternativen zu Cloud-LLMs suchen
  • Technisch versierte Interessierte, die mit lokalen KI-Modellen experimentieren möchten

Kurs - Voraussetzungen

  • Grundkenntnisse in Python und CLI/Terminal-Nutzung sind von Vorteil, aber keine Voraussetzung
  • Basiswissen über Machine Learning und KI sind von Vorteil, aber keine Voraussetzung

Seminardauer

  • 2 Tage
  • 09:00 Uhr bis 17:00 Uhr

Schulungsunterlagen

  • nach Absprache

Seminar-Inhalt / Agenda

Grundlagen von LLMs

  • Was sind LLMs?
  • Wie funktionieren LLMs?
  • Wo liegen die Herausforderungen?

LLMs in der Cloud oder lokal nutzen

  • Unterschiede zwischen Cloud- und lokalen LLMs: Datenschutz, Kosten, Performance
  • Installation und erste Nutzung von OLLAMA auf verschiedenen Betriebssystemen
  • Überblick über alternative Frameworks für lokale LLMs (llama.cpp, GPT4All, vLLM, DeepSeek, Mistral AI, etc.)

Praxis – Eigene Anwendungen entwickeln

  • Nutzung der OLLAMA API für eigene Projekte
  • Modell-Optimierung durch Feintuning
  • Modell-Optimierung durch Prompt Engineering
  • Auswahl eines Modells und Auswahl der lokalen Hardware
  • Workshop: Entwicklung eines ersten eigenen LLM-gestützten Tools

Produktive Nutzung und Optimierung

  • Einführung in das Benchmarking von LLMs
  • Vergleich von Benchmarking-Methoden und Wechsel auf neuere Modelle
  • Rechtliche und ethische Aspekte bei der lokalen KI-Nutzung

Weitere Schulungen zu Thema Large Language Model (LLM)

Einführung in LLMOps - Strategien und Best Practices für den Betrieb von Large Language Models

- u.a. in Nürnberg, Berlin, Stuttgart, München, Köln

In diesem 3-tägigen Seminar „Einführung in LLMOps – Strategien und Best Practices für den Betrieb von Large Language Models“ erhalten Sie ein grundlegendes Verständnis von Large Language Models (LLMs) und deren Einsatzmöglichkeiten in der Industrie. Sie erwerben ...

Generative AI & LLMs für Unternehmen

- u.a. in Nürnberg, Berlin, Stuttgart, München, Köln

In diesem 3-tägigen Seminar „Generative AI & LLMs für Unternehmen“ erhalten Sie umfassendes Wissen über die Möglichkeiten und Anwendungen von Large Language Modellen (LLMs). Sie lernen, wie Sie passende Modelle auswählen, deren Leistung und Speicherbedarf bewerten ...

Von ChatGPT bis Gemini - LLM-Integration in Python

- u.a. in Stuttgart, Essen, Heidelberg, Koblenz, Marburg

In diesem 2-tägigen Seminar „Von ChatGPT bis Gemini – LLM-Integration in Python“ erwerben Sie praxisnahes Wissen über Large Language Models (LLMs) und deren Einbindung in Python. Sie erhalten eine fundierte Einführung in die Funktionsweise von LLMs und deren Anwendung ...

DeepEval - Das Unit-Testing Framework für Large Language Models (LLMs)

- u.a. in Hamburg, Stuttgart, Dresden, Heidelberg, Marburg

In diesem 1-tägigen Seminar „DeepEval – Das Unit-Testing Framework für Large Language Models (LLMs)“ erfahren Sie, wie Sie das Open-Source-Framework DeepEval effektiv zur Bewertung und Prüfung von LLMs einsetzen. DeepEval ist ein benutzerfreundliches Tool, das auf ...