Lokal statt Cloud – KI auf eigener Hardware nutzen

Themen der Veranstaltung:

• Einsatzmöglichkeiten für lokale KI-Anwendungen im Handwerk
• Cloud-KIs vs. lokale KIs: Vorteile & Herausforderungen
• Unterschied zwischen großen und kleinen LLMs (z. B. GPT-ähnliche Modelle vs. spezialisierte kleinere Modelle wie Llama, Mistral, TinyLLMs)
• Hardwarevoraussetzungen: CPU/GPU/RAM für verschiedene Modelle und Workloads
• Auswahl eines passenden Open-Source-LLMs basierend auf den individuellen Anforderungen
• Installation und Nutzung eines LLMs mit einem geeigneten Framework für lokale KIs (Ollama, LM Studio, AnythingLLM, OpenWebUi, GPT4All etc.)
• Schritt-für-Schritt-Einrichtung eines lokal laufenden Modells
• Grenzen & Skalierbarkeit: Wann macht es noch Sinn, lokal zu bleiben?

Sie müssen unseren Teilnahmebedingungen zustimmen, wenn Sie sich für diese Veranstaltung anmelden möchten.