Prompt Engineering im industriellen Einsatz

Einführung in Generative KI-Systeme

• Was bedeutet Generative KI und wie grenzt sie sich von Künstlicher Intelligenz und Maschinellem Lernen ab?
• Was sind Sprachmodelle bzw. Large Language Models (LLMs)?
• Welche Architekturen liegen den gängigsten Generativen KI-Systemen zugrunde?
• Was versteht man unter Embeddings und Token?
• Welche Potentiale haben Generative KI-Systeme und wo sind ihre Grenzen?
• Rolle des Human-in-the-Loop

Überblick über die Generative KI-Landkarte

• Welche Anbieter gibt es und welche Modelle stellen sie bereit?
• Welche Tools & Technologien existieren im Umfeld von Generativen KI-Systemen?
• Welche Kriterien sollten bei der Auswahl einer Generativen KI betrachtet werden?

• Was hat es mit Modellgrößen und Kontextlängen auf sich?
• Welche Typen von Sprachmodellen gibt es?
• Welche Bereitstellungsmodelle (bspw. Closed vs. Open-Source) und Pricing-Strategien stecken hinter den populärsten Generativen KI-Anwendungen?
• Was passiert mit den Daten und was ist im Umgang mit sensiblen Daten zu beachten?

Einführung in ChatGPT

• Einordnung der GPT-Modelle (Generative Pre-Trained Transformer)
• Einführung in die Benutzeroberfläche von ChatGPT
• Initiales Prompt Engineering auf Einführungsbeispielen
• Welche Möglichkeiten habe ich neben dem Prompt um ChatGPT zu steuern?
• Finetuning und OpenAI’s GPTs

Grundlagen des Prompt Engineerings

• Was ist ein Prompt und aus welchen Komponenten besteht er?
• Worum handelt es sich bei In-Context Learning und wie unterscheiden sich Pretraining, Prompting und Finetuning?
• Anwendungsbeispiele zum Prompting von ChatGPT zur Lösung von Aufgaben aus verschiedenen Bereichen, bspw.:

• Informationsextraktion & Question Answering: relevante Fakten aus Produkthandbüchern identifizieren und weiterverarbeiten
• Texterzeugung: automatisierte Erzeugung von Dokumentation
• Textverständnis: Zusammenfassung wissenschaftl. Arbeiten
• Übersetzung: von Anleitungen in verschiedene Zielsprachen
• Coding: Einsatz von KI als Inspiration zum schnellen Prototyping

• Inwiefern kann Prompting zur Steuerung der Stilrichtung und Tonalität in der Textgenerierung verwendet werden?
• Vorgehen und Metriken zur Evaluierung von Prompt Engineering
• Limitierungen von simplem Prompt Engineering

Fortgeschrittenes Prompt Engineering

• Context Engineering: Integration von Domänenwissen über Augmented und Assisted Retrieval
• Die Bedeutung von Beispielen: Zero Shot vs. Few Shot Learning
• Mit robustem Prompt Engineering den Risiken von LLMs vorbeugen: Halluzinationen reduzieren und Prompt Injection vorbeugen
• Ansätze zur Optimierung der generierten Ergebnisse: Chain-of-Thought, Reflexion, Self-Validation & ReAct Pattern
• Vertiefung der vorgestellten Konzepte anhand von Praxisbeispielen

Prototyping von KI-Anwendungen

• Reproduzierbarkeit schaffen mittels Output Parsing und Festlegung der Temperatur
• Retrieval Augmented Generation (RAG) mittels Embedding-basierter Similarity Search
• Verwendung von LLM-APIs
• Prototyping und Automatisierung durch Tools wie Langchain und Haystack
• Einführung in Agenten, Chains und Plugins

Bearbeitung von Fallbeispielen zur Festigung der Inhalte

• Definition und Bewertung von KI-Use Cases
• Mapping von Business Problemen auf KI-Use Cases
• Welche Aspekte beeinflussen die Komplexität von KI-Use Cases?
• Anforderungen und Abhängigkeiten identifizieren
• Kosten und Ressourcenbedarf abschätzen

Ausblick

• LLM vs. LVM
• GPT4-V und Gemini im Vergleich zur rein textbasierten LLMs
• Multimodale Modelle wie GPT4-V und Gemini im Vergleich zu rein textbasierten LLMs
• Generative KI für Bilder wie Dalle-3, Stable Diffusion oder Midjourney