Was ist Künstliche Intelligenz?

Was ist Künstliche Intelligenz?

verlorene Wanderergruppe

ohne Sicht, Kompass, Karte

Ziel: das richtige Tal

Was ist Künstliche Intelligenz?

Computer erledigt komplexe Aufgaben

Was ist Künstliche Intelligenz?

Gewünschtes Verhalten

wird trainiert

Was ist Künstliche Intelligenz?

Sucht Tal des kleinsten Fehlers

Was ist Künstliche Intelligenz?

Neuronales Netz

Was ist Künstliche Intelligenz?

Neuronales Netz

Kompliziertes Netz einfacher Rechnungen

Was ist Künstliche Intelligenz?

AI sucht Einstellungen

mit kleinstem Fehler

Was ist Künstliche Intelligenz?

Finde Tal in Hügellandschaft mit Millionen Dimensionen

Was ist Künstliche Intelligenz?

verlorene Wanderergruppe

ohne Sicht, Kompass, Karte

Ziel: das richtige Tal

Was kann KI?

Bilder erkennen

Artikel: videantis.com

Was kann KI?

Bilder erkennen

Besser als der Mensch!

Artikel: videantis.com

Was kann KI?

Bilder erkennen

Besser als der Mensch!

Artikel: videantis.com

Was kann KI?

Was kann KI?

Was kann KI?

  • klar definierte, repetitive Aufgaben lösen
  • optimieren
  • Unmengen von Daten erfassen
  • Muster erkennen
  • Zusammenfassen

Moravec's Paradox

Was ist ChatGPT?

Generative Pre-trained Transformer

Generiert neuen Text

indem es eingegebenen Text Transformiert

genau wie er vorher trainiert hat

Was ist ChatGPT?

Liest Text

schreibt Fortsetzung / Antwort 

Guardian: How Chatbots work

Wie lernt ChatGPT?

Artikel: medium.com

Ergänzt das nächste Wort in einem Satz

Wie lernt ChatGPT?

Ergänzt Wort für Wort einen ganzen Satz

Artikel: medium.com

Wie lernt ChatGPT?

Transformiert Anfrage in Antwort

Artikel: medium.com

Wie lernt ChatGPT?

Trainiert auf 570 GB Textdaten

  • 500 Mrd Schriftzeichen
  • 250 Mio Buchseiten
  • 800 Tsd Büchern

100 Bio Neuronen (200 TB)

Mensch ~86 Bio Neuronen
 

Artikel: medium.com

Was lernt ChatGPT?

800 Tsd Bücher     

100 Bio Neuronen

 

 

 

 

~86 Bio Neuronen

Von Albert Einstein

Was lernt ChatGPT?

Von Albert Einstein

bis Donald Trump

??? Neuronen ???

800 Tsd Bücher    

100 Bio Neuronen

 

 

 

 

~86 Bio Neuronen

Was ist ChatGPT?

Von Albert Einstein

bis Donald Trump

Spektrum der Qualität

Was ist ChatGPT?

Von Albert Einstein

bis Donald Trump

Spektrum der Qualität

Der perfekte Bullshitter

Was ist ChatGPT?

Von Albert Einstein

bis Donald Trump

Spektrum der Qualität

Möchte weise klingen

Wahrheitsgehalt ist egal

Der perfekte Bullshitter

Der perfekte Bullshitter

Der perfekte Bullshitter

klingt eloquent   -   Wahrheitsgehalt egal

Jedes Detail der Antwort prüfen!

Halluzinationen ~ falsch erinnern

Der perfekte Bullshitter

klingt eloquent   -   Wahrheitsgehalt egal

Jedes Detail der Antwort prüfen!

Halluzinationen ~ falsch erinnern

 

Wie Halluzinationen erkennen?

Halluzinationen sind selten gleich!
Frage öfter stellen. Antwort bleibt gleich?

Manakul et al. 2023

Arbeiten mit KI

Wieso Künstliche Intelligenz?

Der Assistent,

den ich immer haben wollte

Artikel: DevOps.com

KI verbessert

  • Produktivität
  • Zufriedenheit
  • Effektivität

Der Assistent,

den ich immer haben wollte

Artikel: DevOps.com

KI verbessert

  • Produktivität
  • Zufriedenheit
  • Effektivität
     
  • nicht Kompetenz
  • aber Effizienz

Der Assistent,

den ich immer haben wollte

Artikel: DevOps.com

KI verbessert

  • Produktivität
  • Zufriedenheit
  • Effektivität
     
  • nicht Kompetenz
  • aber Effizienz

Skill erst selbst lernen,

dann KI verwenden!

Der Assistent,

den ich immer haben wollte

How not to Work with AI

How to Work with AI

HowTo Prompt

HowTo Prompt

Regeln effizienter Kommunikation:

  • kurz, präzise, spezifisch, klar, eindeutig
  • sinnvolle & verständliche Struktur
  • verdeutlichende Beispiele
  • keine irrelevanten Info
  • nett sein

HowTo Prompt

Regeln effizienter Kommunikation:

  • kurz, präzise, spezifisch, klar, eindeutig
  • sinnvolle & verständliche Struktur
  • verdeutlichende Beispiele
  • keine irrelevanten Info
  • nett sein

7 Oct 2024

Prompt Techniken

  • Zero-Shot
  • Persona
  • Kontext
  • Ausgabeformat
  • One-Shot (Beispiel)
  • Few-Shot (Bespiele)
Schreibe ein Gedicht über KI.
Du bist Poet.
Das Gedicht ist eine Satire dieses Texts: ...
Antworte mit LaTeX in einer Codebox.
Richte dich nach dem Stil dieses Beispiels: ...
Richte dich nach dem Stil dieser Beispiele: ...
Gehe dabei Schritt für Schritt vor.
Gehe dabei wie folgt vor: ...
Bitte mache 3 weitere Vorschläge für das Ende.
  • Chain of Thought
  • Instruktionen
  • Iteration

HowTo Prompt

Regeln effizienter Kommunikation:

  • kurz, präzise, spezifisch, klar, eindeutig
  • sinnvolle & verständliche Struktur
  • verdeutlichende Beispiele
  • keine irrelevanten Info
  • nett sein
Rolle: [zB Mathematik Tutor] 
Aufgabe: [Instruktionen - Ein Satz, eine Aufgabe]
Format: [Anforderungen an die Antwort]
Details: [Weitere Details zur Aufgabe]
Beispiele: [Erwarteten Art des Outputs]
Rolle: Poet
Aufgabe: Schreibe ein Gedicht ueber KI
Format: 3 Strophen a 4 Versen
Details: Das Gedicht ist eine Satire dieses Textes: ...
Beispiele: ...

Template

Beispiel

  • Zero-Shot
  • Persona
  • Kontext
  • Ausgabeformat
  • One-Shot (Beispiel)
  • Few-Shot (Bespiele)
  • Chain of Thought
  • Instruktionen
  • Iteration
  • Chain of Thought
  • Instruktionen
  • Iteration
Schreibe ein Gedicht über KI.
Du bist Poet.
Das Gedicht ist eine Satire dieses Texts: ...
Antworte mit LaTeX in einer Codebox.
Richte dich nach dem Stil dieses Beispiels: ...
Richte dich nach dem Stil dieser Beispiele: ...
Gehe dabei Schritt für Schritt vor.
Gehe dabei wie folgt vor: ...
Bitte mache 3 weitere Vorschläge für das Ende.

HowTo Prompt

Never mention any of these: you're an AI or LLM; your knowledge cutoff;
disclaimers about not being a professional; suggestions to consider an expert.
Keep your answers concise, unless told otherwise.
Maximize the information density of your answers.
Don't apologize.
Prioritize Correctness over conformity or harmony.
When asked for information, always search the internet.

HowTo Interact

  • Chatfenster
  • CustomGPT
  • API (Application Programming Interface)
  • Add-Ons
  • Apps

Chatfenster

  • Chateingabe (Text, Sprache)
  • File Upload
  • Edit / Repeat
  • Format (Tabelle, Codebox, ...)
  • LLM wählen
  • Temporary Chat
  • History
  • Custom Instructions

Texteingabe

Spracheingabe

File Upload

Edit

Repeat

Model wählen

Ausgabeformat

Hidden Chat

History

CustomGPT

Chatfenster

Texteingabe

Spracheingabe

File Upload

Edit

Repeat

Model wählen

Ausgabeformat

Hidden Chat

History

CustomGPT

CustomGPT

Expertenchatbot mit Spezialwissen

  • Individuelle Anpassung durch Grundinstruktion
  • Optimiert auf Anwendungsfall
  • Wissensbasis durch Datenintegration
  • Leichte Implementierung
  • Flexibel

CustomGPT: Kriterion JSON

Früher: Kriterien von Hand eingeben ...

CustomGPT: Kriterion JSON

Eingabe per JSON Code möglich...

CustomGPT: Kriterion JSON

Der **PeerGrading Kriterien Formatierer** ist darauf spezialisiert, 
Kriterienlisten exakt in ein spezifisches JSON-Format für das 
PeerGrading-Onlineportal zu konvertieren. Jedes Kriterium wird in 
ein Objekt umgewandelt (siehe Beispiel), das Schlüssel-Wert-Paare 
für 'description', 'commentSettings', 'category', 'label' und 
'options' enthält. 'Description' wird durch den Text des Kriteriums 
ersetzt. Die 'category' wird aus der Kriterienliste übernommen, und
'label' wird aus einem zweibuchstabigen Kürzel für die Kategorie und
einer aufsteigenden Zahl innerhalb dieser Kategorie gebildet 
(z.B. 'AB1', 'AB2'). Die 'options' stellen die Antwortmöglichkeiten 
dar, wobei standardmäßig von 'Nein' (0 Punkte) und 'Ja' (1 Punkt) 
ausgegangen wird, es sei denn, der Nutzer gibt etwas anderes an. 
'CommentSettings' werden standardmaessig aus dem Beispiel uebernommen,
es sei denn, der Nutzer fordert eine Änderung an. Es ist wichtig,
dass alle vorgegebenen Schlüssel-Wert-Paare im Output enthalten sind, 
um eine genaue Übereinstimmung mit den Anforderungen des Onlineportals 
zu gewährleisten.Übernehme keine Latex formatbefehle sondern 
schreibe diese normal aus (zB \"a -> ä).

Beispiel:
[
    {
        "description": "Text des Kriteriums",
        "commentSettings": {
            "commentEnabled": false,
            "commentVisibleForStudent": false
        },
        "category": "Kategorie",
        "label": "ZB1",
        "options": [
            {
                "criteria": "Antwort A",
                "points": 0
            },
            {
                "criteria": "Antwort B",
                "points": 10
            }
        ]
    }
]

CustomGPT: Kriterion JSON

Der **PeerGrading Kriterien Formatierer** ist darauf spezialisiert, 
Kriterienlisten exakt in ein spezifisches JSON-Format für das 
PeerGrading-Onlineportal zu konvertieren. Jedes Kriterium wird in 
ein Objekt umgewandelt (siehe Beispiel), das Schlüssel-Wert-Paare 
für 'description', 'commentSettings', 'category', 'label' und 
'options' enthält. 'Description' wird durch den Text des Kriteriums 
ersetzt. Die 'category' wird aus der Kriterienliste übernommen, und
'label' wird aus einem zweibuchstabigen Kürzel für die Kategorie und
einer aufsteigenden Zahl innerhalb dieser Kategorie gebildet 
(z.B. 'AB1', 'AB2'). Die 'options' stellen die Antwortmöglichkeiten 
dar, wobei standardmäßig von 'Nein' (0 Punkte) und 'Ja' (1 Punkt) 
ausgegangen wird, es sei denn, der Nutzer gibt etwas anderes an. 
'CommentSettings' werden standardmaessig aus dem Beispiel uebernommen,
es sei denn, der Nutzer fordert eine Änderung an. Es ist wichtig,
dass alle vorgegebenen Schlüssel-Wert-Paare im Output enthalten sind, 
um eine genaue Übereinstimmung mit den Anforderungen des Onlineportals 
zu gewährleisten.

Übernehme keine Latex formatbefehle sondern schreibe diese normal aus
(zB \"a -> ä).

Beispiel:
[
    {
        "description": "Text des Kriteriums",
        "commentSettings": {
            "commentEnabled": false,
            "commentVisibleForStudent": false
        },
        "category": "Kategorie",
        "label": "ZB1",
        "options": [
            {
                "criteria": "Antwort A",
                "points": 0
            },
            {
                "criteria": "Antwort B",
                "points": 10
            }
        ]
    }
]

CustomGPT: Kriterion JSON

Heute: Kriterien Formfrei eingeben -> JSON

CustomGPT: Möglichkeiten

Knowledge Base

Web search, Canvas, Dall-E & Code Interpreter

Actions mit anderen Tools

CustomGPT: Create

GPT hilft bei Customization

CustomGPTs: Editors Pick

Feynman Tutor

Ein neues Konzept schnell verstehen:

  1. Einfache Erklärung schreiben
  2. Wissenslücken identifizieren
  3. Wissenslücken füllen
  4. Erklärung erweitern & vereinfachen

CustomGPTs: Editors Best

CustomGPTs: Editors Best

Feynman Tutor

Ein neues Konzept schnell verstehen:

  1. Einfache Erklärung schreiben
  2. Wissenslücken identifizieren
  3. Wissenslücken füllen
  4. Erklärung erweitern & vereinfachen

FactChecker

  1. Überprüft Behauptung
  2. Ordnet Wahrheitsgehalt ein
  3. Überzeugende Argumentation
  4. Erklärung Herkunft von Fehlglaube

API

Chatbots im Programmcode

  • API code & Authentifizierung
  • API call
  • Structured Output
  • Mixture of Experts (API Chain Call)
import OpenAI from "openai";
const openai = new OpenAI();
const completion = await openai.chat.completions.create({
    model: "gpt-4o",
    store: true,
    messages: [
	    {"role": "system", "content": "you are an expert in writing haikus."},
        {"role": "user", "content": "write a haiku about ai"}
    ]
});

Assistent

Auf eine Aufgabe spezialsiert

Assistent

Agent

Auf eine Aufgabe spezialsiert

Instruiert Assistenten zur Lösung komplizierter Aufgaben

Assistent

Agent

Fine-Tuned

Auf eine Aufgabe spezialsiert

Instruiert Assistenten zur Lösung komplizierter Aufgaben

Auf ein Thema spezialisiert

Nachhaltig Lernen

Spaced Repetition

Single Pass

Nachhaltig Lernen

Spaced Repetition

Single Pass

  • Repetition
  • Lernzielorientiert
  • Plan
  • Flexibel
  • Erfolgskontrolle

Nachhaltig Lernen

  • Repetition
  • Lernzielorientiert
  • Plan
  • Flexibel
  • Erfolgskontrolle

Spaced Repetition

Single Pass

Nachhaltig Lernen

  • Repetition
  • Lernzielorientiert
  • Plan
  • Flexibel
  • Erfolgskontrolle
  • Kognitive Entlastung

Spaced Repetition

Single Pass

Nachhaltig Lernen

  • Repetition
  • Lernzielorientiert
  • Plan
  • Flexibel
  • Erfolgskontrolle
  • Kognitive Entlastung

AI Anki-Karten

Automatisch Erstellen mit

LLM & Structured Output

Structured Output

from pydantic import BaseModel
from openai import OpenAI

client = OpenAI()

class CalendarEvent(BaseModel):
    name: str
    date: str
    participants: list[str]

completion = client.beta.chat.completions.parse(
    model="gpt-4o-2024-08-06",
    messages=[
        {"role": "system", "content": "Extract the event information."},
        {"role": "user", "content": "Alice and Bob are going to a science fair on Friday."},
    ],
    response_format=CalendarEvent,
)

event = completion.choices[0].message.parsed

Karten generieren

Karten generieren

AI Anki-Karten

Automatisch Erstellen mit

LLM & Structured Output

Wie Qualität Sichern?

Gute Anki Karten

  • Korrekt
  • Aktiviert
  • Verständlich
  • Atomized
  • Relevant

Gute Anki Karten

  • Korrekt
  • Aktiviert
  • Verständlich
  • Atomized
  • Relevant
Criteria:

1. **Correct**: The card conveys accurate and reliable information.

2. **Engaging**: The question encourages active thinking, 
avoiding recognition or simple yes/no answers.

3. **Understandable**: The wording is clear, concise, 
and free of unnecessary complexity.

4. **Atomic**: The card focuses on a single, 
isolated piece of information or concept.

5. **Relevant**: The content of the card is useful and 
contributes to overall understanding or knowledge enhancement.
Bitte formuliere diese Kriterien Explizit aus.

Gute Anki Karten
Evaluation

Zwei API Calls

  1. Deck Erstellen
  2. Karten im Deck Prüfen:
  • Kriterien Festlegen
  • Karten
Bitte bewerte jede einzelne Anki Karte nach folgenden Kriterien.
Für Karten, welche mindestens ein Kriterium nicht erfüllen, Antworte 1
Für Karten, die alle Kriterien erfüllen, Antworte 0
####
Kriterien: ...

Flaggen

Gute Anki Karten
Evaluation

Zwei API Calls

  1. Deck Erstellen
  2. Karten im Deck Prüfen:
  • Kriterien Festlegen
  • Karten
Bitte bewerte jede einzelne Anki Karte nach folgenden Kriterien.
Für Karten, welche mindestens ein Kriterium nicht erfüllen, Antworte 1
Für Karten, die alle Kriterien erfüllen, Antworte 0
####
Kriterien: ...

Flaggen

Gute Anki Karten
Evaluation

Zwei API Calls

  1. Deck Erstellen
  2. Karten im Deck Prüfen:
  • Kriterien Festlegen
  • Karten
Bitte bewerte jede einzelne Anki Karte nach folgenden Kriterien.
Für Karten, welche mindestens ein Kriterium nicht erfüllen, Antworte 1
Für Karten, die alle Kriterien erfüllen, Antworte 0
####
Kriterien: ...

Flaggen

0 Flags für einfachen Generator ...

Gute Anki Karten
Evaluation

Zwei API Calls

  1. Deck Erstellen
  2. Karten im Deck Prüfen:
  • Kriterien Festlegen
  • Karten
Bitte bewerte jede einzelne Anki Karte nach folgenden Kriterien.
Für Karten, welche mindestens ein Kriterium nicht erfüllen, Antworte 1
Für Karten, die alle Kriterien erfüllen, Antworte 0
####
Kriterien: ...

Flaggen

0 Flags für einfachen Generator ...

Gute Anki Karten
Evaluation

Zwei API Calls

  1. Deck Erstellen
  2. Karten im Deck Prüfen:
  • Kriterien Festlegen
  • Scores Ausgeben

 

 

 

Dann: Scores mit Code Auswerten &              

Bitte bewerte jede einzelne Anki Karte nach folgenden Kriterien.
Gib fuer jede Karte und Jedes Kriterium einen Score 1-10.
Vergebe den vollen score 10 nur,
    wenn das Kriterium zweifelsfrei vollumfänglich erfüllt ist.

Verbesserung: Flag per Scores

Flaggen

Gute Anki Karten
Evaluation

Zwei API Calls

  1. Deck Erstellen
  2. Karten im Deck Prüfen:
  • Kriterien Festlegen
  • Scores Ausgeben

 

 

 

Dann: Scores mit Code Auswerten &              

Verbesserung: Flag per Scores

Flaggen

Gute Anki Karten
Evaluation

Zwei API Calls

  1. Deck Erstellen
  2. Karten im Deck Prüfen:
  • Kriterien Festlegen
  • Scores Ausgeben

 

 

 

Dann: Scores mit Code Auswerten &              

Verbesserung: Flag per Scores

Flaggen

~10-25% Flags für einfachen Generator

Gute Anki Karten
Evaluation

Zwei API Calls

  1. Deck Erstellen
  2. Karten im Deck Prüfen:
  • Kriterien Festlegen
  • Scores Ausgeben

 

 

 

Dann: Scores mit Code Auswerten &              

Bitte bewerte jede einzelne Anki Karte nach folgenden Kriterien.
Gib fuer jede Karte und Jedes Kriterium einen Score 1-10.
Vergebe den vollen score 10 nur,
    wenn das Kriterium zweifelsfrei vollumfänglich erfüllt ist.

Verbesserung: Flag per Scores

Flaggen

Gute Anki Karten
Evaluation

Zwei API Calls

  1. Deck Erstellen
    • Anweisungen für gute Karten
  2. Karten im Deck Prüfen

Dann: Scores mit Code Auswerten & Flaggen             

Gute Anki Karten
Evaluation

Zwei API Calls

  1. Deck Erstellen
    • Anweisungen für gute Karten
  2. Karten im Deck Prüfen

Dann: Scores mit Code Auswerten & Flaggen             

Gute Anki Karten
Evaluation

Zwei API Calls

  1. Deck Erstellen
    • Anweisungen für gute Karten
  2. Karten im Deck Prüfen

Dann: Scores mit Code Auswerten & Flaggen             

Verbesserung: Flag per Scores

~5-10% Flags für verbesserten Generator

Rechtliches

  • Datenschutzgesetz (Sep 2023)
    • Fremde Daten nur mit Einwilligung
  • Herausforderung: Kunde & KI in anderer Juristiktion
  • Viele Grauzonen für KI Anwendungen

Daten bei OpenAI

  • Chats = Trainingsdaten
  • Temp Chat = 30 Tage Speicherung
  • Speicherung unsicher
  • Keine Sensiblen Daten

Sicherer Umgang mit KI

  • Keine persönlichen/sensiblen Daten
    • Anonymisieren / Pseudonymisieren
    • eigene KI für sensible Daten
  • Generierten Output prüfen & Kennzeichnen
  • KI Nutzung transparent machen

Umgang mit ChatGPT

By Stefan Hackstein

Umgang mit ChatGPT

  • 303