Wie AI Dein Unternehmen wirklich trifft

Use Cases aus der echten Welt mithilfe von AI lösen

Max Tharr, Senior Technical Consultant @

https://slides.com/maxtharr/wie-ai-dein-unternehmen-wirklich-trifft

Index

ChatGPT Hype

Prompt Engineering

Vektordatenbanken

Agentensysteme

  • Übersetzen

  • Brainstorming

  • Umformulieren

  • Zusammenfassen

  • Copy-Text generieren

Erste USe cases

Prompt engineering

  • Impersonation
  • Strukturierte Daten
  • Chain-of-thought
  • Guardrails

Chain of Thought Prompting

Transformer stellen über Attention Worte in Bezug zueinander. Das kann man ausnutzen, indem man explizit wird und damit den Möglichkeitsraum reduziert.

"Think Step by Step"

Few Shot Prompting

A "whatpu" is a small, furry animal native to Tanzania. An example of a sentence that uses the word whatpu is:
We were traveling in Africa and we saw these very cute whatpus.

To do a "farduddle" means to jump up and down really fast. An example of a sentence that uses the word farduddle is:

mingagpt.de

  • Kategorisierung
  • Komplexere Aufgaben
  • Stil vorgeben
  • API-Integration

Neue skills

  • Gedächtnis
  • Interne Infos
  • Lernen aus Konversation

Kann nicht

Vektor datenbanken

  • Informationen  als Zahlen
  • "Versteht" Text, Bilder etc
  • Findet ähnliche Begriffe

weaviate.io/blog/distance-metrics-in-vector-search

www.pinecone.io/learn/vector-database

weaviate.io/blog/distance-metrics-in-vector-search

weaviate.io/blog/distance-metrics-in-vector-search

THE LLM Stack

  • Gedächtnis
  • Interne Daten
  • Dokumente analysieren

Neue skills

  • Integration
  • Autonomie
  • Vielseitigkeit

Kann nicht

Agenten

Wir nutzen die AI um zu entscheiden, wie wir die AI nutzen wollen

Der Agent hat verschiedene Werkzeuge und überlegt, wann er welches Werkzeug benutzt

ReAct-LM

https://react-lm.github.io/

Neuer Task: Male ein Bild von einem Kuchen mit so vielen Kerzen wie der deutsche Bundeskanzler alt ist, gerechnet in Jupiter-Jahren.

 

Tools: Google-Suche, Mathe,  Dall-E Bildgenerierung

Beispiel

Beispiel

from langchain.agents import load_tools, initialize_agent, AgentType
from langchain.llms import OpenAI

llm = OpenAI(temperature=0)
tools = load_tools(["serpapi", "llm-math","dalle-image-generator"], llm=llm)

agent = initialize_agent(tools, llm, agent=AgentType.ZERO_SHOT_REACT_DESCRIPTION)

agent.run("Wie alt ist der deutsche Bundeskanzler? Wie lang ist ein Jupiter-Jahr? Wie alt ist der Kanzler in Jupiter-Jahren? Male ein Bild von einem Kuchen, der so viele Kerzen darauf hat.")
> Entering new AgentExecutor chain...
 I need to find out the age of the German Chancellor and convert it to Jupiter years.
Action: Search
Action Input: "German Chancellor age"
Observation: 65 years
Thought: I need to find out how long a Jupiter year is.
Action: Search
Action Input: "Jupiter year length"
Observation: 12 years
Thought: I need to convert the Chancellor's age to Jupiter years.
Action: Calculator
Action Input: 65/12
Observation: Answer: 5.416666666666667
Thought: I need to generate an image of a cake with the correct number of candles.
Action: Dall-E Image Generator
Action Input: "A cake with 5 candles on it"
Observation: https://oaidalleapiprodscus.blob.core.windows.net/private/org-XiU7Lfs6PbnyOQtGx5Jdn9uc/user-6EUJDYGZNsTdD7YfNpA7zOCD/img-QNZ4P6aeW2ZaiqUnuKE9WvlI.png?st=2023-09-04T10%3A16%3A16Z&se=2023-09-04T12%3A16%3A16Z&sp=r&sv=2021-08-06&sr=b&rscd=inline&rsct=image/png&skoid=6aaadede-4fb3-4698-a8f6-684d7786b067&sktid=a48cca56-e6da-484e-a814-9c849652bcb3&skt=2023-09-04T06%3A22%3A08Z&ske=2023-09-05T06%3A22%3A08Z&sks=b&skv=2021-08-06&sig=Uo9NZ4GLOnhMWHS92gu2WN8LyJC90pp24CoZ0TvRRzg%3D
Thought: I now know the final answer.
Final Answer: Der deutsche Bundeskanzler ist 65 Jahre alt und 5,4 Jupiter-Jahre alt. Ein Bild von einem Kuchen mit 5 Kerzen ist oben angehängt.

> Finished chain.
  • Integration von Tools
  • Anderer Input/Output
  • Autonom neue Aufgaben bearbeiten

Neue skills

  • Noch komplexere Aufgaben
  • Erlerntes Wissen nutzen

Kann nicht

Wie geht es noch weiter?

Lernende Agenten

Agent hält bei Bedarf Rücksprache mit Menschen und lernt aus dessen Anweisungen

Multi-Agenten

"Team" aus mehreren Agenten mit unterschiedlichen Personas und Tools, z.b. Projektleiter, Entwickler, QA-Experte etc.

AGI

Artifical general intelligence / "Superintelligenz"

KI, die sich selbst verbessern kann, selbstständig neue Fähigkeiten erlernen etc.

  • Haben ein Tool, das daraus besteht, bei einem Menschen um Rat zu fragen

  • Speichern sich die Antwort in einer Vektordatenbank

  • Erlernen dadurch immer mehr Wissen des Menschen, dem sie assistieren

Lernende agenten

  • Mehrere Agenten mit eigenen Personas, Aufgaben und Tools

  • Ermöglichen komplexere Aufgabenstellungen zu lösen

  • Zum Beispiel Projektmanager, QA-Tester, Software-Architekt, Entwickler, DevOps Engineer

Multi-Agenten systeme

Noch fragen oder Anmerkungen?

Kommt gerne in unseren Zoom-Call, Link wird im Chat gepostet

Made with Slides.com