„What magical trick makes us intelligent?
The trick is that there is no trick. The power of intelligence stems from our vast diversity, not from any single, perfect principle.“

Von Diven, 

Souffleusen und Regie

https://t.ly/1Luly

Diven?

Die echten Diven

"After ChatGPT"

Goldman Sachs Study, a.k.a
"Who to fire next"

OpenAI wusste,
was sie anstellen

https://www.coatue.com/blog/perspective/ai-the-coming-revolution-2023

Nicht jeder Job ist mit Copy&Paste zu ersetzen

  • autonom
  • kognitiv
  • kommunikativ
  • modal adaptiv
  • aktiv
  • reaktiv
  • robust
  • sozial

Software Agenten

ReAct
Plan & Solve
Tree of Toughts

CAMEL AgentKit

Was funktioniert: GPTs & Assistants

Assistenten für Entwickler:Innen

Wer nutzt CoPilot?

46% allen Github-Codes mit Copilot

Wie sieht es bei Java aus?

Auch von anderen bezahlte
Studien denken das :-)

Schach: Nur eine Phase

https://www.coatue.com/blog/perspective/ai-the-coming-revolution-2023

"Aber das Spiel Go wird nie passieren!"

Vom Copilot zum Autopilot.

Agenten lernen mittels LTM

Agenten lernen mittels LTM

Agenten Planen

Es ist kein Agent, wenn

  • er nicht lernt und sich Fehler wiederholen
  • er nach Anweisungen fragt statt selbst zu lanen

Wie digital ist seine Welt?

Sind wir digitalisierbar?

Was wir beruflich so machen:
Ideen in Programme übersetzen.

Ideen in Programme übersetzen

  • Anforderungen verstehen
  • Lösungen brainstormen
  • Code implementieren
  • Code testen
  • Code auf Verdacht ändern
  • Code noch mal testen
  • Fehler weiter analysieren
  • Code noch mal ändern
  • Code noch mal testen
  • Wieder Fehler analysieren
  • Auf Stack Overflow suchen
  • Code wieder ändern
  • Code wieder testen
  • Dokumentation lesen 
  • ...

Sind Dokumentation, Artefakte, Wissen digital?

  • Anforderungen sind in Jira
  • Dokumentation ist Confluence
  • der Rest im Web
  • Alles ist im Versionsmanagement
  • Alles hat eine API

OpenAPI-Client in 4 Prompts

Generate 

client for Swagger

Add Inline
Documentation

Provide
markdown documentation

Test-Code for CI Integration

Würden Sie diesen
Agenten kaufen?

  • Betriebskosten 150.000$ pro Jahr
  • an 200 Tagen 8 Stunden betriebsfähig 
  • 750$ pro Tag
  • ca 100 Zeilen Code pro Tag
  • 7,5$ pro Zeile Code

Menschen: für Softwareentwicklung ungeeignet.

  • 7+-2 Elemente im Kurzzeitgedächtnis
  • Erinnert sich nur an kleine Teile vom Code
  • Hat die Dokumentation nicht gelesen
  • Aber nicht vollständig verstanden.
     
  • Was stand auf der letzten Slide?

Die digitale Konkurrenz

  • an 363 Tagen 23,9 Stunden betriebsfähig 
  • 128k Token Kurzzeitgedächtnis
  • 0,05$ pro Zeile Code 
  • Faktor 100 schneller
  • Macht auch dumme Aufgaben 100-mal
  • Frei parallelisierbar
     
  • Brauch keine Coaches, kein Catering, keine Pausen und Massagen

Sollte man uns also jetzt feuern?

Was fehlt denn da noch?

Autonome Agenten können komplexe Aufgaben

  • verstehen
  • zerlegen
  • Schritte zu bearbeiten
  • bewerten

Mit dem Wissen aus dem initialen Foundation Model.

Übernimmt der neue frisch von der Universität alle Aufgaben?

AutoGPTs und Co

Domänenwissen
wird gebraucht

Step 1: Flow Engineering

Mehr als Programmieren

  • Brainstorming mit Kunden
  • Userjourney und UX
  • Dekomposition und Softwaredesign
  • Diskutieren, reflektieren
  • Recherchieren, Suchen, Lernen 
  • Tests konzipieren und schreiben
  • Debuggen, Stabilisieren, Optimieren
  • Dokumentieren, Erklären
  • ...

Spezialisierter Software
Development Flow

https://github.com/Codium-ai/AlphaCodium

Regie:
Basis und Flow

  • Architektur und Plattform schaffen
  • Flow Engineering
  • Integration: Tools bereitstellen
  • Wissen als First Class Citizen 
  • LLMOps:
    • FinOps
    • Observability
    • Model Drift & Prompt Logging

Step 2: Prompting und Wissen in Vectordatenbanken

Few Shot CodeGen

https://github.com/mayflower/langchain/blob/master/libs/experimental/langchain_experimental/sql/prompt.py

Step 3: Training the Agent Human in the Loop

https://hai.stanford.edu/news/humans-loop-design-interactive-ai-systems

Wissen als First Class Citizen

Aufgaben als Agenten-Souffleur

  • Initiales Prompting stützen
  • Flow verbessern
  • Relevante Daten bereitstellen
  • Neue Situationen trainieren
  • Sonderfälle bearbeiten
  • Drehbuch anpassen
     
  • Irgendwo zwischen Domänenspezialist, Businessanalyst und Entwickler
     
  • "Prompt-Engineers" braucht es so wenig wie "Excel-Engineers"

https://microsoft.github.io/autogen/docs/tutorial/conversation-patterns/

Agenten im Team

Teamstruktur der Zukunft

🧍

Human

🤖

Product Owner

🤖

Architect

🤖

Developer

🤖

Testing Agent

🤖

Inline-
Documentor

🤖

Code-Quality Agent

🤖

Confluence

Intermediate Feedback and Observation

Interaction and Curation

Reale Teamstruktur der Zukunft

🧍

Human

🤖

Requirements

🤖

Architect

🤖

Developer

🤖

Testing Agent

🤖

Inline-
Documentor

🤖

Code-Quality Agent

🤖

Confluence

🤖

BugFix-Agent

Takes a bug from
Logging and fixes it.

Ephemeral Code

  • Von Maschinen für Maschinen geschrieben
  • Wenn er nicht funktioniert wird er mit dem Fehlerinput neu generiert
  • Menschen lesen ihn nicht
  • GIT ist ein Deployment-Standard.

"The future top coding language will be English."

Coatue AI Full Report Nov 2023, https://drive.google.com/file/d/1gQhYT7j6b2wJmrFZHNeQgTiWPyTsjOfX/view

Scrum of Scrums

🧍

Human

🧍

Human

🧍

Human

🧍

Human

🤖

Requirements

🤖

Developer

🤖

Bugfix-Agent

🤖

Architect
(Shared)

🤖

Requirements

🤖

Developer

🤖

Bugfix-Agent

🤖

Requirements

🤖

Developer

🤖

Bugfix-Agent

🤖

Requirements

🤖

Developer

🤖

Bugfix-Agent

Organisation

Coatue AI Full Report Nov 2023, https://drive.google.com/file/d/1gQhYT7j6b2wJmrFZHNeQgTiWPyTsjOfX/view

https://hups.com/blog/are-developers-needed-in-the-age-of-ai

State of the Art

  • Ich kann jetzt mit Agenten arbeiten

  • Wenn das Domänenwissen eng genug ist

  • Wenn der Grad der Digitalisierung hoch genug ist

  • Wenn die KI-Kompetenz da ist

  • Wenn das Unternehmen Change kann

Startpunkte

  • Selbst einen Agenten bauen:
    https://github.com/mayflower/langchain_agents

  • Henrik Kniberg lesen:
    https://hups.com/blog/are-developers-needed-in-the-age-of-ai

  • Flow Engineering mit LangGraph
    https://www.youtube.com/watch?v=eBjxz7qrNBs

https://doi.org/10.48550/arXiv.2404.08144

Slides: https://t.ly/1Luly