Von Diven, 

Souffleusen und Regie

Als Entwickler*innen sollen wir jetzt mit
techno-ökonomischem Gespür auf die kommende
KI-Transformation zuarbeiten, von der wir eigentlich noch keine Ahnung haben.

Was ich beim Sascha Lobo verstanden habe

Ich so, vor
3 Jahren ...

https://slides.com/johann-peterhartmann/big-software-small-brain/

"Ich arbeite ja eh nur solange noch mit Euch Humanoiden zusammen, bis die neuronalen Netzwerke so weit sind."

... sowas von keine Ahnung ...

Klügere Leute, in der Zwischenzeit:

Goldman Sachs Study, a.k.a
"Who to fire next"

OpenAI wusste,
was sie anstellen

https://www.coatue.com/blog/perspective/ai-the-coming-revolution-2023

Nicht jeder Job ist mit Copy&Paste zu ersetzen

  • autonom
  • kognitiv
  • kommunikativ
  • modal adaptiv
  • aktiv
  • reaktiv
  • robust
  • sozial

Software Agenten

ReAct
Plan & Solve
Tree of Toughts

Was funktioniert: GPTs & Assistants

Assistenten für Entwickler:Innen

Wer nutzt CoPilot?

46% allen Github-Codes mit Copilot

Wie sieht es bei Java aus?

Auch von anderen bezahlte
Studien denken das :-)

Schach: Nur eine Phase

https://www.coatue.com/blog/perspective/ai-the-coming-revolution-2023

"Aber das Spiel Go wird nie passieren!"

Vom Copilot zum Autopilot.

Agenten lernen mittels LTM

AutoGPT:
Wenn ein Agent den gleichen Fehler zwei mal macht ist er keiner.

Digitalisierbarkeit der Arbeit

Sind wir digitalisierbar?

Was wir beruflich so machen:
Ideen in Programme übersetzen.

Ideen in Programme übersetzen

  • Anforderungen verstehen
  • Code implementieren
  • Code verstehen
  • Code ändern
  • Code testen
  • Fehler analysieren
  • Code ändern
  • Code testen
  • Fehler analysieren
  • Auf Stackoverflow suchen
  • Code ändern
  • Code testen
  • Dokumentation lesen 
  • ...

Sind Dokumentation, Artefakte, Wissen digital?

  • Anforderungen sind in Jira
  • Dokumentation ist Confluence
  • der Rest im Web
  • Alles ist im Versionsmanagement
  • Alles hat eine API

OpenAPI-Client in 4 Prompts

Generate 

client for Swagger

Add Inline
Documentation

Provide
markdown documentation

Test-Code for CI Integration

Würden Sie diesen
Agenten kaufen?

  • Betriebskosten 150.000$ pro Jahr
  • an 200 Tagen 8 Stunden betriebsfähig 
  • 750$ pro Tag
  • ca 100 Zeilen Code pro Tag
  • 7,5$ pro Zeile Code

Menschen: für Softwareentwicklung ungeeignet.

  • 7+-2 Elemente im Kurzzeitgedächtnis
  • Erinnert sich nur an kleine Teile vom Code
  • Hat die Dokumentation nicht gelesen bzw schon wieder vergessen

Die digitale Konkurrenz

  • an 363 Tagen 23,9 Stunden betriebsfähig 
  • 128k Token Kurzzeitgedächtnis
  • 0,05$ pro Zeile Code 
  • Faktor 100 schneller
  • Macht auch dumme Aufgaben 100-mal
  • Frei parallelisierbar
  • Brauch keine Coaches, kein Catering, Pausen und Massagen

Sollte man uns also jetzt feuern?

Was fehlt denn da noch?

Autonome Agenten können komplexe Aufgaben

  • verstehen
  • zerlegen
  • Schritte zu bearbeiten
  • bewerten

Mit dem Wissen aus dem initialen Foundation Model.

Übernimmt der neue frisch von der Universität alle Aufgaben?

Domänenwissen
wird gebraucht

Step 1: Prompting und Wissen in Vectordatenbanken

Step 2: Training the Agent Human in the Loop

https://hai.stanford.edu/news/humans-loop-design-interactive-ai-systems

Customer Care Agent in LangChain

Wissen als First Class Citizen

Aufgaben als Agenten-Souffleur

  • Initiales Prompting stützen
  • Relevante Daten bereitstellen
  • Neue Situationen trainieren
  • Sonderfälle bearbeiten
  • Drehbuch anpassen
     
  • Irgendwo zwischen Domänenspezialist, Businessanalyst und Entwickler

(mit techno-ökonomischem Gespür für
die kommende KI-Transformation,
(c) 2023 Lobo et al)

Agenten im Team

 Auch Software-Agenten 

https://github.com/mayflower/langchain_agents
Bitte schon mal auschecken!
Es gibt auch noch eine .env-Datei für Euch

Teamstruktur der Zukunft

🧍

Human

🤖

Product Owner

🤖

Architect

🤖

Developer

🤖

Testing Agent

🤖

Inline-
Documentor

🤖

Code-Quality Agent

🤖

Confluence

Intermediate Feedback and Observation

Interaction and Curation

🤖

Product Owner

🤖

Architect

🤖

Developer

🤖

Testing Agent

🤖

Inline-
Documentor

🤖

Code-Quality Agent

🤖

Confluence

Nutzerinterviews und Userstories in Jira

Architectur- entscheidungen & ADRs

Code schreiben und Testen

Tests schreiben und
ausführen

Story und Implementierung 

Tests schreiben und
ausführen

Kommentare im
Code zufügen

SOLID, Naming & Co

Reale Teamstruktur der Zukunft

🧍

Human

🤖

Requirements

🤖

Architect

🤖

Developer

🤖

Testing Agent

🤖

Inline-
Documentor

🤖

Code-Quality Agent

🤖

Confluence

🤖

BugFix-Agent

Takes a bug from
Logging and fixes it.

Ephemeral Code

  • Von Maschinen für Maschinen geschrieben
  • Wenn er nicht funktioniert wird er mit dem Fehlerinput neu generiert
  • Menschen lesen ihn nicht
  • GIT ist ein Deployment-Standard.

"The future top coding language will be English."

Coatue AI Full Report Nov 2023, https://drive.google.com/file/d/1gQhYT7j6b2wJmrFZHNeQgTiWPyTsjOfX/view

Regie: Richtung und Rahmen schaffen.

  • Architektur und Plattform schaffen
  • Integration: Tools bereitstellen
  • Wissen als First Class Citizen 
  • LLMOps:
    • FinOps
    • Observability
    • Model Drift & Prompt Logging

Scrum of Scrums

🧍

Human

🧍

Human

🧍

Human

🧍

Human

🤖

Requirements

🤖

Developer

🤖

Bugfix-Agent

🤖

Architect
(Shared)

🤖

Requirements

🤖

Developer

🤖

Bugfix-Agent

🤖

Requirements

🤖

Developer

🤖

Bugfix-Agent

🤖

Requirements

🤖

Developer

🤖

Bugfix-Agent

Organisation

Coatue AI Full Report Nov 2023, https://drive.google.com/file/d/1gQhYT7j6b2wJmrFZHNeQgTiWPyTsjOfX/view

State of the Art

  • Das existiert schon, hier, heute

  • Wenn das Domänenwissen eng genug ist

  • Wenn der Grad der Digitalisierung hoch genug ist

  • Wenn die technoökonomische KI-Kompetenz da ist

  • Wenn das Unternehmen den Change kann

Startpunkte

  • Auf dem Heimweg einen Agenten bauen https://python.langchain.com/

  • Heute nachmittag mitmachen! Auf dem Rechner!
    https://github.com/mayflower/langchain_agents

  • Embrace for Impact