Von Diven, 

Souffleusen und Regie

Als Entwickler*innen sollen wir jetzt mit
techno-ökonomischem Gespür auf die kommende
KI-Transformation zuarbeiten, von der wir eigentlich noch keine Ahnung haben.

Was ich beim Sascha Lobo verstanden habe

Ich so, vor
3 Jahren ...

https://slides.com/johann-peterhartmann/big-software-small-brain/

"Ich arbeite ja eh nur solange noch mit Euch Humanoiden zusammen, bis die neuronalen Netzwerke so weit sind."

... sowas von keine Ahnung ...

Klügere Leute, in der Zwischenzeit:

Goldman Sachs Study, a.k.a
"Who to fire next"

OpenAI wusste,
was sie anstellen

https://www.coatue.com/blog/perspective/ai-the-coming-revolution-2023

Nicht jeder Job ist mit Copy&Paste zu ersetzen

  • autonom
  • kognitiv
  • kommunikativ
  • modal adaptiv
  • aktiv
  • reaktiv
  • robust
  • sozial

Software Agenten

ReAct
Plan & Solve
Tree of Toughts

Was funktioniert: GPTs & Assistants

Assistenten für Entwickler:Innen

Wer nutzt CoPilot?

46% allen Github-Codes mit Copilot

Wie sieht es bei Java aus?

Auch von anderen bezahlte
Studien denken das :-)

Schach: Nur eine Phase

https://www.coatue.com/blog/perspective/ai-the-coming-revolution-2023

"Aber das Spiel Go wird nie passieren!"

Vom Copilot zum Autopilot.

Agenten lernen mittels LTM

AutoGPT:
Wenn ein Agent den gleichen Fehler zwei mal macht ist er keiner.

Digitalisierbarkeit der Arbeit

Sind wir digitalisierbar?

Was wir beruflich so machen:
Ideen in Programme übersetzen.

Ideen in Programme übersetzen

  • Anforderungen verstehen
  • Code implementieren
  • Code verstehen
  • Code ändern
  • Code testen
  • Fehler analysieren
  • Code ändern
  • Code testen
  • Fehler analysieren
  • Auf Stackoverflow suchen
  • Code ändern
  • Code testen
  • Dokumentation lesen 
  • ...

Sind Dokumentation, Artefakte, Wissen digital?

  • Anforderungen sind in Jira
  • Dokumentation ist Confluence
  • der Rest im Web
  • Alles ist im Versionsmanagement
  • Alles hat eine API

OpenAPI-Client in 4 Prompts

Generate 

client for Swagger

Add Inline
Documentation

Provide
markdown documentation

Test-Code for CI Integration

Würden Sie diesen
Agenten kaufen?

  • Betriebskosten 150.000$ pro Jahr
  • an 200 Tagen 8 Stunden betriebsfähig 
  • 750$ pro Tag
  • ca 100 Zeilen Code pro Tag
  • 7,5$ pro Zeile Code

Menschen: für Softwareentwicklung ungeeignet.

  • 7+-2 Elemente im Kurzzeitgedächtnis
  • Erinnert sich nur an kleine Teile vom Code
  • Hat die Dokumentation nicht gelesen bzw schon wieder vergessen

Die digitale Konkurrenz

  • an 363 Tagen 23,9 Stunden betriebsfähig 
  • 128k Token Kurzzeitgedächtnis
  • 0,05$ pro Zeile Code 
  • Faktor 100 schneller
  • Macht auch dumme Aufgaben 100-mal
  • Frei parallelisierbar
  • Brauch keine Coaches, kein Catering, Pausen und Massagen

Sollte man uns also jetzt feuern?

Was fehlt denn da noch?

Autonome Agenten können komplexe Aufgaben

  • verstehen
  • zerlegen
  • Schritte zu bearbeiten
  • bewerten

Mit dem Wissen aus dem initialen Foundation Model.

Übernimmt der neue frisch von der Universität alle Aufgaben?

Domänenwissen
wird gebraucht

Step 1: Prompting und Wissen in Vectordatenbanken

Step 2: Training the Agent Human in the Loop

https://hai.stanford.edu/news/humans-loop-design-interactive-ai-systems

Customer Care Agent in LangChain

Wissen als First Class Citizen

Aufgaben als Agenten-Souffleur

  • Initiales Prompting stützen
  • Relevante Daten bereitstellen
  • Neue Situationen trainieren
  • Sonderfälle bearbeiten
  • Drehbuch anpassen
     
  • Irgendwo zwischen Domänenspezialist, Businessanalyst und Entwickler

(mit techno-ökonomischem Gespür für
die kommende KI-Transformation,
(c) 2023 Lobo et al)

Agenten im Team

 Auch Software-Agenten 

https://github.com/mayflower/langchain_agents
Bitte schon mal auschecken!
Es gibt auch noch eine .env-Datei für Euch

Teamstruktur der Zukunft

🧍

Human

🤖

Product Owner

🤖

Architect

🤖

Developer

🤖

Testing Agent

🤖

Inline-
Documentor

🤖

Code-Quality Agent

🤖

Confluence

Intermediate Feedback and Observation

Interaction and Curation

🤖

Product Owner

🤖

Architect

🤖

Developer

🤖

Testing Agent

🤖

Inline-
Documentor

🤖

Code-Quality Agent

🤖

Confluence

Nutzerinterviews und Userstories in Jira

Architectur- entscheidungen & ADRs

Code schreiben und Testen

Tests schreiben und
ausführen

Story und Implementierung 

Tests schreiben und
ausführen

Kommentare im
Code zufügen

SOLID, Naming & Co

Reale Teamstruktur der Zukunft

🧍

Human

🤖

Requirements

🤖

Architect

🤖

Developer

🤖

Testing Agent

🤖

Inline-
Documentor

🤖

Code-Quality Agent

🤖

Confluence

🤖

BugFix-Agent

Takes a bug from
Logging and fixes it.

Ephemeral Code

  • Von Maschinen für Maschinen geschrieben
  • Wenn er nicht funktioniert wird er mit dem Fehlerinput neu generiert
  • Menschen lesen ihn nicht
  • GIT ist ein Deployment-Standard.

"The future top coding language will be English."

Coatue AI Full Report Nov 2023, https://drive.google.com/file/d/1gQhYT7j6b2wJmrFZHNeQgTiWPyTsjOfX/view

Regie: Richtung und Rahmen schaffen.

  • Architektur und Plattform schaffen
  • Integration: Tools bereitstellen
  • Wissen als First Class Citizen 
  • LLMOps:
    • FinOps
    • Observability
    • Model Drift & Prompt Logging

Scrum of Scrums

🧍

Human

🧍

Human

🧍

Human

🧍

Human

🤖

Requirements

🤖

Developer

🤖

Bugfix-Agent

🤖

Architect
(Shared)

🤖

Requirements

🤖

Developer

🤖

Bugfix-Agent

🤖

Requirements

🤖

Developer

🤖

Bugfix-Agent

🤖

Requirements

🤖

Developer

🤖

Bugfix-Agent

Organisation

Coatue AI Full Report Nov 2023, https://drive.google.com/file/d/1gQhYT7j6b2wJmrFZHNeQgTiWPyTsjOfX/view

State of the Art

  • Das existiert schon, hier, heute

  • Wenn das Domänenwissen eng genug ist

  • Wenn der Grad der Digitalisierung hoch genug ist

  • Wenn die technoökonomische KI-Kompetenz da ist

  • Wenn das Unternehmen den Change kann

Startpunkte

  • Auf dem Heimweg einen Agenten bauen https://python.langchain.com/

  • Heute nachmittag mitmachen! Auf dem Rechner!
    https://github.com/mayflower/langchain_agents

  • Embrace for Impact 

Von Diven, Souffleusen und Regie

By Johann-Peter Hartmann

Von Diven, Souffleusen und Regie

Wenn Wissensarbeit digital wird und Computer Kreativität, Kommunikation und die Bearbeitung von Dokumenten schneller, preiswerter, besser können: Was bedeutet das für uns Software-Menschen? Natürlich entstehen und laufen diese Lösungen nicht von alleine – zumindest bisher nicht. Wie ändert sich unsere Aufgabe, wenn die Prophezeiungen der Universitäten, der Firmen und der großen Beratungen stimmen? Wenn Wissensarbeit nicht mehr durch Menschen, sondern durch autonome Agenten geschieht? Was machen wir, wenn uns die Hauptrolle genommen wird?

  • 400