Von Diven,
Souffleusen und Regie
Als Entwickler*innen sollen wir jetzt mit
techno-ökonomischem Gespür auf die kommende
KI-Transformation zuarbeiten, von der wir eigentlich noch keine Ahnung haben.
Was ich beim Sascha Lobo verstanden habe
Ich so, vor
3 Jahren ...
https://slides.com/johann-peterhartmann/big-software-small-brain/
"Ich arbeite ja eh nur solange noch mit Euch Humanoiden zusammen, bis die neuronalen Netzwerke so weit sind."
... sowas von keine Ahnung ...
Klügere Leute, in der Zwischenzeit:
Goldman Sachs Study, a.k.a
"Who to fire next"
OpenAI wusste,
was sie anstellen
https://www.coatue.com/blog/perspective/ai-the-coming-revolution-2023
Nicht jeder Job ist mit Copy&Paste zu ersetzen
- autonom
- kognitiv
- kommunikativ
- modal adaptiv
- aktiv
- reaktiv
- robust
- sozial
Software Agenten
ReAct
Plan & Solve
Tree of Toughts
Was funktioniert: GPTs & Assistants
Assistenten für Entwickler:Innen
Wer nutzt CoPilot?
46% allen Github-Codes mit Copilot
Wie sieht es bei Java aus?
Auch von anderen bezahlte
Studien denken das :-)
Schach: Nur eine Phase
https://www.coatue.com/blog/perspective/ai-the-coming-revolution-2023
"Aber das Spiel Go wird nie passieren!"
Vom Copilot zum Autopilot.
Agenten lernen mittels LTM
AutoGPT:
Wenn ein Agent den gleichen Fehler zwei mal macht ist er keiner.
Digitalisierbarkeit der Arbeit
Sind wir digitalisierbar?
Was wir beruflich so machen:
Ideen in Programme übersetzen.
Ideen in Programme übersetzen
- Anforderungen verstehen
- Code implementieren
- Code verstehen
- Code ändern
- Code testen
- Fehler analysieren
- Code ändern
- Code testen
- Fehler analysieren
- Auf Stackoverflow suchen
- Code ändern
- Code testen
- Dokumentation lesen
- ...
Sind Dokumentation, Artefakte, Wissen digital?
- Anforderungen sind in Jira
- Dokumentation ist Confluence
- der Rest im Web
- Alles ist im Versionsmanagement
- Alles hat eine API
OpenAPI-Client in 4 Prompts
Generate
client for Swagger
Add Inline
Documentation
Provide
markdown documentation
Test-Code for CI Integration
Würden Sie diesen
Agenten kaufen?
- Betriebskosten 150.000$ pro Jahr
- an 200 Tagen 8 Stunden betriebsfähig
- 750$ pro Tag
- ca 100 Zeilen Code pro Tag
- 7,5$ pro Zeile Code
Menschen: für Softwareentwicklung ungeeignet.
- 7+-2 Elemente im Kurzzeitgedächtnis
- Erinnert sich nur an kleine Teile vom Code
- Hat die Dokumentation nicht gelesen bzw schon wieder vergessen
Die digitale Konkurrenz
- an 363 Tagen 23,9 Stunden betriebsfähig
- 128k Token Kurzzeitgedächtnis
- 0,05$ pro Zeile Code
- Faktor 100 schneller
- Macht auch dumme Aufgaben 100-mal
- Frei parallelisierbar
- Brauch keine Coaches, kein Catering, Pausen und Massagen
Sollte man uns also jetzt feuern?
Was fehlt denn da noch?
Autonome Agenten können komplexe Aufgaben
- verstehen
- zerlegen
- Schritte zu bearbeiten
- bewerten
Mit dem Wissen aus dem initialen Foundation Model.
Übernimmt der neue frisch von der Universität alle Aufgaben?
Domänenwissen
wird gebraucht
Step 1: Prompting und Wissen in Vectordatenbanken
Step 2: Training the Agent Human in the Loop
https://hai.stanford.edu/news/humans-loop-design-interactive-ai-systems
Customer Care Agent in LangChain
Wissen als First Class Citizen
Aufgaben als Agenten-Souffleur
- Initiales Prompting stützen
- Relevante Daten bereitstellen
- Neue Situationen trainieren
- Sonderfälle bearbeiten
- Drehbuch anpassen
- Irgendwo zwischen Domänenspezialist, Businessanalyst und Entwickler
(mit techno-ökonomischem Gespür für
die kommende KI-Transformation,
(c) 2023 Lobo et al)
Agenten im Team
Auch Software-Agenten
https://github.com/mayflower/langchain_agents
Bitte schon mal auschecken!
Es gibt auch noch eine .env-Datei für Euch
Teamstruktur der Zukunft
🧍
Human
🤖
Product Owner
🤖
Architect
🤖
Developer
🤖
Testing Agent
🤖
Inline-
Documentor
🤖
Code-Quality Agent
🤖
Confluence
Intermediate Feedback and Observation
Interaction and Curation
🤖
Product Owner
🤖
Architect
🤖
Developer
🤖
Testing Agent
🤖
Inline-
Documentor
🤖
Code-Quality Agent
🤖
Confluence
Nutzerinterviews und Userstories in Jira
Architectur- entscheidungen & ADRs
Code schreiben und Testen
Tests schreiben und
ausführen
Story und Implementierung
Tests schreiben und
ausführen
Kommentare im
Code zufügen
SOLID, Naming & Co
Reale Teamstruktur der Zukunft
🧍
Human
🤖
Requirements
🤖
Architect
🤖
Developer
🤖
Testing Agent
🤖
Inline-
Documentor
🤖
Code-Quality Agent
🤖
Confluence
🤖
BugFix-Agent
Takes a bug from
Logging and fixes it.
Ephemeral Code
- Von Maschinen für Maschinen geschrieben
- Wenn er nicht funktioniert wird er mit dem Fehlerinput neu generiert
- Menschen lesen ihn nicht
- GIT ist ein Deployment-Standard.
"The future top coding language will be English."
Coatue AI Full Report Nov 2023, https://drive.google.com/file/d/1gQhYT7j6b2wJmrFZHNeQgTiWPyTsjOfX/view
Regie: Richtung und Rahmen schaffen.
- Architektur und Plattform schaffen
- Integration: Tools bereitstellen
- Wissen als First Class Citizen
- LLMOps:
- FinOps
- Observability
- Model Drift & Prompt Logging
Scrum of Scrums
🧍
Human
🧍
Human
🧍
Human
🧍
Human
🤖
Requirements
🤖
Developer
🤖
Bugfix-Agent
🤖
Architect
(Shared)
🤖
Requirements
🤖
Developer
🤖
Bugfix-Agent
🤖
Requirements
🤖
Developer
🤖
Bugfix-Agent
🤖
Requirements
🤖
Developer
🤖
Bugfix-Agent
Organisation
Coatue AI Full Report Nov 2023, https://drive.google.com/file/d/1gQhYT7j6b2wJmrFZHNeQgTiWPyTsjOfX/view
State of the Art
-
Das existiert schon, hier, heute
-
Wenn das Domänenwissen eng genug ist
-
Wenn der Grad der Digitalisierung hoch genug ist
-
Wenn die technoökonomische KI-Kompetenz da ist
-
Wenn das Unternehmen den Change kann
Startpunkte
-
Auf dem Heimweg einen Agenten bauen https://python.langchain.com/
-
Heute nachmittag mitmachen! Auf dem Rechner!
https://github.com/mayflower/langchain_agents -
Embrace for Impact
Von Diven, Souffleusen und Regie
By Johann-Peter Hartmann
Von Diven, Souffleusen und Regie
Wenn Wissensarbeit digital wird und Computer Kreativität, Kommunikation und die Bearbeitung von Dokumenten schneller, preiswerter, besser können: Was bedeutet das für uns Software-Menschen? Natürlich entstehen und laufen diese Lösungen nicht von alleine – zumindest bisher nicht. Wie ändert sich unsere Aufgabe, wenn die Prophezeiungen der Universitäten, der Firmen und der großen Beratungen stimmen? Wenn Wissensarbeit nicht mehr durch Menschen, sondern durch autonome Agenten geschieht? Was machen wir, wenn uns die Hauptrolle genommen wird?
- 400