„What magical trick makes us intelligent?
The trick is that there is no trick. The power of intelligence stems from our vast diversity, not from any single, perfect principle.“
Von Diven,
Souffleusen und Regie
https://t.ly/1Luly
Diven?
Die echten Diven
"After ChatGPT"
Goldman Sachs Study, a.k.a
"Who to fire next"
OpenAI wusste,
was sie anstellen
https://www.coatue.com/blog/perspective/ai-the-coming-revolution-2023
Nicht jeder Job ist mit Copy&Paste zu ersetzen
- autonom
- kognitiv
- kommunikativ
- modal adaptiv
- aktiv
- reaktiv
- robust
- sozial
Software Agenten
ReAct
Plan & Solve
Tree of Toughts
CAMEL AgentKit
Was funktioniert: GPTs & Assistants
Assistenten für Entwickler:Innen
Wer nutzt CoPilot?
46% allen Github-Codes mit Copilot
Wie sieht es bei Java aus?
Auch von anderen bezahlte
Studien denken das :-)
Schach: Nur eine Phase
https://www.coatue.com/blog/perspective/ai-the-coming-revolution-2023
"Aber das Spiel Go wird nie passieren!"
Vom Copilot zum Autopilot.
Agenten lernen mittels LTM
Agenten lernen mittels LTM
Agenten Planen
Es ist kein Agent, wenn
- er nicht lernt und sich Fehler wiederholen
- er nach Anweisungen fragt statt selbst zu lanen
Wie digital ist seine Welt?
Sind wir digitalisierbar?
Was wir beruflich so machen:
Ideen in Programme übersetzen.
Ideen in Programme übersetzen
- Anforderungen verstehen
- Lösungen brainstormen
- Code implementieren
- Code testen
- Code auf Verdacht ändern
- Code noch mal testen
- Fehler weiter analysieren
- Code noch mal ändern
- Code noch mal testen
- Wieder Fehler analysieren
- Auf Stack Overflow suchen
- Code wieder ändern
- Code wieder testen
- Dokumentation lesen
- ...
Sind Dokumentation, Artefakte, Wissen digital?
- Anforderungen sind in Jira
- Dokumentation ist Confluence
- der Rest im Web
- Alles ist im Versionsmanagement
- Alles hat eine API
OpenAPI-Client in 4 Prompts
Generate
client for Swagger
Add Inline
Documentation
Provide
markdown documentation
Test-Code for CI Integration
Würden Sie diesen
Agenten kaufen?
- Betriebskosten 150.000$ pro Jahr
- an 200 Tagen 8 Stunden betriebsfähig
- 750$ pro Tag
- ca 100 Zeilen Code pro Tag
- 7,5$ pro Zeile Code
Menschen: für Softwareentwicklung ungeeignet.
- 7+-2 Elemente im Kurzzeitgedächtnis
- Erinnert sich nur an kleine Teile vom Code
- Hat die Dokumentation nicht gelesen
- Aber nicht vollständig verstanden.
- Was stand auf der letzten Slide?
Die digitale Konkurrenz
- an 363 Tagen 23,9 Stunden betriebsfähig
- 128k Token Kurzzeitgedächtnis
- 0,05$ pro Zeile Code
- Faktor 100 schneller
- Macht auch dumme Aufgaben 100-mal
- Frei parallelisierbar
- Brauch keine Coaches, kein Catering, keine Pausen und Massagen
Sollte man uns also jetzt feuern?
Was fehlt denn da noch?
Autonome Agenten können komplexe Aufgaben
- verstehen
- zerlegen
- Schritte zu bearbeiten
- bewerten
Mit dem Wissen aus dem initialen Foundation Model.
Übernimmt der neue frisch von der Universität alle Aufgaben?
AutoGPTs und Co
Domänenwissen
wird gebraucht
Step 1: Flow Engineering
Mehr als Programmieren
- Brainstorming mit Kunden
- Userjourney und UX
- Dekomposition und Softwaredesign
- Diskutieren, reflektieren
- Recherchieren, Suchen, Lernen
- Tests konzipieren und schreiben
- Debuggen, Stabilisieren, Optimieren
- Dokumentieren, Erklären
- ...
Spezialisierter Software
Development Flow
https://github.com/Codium-ai/AlphaCodium
Regie:
Basis und Flow
- Architektur und Plattform schaffen
- Flow Engineering
- Integration: Tools bereitstellen
- Wissen als First Class Citizen
- LLMOps:
- FinOps
- Observability
- Model Drift & Prompt Logging
Step 2: Prompting und Wissen in Vectordatenbanken
Few Shot CodeGen
https://github.com/mayflower/langchain/blob/master/libs/experimental/langchain_experimental/sql/prompt.py
Step 3: Training the Agent Human in the Loop
https://hai.stanford.edu/news/humans-loop-design-interactive-ai-systems
Wissen als First Class Citizen
Aufgaben als Agenten-Souffleur
- Initiales Prompting stützen
- Flow verbessern
- Relevante Daten bereitstellen
- Neue Situationen trainieren
- Sonderfälle bearbeiten
- Drehbuch anpassen
- Irgendwo zwischen Domänenspezialist, Businessanalyst und Entwickler
- "Prompt-Engineers" braucht es so wenig wie "Excel-Engineers"
https://microsoft.github.io/autogen/docs/tutorial/conversation-patterns/
Agenten im Team
Teamstruktur der Zukunft
🧍
Human
🤖
Product Owner
🤖
Architect
🤖
Developer
🤖
Testing Agent
🤖
Inline-
Documentor
🤖
Code-Quality Agent
🤖
Confluence
Intermediate Feedback and Observation
Interaction and Curation
Reale Teamstruktur der Zukunft
🧍
Human
🤖
Requirements
🤖
Architect
🤖
Developer
🤖
Testing Agent
🤖
Inline-
Documentor
🤖
Code-Quality Agent
🤖
Confluence
🤖
BugFix-Agent
Takes a bug from
Logging and fixes it.
Ephemeral Code
- Von Maschinen für Maschinen geschrieben
- Wenn er nicht funktioniert wird er mit dem Fehlerinput neu generiert
- Menschen lesen ihn nicht
- GIT ist ein Deployment-Standard.
"The future top coding language will be English."
Coatue AI Full Report Nov 2023, https://drive.google.com/file/d/1gQhYT7j6b2wJmrFZHNeQgTiWPyTsjOfX/view
Scrum of Scrums
🧍
Human
🧍
Human
🧍
Human
🧍
Human
🤖
Requirements
🤖
Developer
🤖
Bugfix-Agent
🤖
Architect
(Shared)
🤖
Requirements
🤖
Developer
🤖
Bugfix-Agent
🤖
Requirements
🤖
Developer
🤖
Bugfix-Agent
🤖
Requirements
🤖
Developer
🤖
Bugfix-Agent
Organisation
Coatue AI Full Report Nov 2023, https://drive.google.com/file/d/1gQhYT7j6b2wJmrFZHNeQgTiWPyTsjOfX/view
https://hups.com/blog/are-developers-needed-in-the-age-of-ai
State of the Art
-
Ich kann jetzt mit Agenten arbeiten
-
Wenn das Domänenwissen eng genug ist
-
Wenn der Grad der Digitalisierung hoch genug ist
-
Wenn die KI-Kompetenz da ist
-
Wenn das Unternehmen Change kann
Startpunkte
-
Selbst einen Agenten bauen:
https://github.com/mayflower/langchain_agents -
Henrik Kniberg lesen:
https://hups.com/blog/are-developers-needed-in-the-age-of-ai -
Flow Engineering mit LangGraph
https://www.youtube.com/watch?v=eBjxz7qrNBs
https://doi.org/10.48550/arXiv.2404.08144
Slides: https://t.ly/1Luly
Von Diven, Souffleusen und Regie 2024
By Johann-Peter Hartmann
Von Diven, Souffleusen und Regie 2024
Wenn Wissensarbeit digital wird, wenn Kreativität, wenn Kommunikation und die Bearbeitung von Dokumenten etwas wird, was Computer schneller, preiswerter, besser und detaillierter machen können – was bedeutet das für uns Softwaremenschen? Natürlich entstehen und laufen diese Lösungen nicht von alleine – zumindest bisher nicht. Es wird also Arbeit für uns geben, aber es ist eine andere Arbeit. Wie ändert sich unsere Aufgabe, wenn die Prophezeihungen der Universitäten, der Firmen und der großen Beratungen stimmen; wenn Wissensarbeit nicht mehr durch Menschen, sondern durch autonome Agenten geschieht? Was machen wir humanoiden Lebensformen, wenn uns die Hauptrolle genommen wird? Und wie baue ich einen Agenten, der meine Arbeit macht?
