Autonome Agenten sind das Buzzword des Jahres.
Aber was macht so ein Agent eigentlich, wenn niemand hinschaut? Wie autonom ist er wirklich? Und hilft er mir tatsächlich mit irgendwas?

Um das herauszufinden, habe ich einem KI-Agenten etwas anvertraut, das echte Konsequenzen hat: mein 30 Jahre altes Motorboot.
Es liegt ganzjährig im Wasser, 70 Kilometer von mir entfernt. Der Agent überwacht die Bilge, wertet Kamerabilder aus, hört auf Geräusche im Maschinenraum, erkennt Wassereinbruch und handelt. Alles läuft lokal an Bord, auf einem Mini-PC mit lokalem LLM, Sensoren und Kameras.

In diesem Vortrag zeige ich, was dabei wirklich passiert: Wo der Agent eigenständig gute Entscheidungen trifft und wo er grandios scheitert. Was er sieht, was er zu sehen glaubt, und wann er mich nachts um drei anruft, weil er ein Ereignis halluziniert. Welche Aufgaben ich ihm inzwischen blind anvertraue und wo ich ihm bewusst die Hände gebunden habe. Denn an einer physischen Entität, die absaufen kann, wird plötzlich greifbar, was Autonomie tatsächlich bedeutet: Es geht nicht darum, was ein Agent kann, sondern was passiert, wenn er sich irrt, und wer es merkt.

Am Ende werfen wir einen kurzen Blick über die Bordwand: Denn dieselben Muster, die im Maschinenraum sichtbar werden, zeigen sich gerade überall dort, wo Agenten Aufgaben, Jobs und Abteilungen übernehmen sollen. Wer verstanden hat, warum man einem Agenten die Bilgepumpe anvertraut, aber nicht das Seeventil, versteht auch, wie Agenten-Orchestrierung in Organisationen funktioniert.
Kein Hype, kein Untergangsszenario, sondern ein ehrlicher Erfahrungsbericht.