Mike Cannon-Brooks: Die Verantwortung für die Nutzung von KI-Agenten liegt bei den Nutzern

Atlassian-Mitbegründer Mike Cannon-Brookes betont die Bedeutung von Verantwortung beim Einsatz von KI-Agenten am Arbeitsplatz. "Dies ist ChatGPT im Namen von Mike. Dies ist Mike, der ChatGPT verwendet. Es ist nicht ChatGPT, das es tut", sagte Cannon-Brookes in einem Interview am Rande des Großen Preises von Singapur. Die Verantwortung, so sagt er, sollte beim Endbenutzer liegen: "Die Verantwortung liegt bei Mike. Letztendlich sollte sie beim Endbenutzer liegen."

Am 6. Oktober startete Atlassian das "Agent Multiplayer Protocol" – eine Verwaltungsebene, die KI-Agenten als sichtbare und verwaltbare Mitglieder von Arbeitsteams mit individuellen Profilen und Eigentümerzuweisung macht. Änderungen durch Agenten sollten in der Dokumenthistorie genauso reflektiert werden wie die Änderungen eines Kollegen. "Man sollte sehen, wer was wann gemacht hat", sagte Cannon-Brookes und fügte hinzu, dass das Programm nicht behaupten sollte, dass Codex die Änderung vorgenommen hat: "Nein, ein Mensch hat das getan."

Persönliche KI-Agenten kommen auf den Markt – Muse von Meta und Dots von OpenAI. Laut Cannon-Brookes "nehmen solche Produkte das Agentensystem und machen die Interaktion unsichtbar", indem sie komplexe Operationen im Hintergrund ausführen, selbst wenn die Aufgabe des Benutzers einfach ist. In einer Verbraucherumgebung ist dies akzeptabel, aber nicht am Arbeitsplatz: "In einer Arbeitsumgebung gibt es viele Diskussionen über Berechtigungen, Sicherheit und Compliance." Ein Mitarbeiter, der Inhalte basierend auf privilegierten Informationen erstellt, kann schnell ein Problem schaffen. Cannon-Brookes' Beispiel: Ein Mitarbeiter erstellt ein visuelles Diagramm aus internen Dokumenten – "man muss sehr vorsichtig sein, wenn man dies an jemanden sendet, der dieselben Dokumente sieht: man will kein Leck."

Noch schlimmer ist, dass die meisten KI-Schnittstellen schwer zu verstehen sind. "KI kann erstaunliche, unglaublich leistungsstarke Dinge tun. Die meisten Menschen tun sehr einfache Dinge wegen der Schnittstelle", sagte Cannon-Brookes. "Die Erfahrung ist sehr schlecht." Er zog eine Analogie zu einem Textverarbeitungsprogramm: "Wenn man an Microsoft Word mit einer Symbolleiste denkt – man lernt, fett und kursiv zu verwenden. Wenn all das verschwunden wäre und nur noch Tastenkombinationen blieben, würden alle Dokumente wie einfacher Text aussehen."

Im Jahr 2024 startete Atlassian Rovo – einen internen KI-Assistenten, der Menschen, Projekte, Code und Unternehmenswissen verbindet. "Wir mussten viele neue grundlegende Designmuster erfinden, die sich vertraut anfühlen", sagte Cannon-Brookes und verwies auf Funktionen, die es ermöglichen, Atlassian-Konten mit Figma, Codex, Claude und anderen Tools zu verknüpfen und zwischen ihnen zu wechseln.