Die Gestaltung von Interaktionsmustern für KI-Agenten ist ein faszinierender Prozess. Theoretisch sollte es so einfach sein, die Interaktion zu gestalten, die man mit einer anderen Person haben möchte, die für einen arbeitet. Ein großer Unterschied besteht jedoch darin, dass es diesen Arbeiter nichts kostet, all die Arbeit, die er unterwegs leistet, zu zeigen oder wie er zu seinem Endergebnis gekommen ist, was ein riesiger Vorteil ist. Gleichzeitig möchte man in der Regel das Vertrauen haben, dass er das Richtige tut, oder man muss ihn möglicherweise in eine andere Richtung lenken, wenn er vom Kurs abkommt. In der Ära der Automatisierung und Roboter wird es wahrscheinlich sehr hilfreich sein, mehr Kontext darüber zu sehen, was das KI-System sieht, um Vertrauen aufzubauen. Wenn man in einen Waymo oder Tesla FSD einsteigt, steigt das Vertrauen in die Technologie, weil man sieht, dass es viel mehr sieht, als man dachte. Das Gleiche gilt für KI-Agenten. Der Schlüssel liegt also darin, das richtige Gleichgewicht zu finden zwischen dem Zeigen von zu viel, sodass der Benutzer es unmöglich verstehen kann (oder vielleicht „ui“ sagt, wenn er sieht, wie es tatsächlich funktioniert) und dem Zeigen von zu wenig, sodass die Prozesse zu obskur sind, um einen Wert daraus zu ziehen. Das wird eine der interessanteren Designherausforderungen in der Ära der KI-Agenten sein.