Mendesain untuk pola interaksi agen AI adalah proses yang sangat menarik. Secara teori, itu harus sesederhana merancang interaksi yang ingin Anda lakukan dengan orang lain yang melakukan pekerjaan untuk Anda. Perbedaan besar, bagaimanapun, adalah tidak ada biaya bagi pekerja ini untuk menunjukkan semua pekerjaan yang dilakukannya di sepanjang jalan, atau bagaimana itu sampai pada hasil akhirnya, yang merupakan aset besar. Dan pada saat yang sama, Anda umumnya menginginkan keyakinan bahwa itu melakukan hal yang benar, atau Anda mungkin perlu memiringkannya ke arah yang berbeda jika keluar dari rel. Di era otomatisasi dan robot, melihat lebih banyak konteks tentang apa yang terlihat dari sistem AI kemungkinan akan sangat membantu untuk membangun kepercayaan. Ketika Anda masuk ke Waymo atau Tesla FSD, kepercayaan diri Anda meningkat untuk teknologi tersebut karena Anda dapat melihat bahwa teknologi ini melihat jauh lebih dari yang Anda sadari. Hal yang sama berlaku untuk agen AI. Kuncinya kemudian adalah menemukan keseimbangan yang tepat antara menunjukkan terlalu banyak dengan cara yang tidak mungkin dipahami pengguna (atau mungkin akan mengatakan "yikes" ketika mereka melihat bagaimana itu benar-benar beroperasi) vs. menunjukkan terlalu sedikit dan prosesnya terlalu dikaburkan untuk mendapatkan nilainya. Ini akan menjadi salah satu tantangan desain yang lebih menarik di era agen AI.