Proiectarea modelelor de interacțiune cu agenții AI este un proces atât de fascinant. În teorie, ar trebui să fie la fel de simplu ca proiectarea interacțiunii pe care ai dori să o ai cu o altă persoană care lucrează pentru tine. O mare diferență, totuși, este că nu costă nimic acest muncitor să arate toată munca pe care o face pe parcurs sau cum a ajuns la rezultatul final, ceea ce este un atu uriaș. Și, în același timp, în general doriți încrederea că face ceea ce trebuie, sau poate fi necesar să o înclinați într-o direcție diferită dacă iese de pe șine. În era automatizării și a roboților, a vedea mai mult context despre ceea ce pare sistemul AI va fi probabil în mare măsură util pentru construirea încrederii. Când intri într-un Waymo sau Tesla FSD, încrederea ta crește pentru tehnologie, deoarece poți vedea că vede mult mai mult decât ți-ai dat seama. Același lucru este valabil și pentru agenții AI. Cheia este atunci găsirea echilibrului potrivit între a arăta prea mult într-un mod pe care utilizatorul nu îl poate înțelege (sau poate ar spune "vai" când vede cum funcționează de fapt) vs. afișarea prea puțin și procesele sunt prea ascunse pentru a obține valoare. Aceasta va fi una dintre cele mai interesante provocări de design din era agenților AI.