Ne-am întors cu o nouă ediție a Kite AInsights. De data aceasta, cercetătorul nostru Kevin Ros explorează una dintre cele mai dificile probleme ale internetului agentic - încrederea. Pe măsură ce agenții câștigă autonomie și se ocupă de decizii cu mize mai mari, încrederea devine noul blocaj pentru adopție. Întrebarea nu este "Pot agenții să acționeze?" Este "Putem avea încredere în ei?" Cele mai recente cercetări introduc TrustAgent Framework, care împarte încrederea în două părți: ☑️ Încredere intrinsecă - raționament, memorie și utilizarea instrumentelor ☑️ Încredere extrinsecă - agent la agent, agent la utilizator și agent la mediu Fiecare strat dezvăluie noi riscuri - de la otrăvirea memoriei și utilizarea instrumentelor rău intenționate până la agenți de coluziune. Dacă sistemele cu mai mulți agenți trebuie să se scaleze în siguranță, încrederea trebuie să fie încorporată, nu adăugată ulterior.