Cum ar trebui să comparăm greșelile AI cu greșelile umane în domeniul sănătății? Medicii fac greșeli tot timpul, dar nu este ca și cum am elimina licența medicală a unui medic dacă face câteva greșeli. Ștacheta pentru AI este mult mai înaltă - trebuie să fie aproape perfectă și testată în fiecare scenariu posibil. De îndată ce face câteva greșeli la margini, ne simțim inconfortabil să-l punem în producție. De asemenea, ridică unele întrebări dacă "concordanța cu ceea ce a spus medicul" este într-adevăr măsurătoarea de măsurat. Ce se întâmplă dacă este comparat cu un medic rău? Probabil că nu am vrea să primească aceleași răspunsuri atunci. Probabil că există câteva motive în jurul acestui lucru. Avem un cadru de răspundere pentru medicii care fac greșeli sub formă de malpraxis. Medicii au un cod de etică, comisii de revizuire și feedback social care îi împing să facă ceea ce trebuie. Încă ne dăm seama cum să facem față răspunderii dacă AI greșește și ce îi motivează să facă ceea ce trebuie. De ce al meu continuă să fie de acord cu mine? (În afară de faptul că am dreptate). Dar dacă AI este deja mai bună decât quartila inferioară a documentarilor care greșesc în mod constant cazuri simple, ar trebui să facem deja acest lucru? Stai, dar cum identificăm cine este în quartila inferioară a documentelor?