Як порівнювати помилки штучного інтелекту та людські помилки в охороні здоров'я? Лікарі постійно помиляються, але це не означає, що ми позбавляємо лікаря медичної ліцензії, якщо він робить кілька помилок. Планка для штучного інтелекту набагато вища – він має бути майже ідеальним і перевіреним у всіх можливих сценаріях. Як тільки він робить кілька помилок по краях, ми відчуваємо дискомфорт від того, щоб запускати його у виробництво. Це також піднімає деякі питання про те, чи дійсно «відповідність тому, що сказав лікар» є показником для вимірювання. А якщо його порівнюють з поганим лікарем? Ми, мабуть, не хотіли б, щоб вони тоді отримували однакові відповіді. Напевно, на це є кілька причин. У нас є рамки відповідальності за лікарів, які припускаються помилок у вигляді неналежного поводження. У лікарів є етичний кодекс, правила, дошки відгуків і соціальний зворотний зв'язок, які підштовхують їх робити правильні речі. Ми все ще з'ясовуємо, як боротися з відповідальністю, якщо ШІ щось робить не так, і що мотивує їх робити правильні речі. Чому мій постійно погоджується зі мною? (Крім того, що я маю рацію). Але якщо штучний інтелект вже кращий, ніж нижній квартиль документів, які постійно помиляються в простих кейсах, ми вже повинні це робити? Стривайте, але як визначити, хто в нижньому квартилі документів?