Chúng ta nên so sánh sai lầm của AI với sai lầm của con người trong lĩnh vực chăm sóc sức khỏe như thế nào? Các bác sĩ thường xuyên mắc sai lầm, nhưng không phải là chúng ta sẽ thu hồi giấy phép hành nghề của một bác sĩ nếu họ mắc một vài sai lầm. Tiêu chuẩn đối với AI thì cao hơn rất nhiều - nó phải gần như hoàn hảo và được kiểm tra trong mọi tình huống có thể. Ngay khi nó mắc một vài sai lầm ở những điểm biên, chúng ta cảm thấy không thoải mái khi đưa nó vào sản xuất. Nó cũng đặt ra một số câu hỏi về việc liệu "sự đồng thuận với những gì bác sĩ nói" có thực sự là tiêu chí để đo lường hay không. Thế nếu nó được so sánh với một bác sĩ kém thì sao? Chúng ta có lẽ không muốn họ nhận được những câu trả lời giống nhau. Có lẽ có một vài lý do cho điều này. Chúng ta có một khung trách nhiệm pháp lý cho các bác sĩ khi mắc sai lầm dưới hình thức hành nghề sai trái. Các bác sĩ có quy tắc đạo đức, hội đồng xem xét và phản hồi xã hội thúc đẩy họ làm điều đúng đắn. Chúng ta vẫn đang tìm cách xử lý trách nhiệm nếu AI mắc sai lầm và điều gì thúc đẩy chúng làm điều đúng. Tại sao AI của tôi cứ đồng ý với tôi? (Ngoài việc tôi đúng). Nhưng nếu AI đã tốt hơn nhóm bác sĩ kém nhất, những người thường xuyên mắc sai lầm trong các trường hợp đơn giản, thì chúng ta nên đưa nó ra ngoài thị trường ngay bây giờ? Nhưng làm thế nào để chúng ta xác định ai là bác sĩ trong nhóm kém nhất?