Как нам следует сравнивать ошибки ИИ и ошибки людей в здравоохранении? Врачи совершают ошибки постоянно, но это не значит, что мы лишаем медицинской лицензии врача, если он делает несколько ошибок. Требования к ИИ гораздо выше - он должен быть почти идеальным и протестированным в каждом возможном сценарии. Как только он делает несколько ошибок на границах, нам становится некомфортно вводить его в эксплуатацию. Это также поднимает некоторые вопросы о том, действительно ли "согласие с тем, что сказал врач" является правильной метрикой для измерения. Что если это сравнивается с плохим врачом? Мы, вероятно, не хотели бы, чтобы они получали одинаковые ответы. Существует, вероятно, несколько причин для этого. У нас есть правовая база для врачей, совершающих ошибки, в виде врачебной халатности. У врачей есть кодекс этики, комиссии по проверке и социальная обратная связь, которые побуждают их делать правильные вещи. Мы все еще разбираемся, как справляться с ответственностью, если ИИ ошибается, и что мотивирует их делать правильные вещи. Почему мой ИИ постоянно соглашается со мной? (Кроме того, что я прав). Но если ИИ уже лучше, чем нижний квартиль врачей, которые постоянно ошибаются в простых случаях, нам уже следует это внедрять? Подождите, но как мы определим, кто находится в нижнем квартиле врачей?