Мне было особенно интересно спросить @karpathy, почему автономные автомобили потребовали более десяти лет от впечатляющих демонстрационных поездок до хотя бы частичного развертывания. Андреj возглавлял AI в Tesla в течение 5 лет. Я действительно хотел знать, должны ли эти трения удлинить наши сроки по AGI или они были индивидуальными для автономного вождения. Вождение имеет очень высокую стоимость ошибки. Люди удивительно надежные водители - у нас происходит серьезная авария каждые 400,000 миль/7 лет. И автономные автомобили должны соответствовать или превосходить этот профиль безопасности, прежде чем их можно будет развернуть. Но большинство областей такие же? Перед интервью мне казалось, что почти каждая область, в которую мы хотели бы внедрить AGI, имеет гораздо более низкую стоимость ошибки. Если бы полностью автономным программистам не разрешали ошибаться в течение 7 лет, развертывание действительно было бы очень медленным. Андрей сделал интересное замечание, которого я раньше не слышал: по сравнению с автономным вождением, программная инженерия имеет более высокую (и потенциально неограниченную) стоимость ошибки: > Если вы пишете код, готовый к производству, любая ошибка может привести к уязвимости безопасности. Личные номера социального страхования сотен миллионов людей могут быть раскрыты. > В автономном вождении, если что-то пойдет не так, вы можете получить травму. Есть более серьезные последствия. Но в программном обеспечении почти неограниченно, насколько ужасным может быть что-то. > В некотором смысле, программная инженерия - это гораздо более сложная проблема [чем автономное вождение]. Автономное вождение - это всего лишь одна из тысяч вещей, которые делают люди. Это почти как одна вертикаль. В то время как, когда мы говорим о программной инженерии в общем, есть больше поверхности. Существует потенциально еще одна причина, почему переход от LLM к широко развернутому AGI может произойти гораздо быстрее: LLM предоставляют нам восприятие, представления и здравый смысл (для работы с примерами вне распределения) бесплатно, в то время как эти вещи нужно было формировать с нуля для автономных автомобилей. Я спросил Андрея об этом: > Я не знаю, сколько мы получаем бесплатно. LLM все еще довольно ошибочны, и у них есть много пробелов, которые еще нужно заполнить. Я не думаю, что мы получаем магическую обобщаемость полностью из коробки. > Другой аспект, к которому я хотел вернуться, это то, что автономные автомобили все еще далеки от завершения. Развертывания довольно минимальны. Даже у Waymo очень мало автомобилей. Они построили что-то, что живет в будущем. Им пришлось отодвинуть будущее, но им пришлось сделать это неэкономичным. > Также, когда вы смотрите на эти автомобили и никто не управляет, там больше человека в процессе, чем вы могли бы ожидать. В некотором смысле, мы на самом деле не убрали человека, мы переместили его туда, где вы не можете его увидеть.