特に興味深かったのは、なぜ自動運転車が素晴らしいデモライドからある程度展開されるまでに10+かかったのか@karpathy尋ねました。アンドレイはテスラで 5 年間 AI を率いていました。 これらの摩擦が AGI のタイムラインを長くする必要があるのか、それとも自動運転に特異なのかを本当に知りたかったのです。 運転には失敗の代償が非常に高くなります。人間は驚くほど信頼できるドライバーです - 400,000 マイル/7 年ごとに重大な事故が発生しています。そして、自動運転車は、導入される前に、この安全性プロファイルに匹敵するか、それを超える必要があります。 しかし、ほとんどのドメインはこのようなものですか?インタビューの前は、AGI をプラグインしたいほぼすべてのドメインは、障害のコストがはるかに低いように思えました。完全に自律的なソフトウェアエンジニアが7年間間違いを犯さないようにしたら、導入は非常に遅くなるでしょう。 Andrejは、私がこれまで聞いたことのない興味深い指摘をしました:自動運転と比較して、ソフトウェアエンジニアリングは失敗のコストが高い(そして潜在的に無限の)可能性があります。 > 実際の本番グレードのコードを記述している場合、あらゆる種類の間違いがセキュリティの脆弱性につながる可能性があります。何億人もの人々の個人的な社会保障番号が漏洩する可能性があります。 > 自動運転では、うまくいかないと怪我をしてしまう可能性があります。もっと悪い結果もあります。しかし、ソフトウェアでは、何かがどれほどひどいものになるかはほぼ無限です。 > ある意味、ソフトウェアエンジニアリングは(自動運転よりも)はるかに難しい問題です。自動運転は、人々が行う何千ものことの1つにすぎません。まるで1つの縦型のようだ。一方、一般的なソフトウェアエンジニアリングについて話すときは、より多くの表面積があります。 LLM >広く展開されている AGI への移行がはるかに早く行われる可能性がある別の理由がある可能性があります: LLM は、認識、表現、常識 (配布外の例を扱うため) を無料で提供しますが、これらは自動運転車用にゼロから形成する必要がありました。私はこれについてアンドレジに尋ねました。 > どれだけ無料でもらっているのかわかりません。LLM にはまだかなり誤りがあり、埋める必要のあるギャップがたくさんあります。私たちは、既成概念から完全に魔法の一般化を実現しているとは思いません。 > もうひとつ、私が立ち返りたかったのは、自動運転車はまだ終わっていないということです。デプロイはごくわずかです。Waymoでさえ車はほとんどありません。彼らは未来に生きるものを作り上げました。彼らは未来を撤回しなければなりませんでしたが、それを不経済にしなければなりませんでした。 > また、これらの車を見ても誰も運転していないと、予想以上に人間がループしているのです。ある意味では、私たちは実際にその人を削除したのではなく、見えない場所に移動させました。