Ich freue mich, mitteilen zu können, dass ich kürzlich dem MSL-Team beigetreten bin! Hier ist der Aufbau persönlicher Superintelligenz ernsthaft und macht Spaß. Schließe dich uns an!

📣 Wir freuen uns, unsere reale Studie mit einem klinischen LLM-Copiloten zu teilen, einer Zusammenarbeit zwischen @OpenAI und @PendaHealth. Bei 39.849 Live-Patientenbesuchen hatten Ärzte mit KI eine relative Reduzierung der Diagnosefehler um 16 % und eine Verringerung der Behandlungsfehler um 13 % im Vergleich zu denen ohne KI. 🧵

Dies ist mein Vortrag von vor 2 Monaten bei @Cornell "Wie kann ich meinen Output steigern?" Eine natürliche Antwort ist: "Ich werde einfach noch ein paar Stunden arbeiten." Längeres Arbeiten kann helfen, aber irgendwann stößt man an eine körperliche Grenze. Eine bessere Frage ist: "Wie kann ich meinen Output erhöhen, ohne den Input so stark zu erhöhen?" Das ist Hebelwirkung. Wir hören "Hebelwirkung" so oft, dass ihre Implikation leicht übersehen wird. Meine persönliche Lieblingskategorisierung von Leverage stammt von Naval Ravikant: menschliche Arbeit, Kapital und Code / Medien. Jeder von ihnen hat in der Geschichte große Wellen der Vermögensbildung ausgelöst. Sobald jedoch eine Hebelquelle populär wird (denken Sie an YouTube-Kanäle heute im Vergleich zu vor zehn Jahren), drückt der Wettbewerb die Marge. Wenn also ein neuer Hebel auftaucht, ist dies eine seltene Chance auf übergroße Gewinne. In diesem Vortrag beschreibe ich KI als diese aufstrebende Hebelwirkung. Ein KI-Agent kombiniert Arbeitshebel (er funktioniert für Sie und ist erlaubnisfrei) mit Code-Hebelwirkung (Sie können ihn kopieren und einfügen). Es ist ein Klischee zu sagen, dass KI massiven Wohlstand schaffen wird. Aber die Verwendung dieser Hebelperspektive ermöglicht es uns, den lauten KI-Nachrichtenzyklus konsistent zu interpretieren und die wirklichen Chancen zu erkennen. Vielen Dank@unsojo dass Sie mich aufgenommen haben!

Neuer Blogbeitrag über Asymmetrie von Verifikation und "Verifier's Law": Die Asymmetrie der Verifizierung – die Idee, dass einige Aufgaben viel einfacher zu verifizieren als zu lösen sind – wird zu einer wichtigen Idee, da wir RL haben, das endlich allgemein funktioniert. Gute Beispiele für Asymmetrie der Verifizierung sind Dinge wie Sudoku-Rätsel, das Schreiben des Codes für eine Website wie Instagram und BrowseComp-Probleme (es werden ~100 Websites benötigt, um die Antwort zu finden, aber es ist einfach, sie zu überprüfen, sobald Sie die Antwort haben). Andere Aufgaben weisen eine nahezu symmetrische Verifizierung auf, z. B. das Summieren von zwei 900-stelligen Zahlen oder einige Datenverarbeitungsskripte. Bei anderen Aufgaben ist es viel einfacher, praktikable Lösungen vorzuschlagen, als sie zu überprüfen (z.B. einen langen Aufsatz zu überprüfen oder eine neue Diät wie "nur Bisons essen" anzugeben). Eine wichtige Sache, die Sie über die Asymmetrie der Verifizierung wissen sollten, ist, dass Sie die Asymmetrie verbessern können, indem Sie im Voraus einige Arbeiten durchführen. Zum Beispiel, wenn Sie den Antwortschlüssel für ein mathematisches Problem haben oder wenn Sie Testfälle für ein Leetcode-Problem haben. Dies erhöht die Anzahl der Probleme mit der wünschenswerten Verifikationsasymmetrie erheblich. Das "Verifier'sche Gesetz" besagt, dass die Leichtigkeit, mit der KI trainiert werden kann, um eine Aufgabe zu lösen, proportional dazu ist, wie überprüfbar die Aufgabe ist. Alle Aufgaben, die lösbar und leicht zu verifizieren sind, werden von der KI gelöst. Die Fähigkeit, KI so zu trainieren, dass sie eine Aufgabe löst, hängt davon ab, ob die Aufgabe die folgenden Eigenschaften hat: 1. Objektive Wahrheit: Alle sind sich einig, was gute Lösungen sind 2. Schnell zu überprüfen: Jede beliebige Lösung kann in wenigen Sekunden überprüft werden 3. Skalierbar zur Verifizierung: Viele Lösungen können gleichzeitig verifiziert werden 4. Geringes Rauschen: Die Verifizierung ist so eng wie möglich mit der Qualität der Lösung korreliert 5. Kontinuierliche Belohnung: Es ist einfach, die Güte vieler Lösungen für ein einzelnes Problem zu bewerten Eine offensichtliche Instanziierung des Verifizierergesetzes ist die Tatsache, dass die meisten in der KI vorgeschlagenen Benchmarks leicht zu verifizieren sind und bisher gelöst wurden. Beachten Sie, dass praktisch alle populären Benchmarks der letzten zehn Jahre die Kriterien #1-4 erfüllen; Benchmarks, die die Kriterien #1-4 nicht erfüllen, würden es schwer haben, populär zu werden. Warum ist Überprüfbarkeit so wichtig? Die Menge an Lernen, die in der KI stattfindet, wird maximiert, wenn die oben genannten Kriterien erfüllt sind; Sie können viele Gradientenschritte machen, wobei jeder Schritt viel Signal hat. Die Geschwindigkeit der Iteration ist entscheidend – sie ist der Grund, warum der Fortschritt in der digitalen Welt so viel schneller war als der Fortschritt in der physischen Welt. AlphaEvolve von Google ist eines der besten Beispiele für die Nutzung der Asymmetrie der Verifizierung. Es konzentriert sich auf Setups, die alle oben genannten Kriterien erfüllen, und hat zu einer Reihe von Fortschritten in der Mathematik und anderen Bereichen geführt. Anders als das, was wir in den letzten zwei Jahrzehnten in der KI gemacht haben, ist es ein neues Paradigma, da alle Probleme in einer Umgebung optimiert werden, in der der Zugsatz dem Testsatz entspricht. Die Asymmetrie der Verifikation ist allgegenwärtig, und es ist spannend, an eine Welt der zackigen Intelligenz zu denken, in der alles, was wir messen können, gelöst wird.

Der Longevity-Mix von Bryan Johnson ist das beliebteste Getränk bei Partys in SF.

gerade ein Hit, ich habe sofort gelesen

Dating-Ratschläge für normale Leute: Heirate nicht früh, wenn du jedes Jahr wachst und dich stark veränderst KI-Kumpel (@YiTayML): Du bist wie ein neuronales Netz mitten im Training und der Verlust wird immer besser. Es ist besser, auf Konvergenz hinzutrainieren, anstatt einen frühen Checkpoint-Snapshot zu machen

Wir haben noch keine KI, die sich selbst verbessert, und wenn wir das tun, wird es ein Wendepunkt sein. Mit mehr Weisheit im Vergleich zu den Tagen von GPT-4 ist es offensichtlich, dass es kein "schneller Start" sein wird, sondern eher extrem allmählich über viele Jahre, wahrscheinlich ein Jahrzehnt. Das erste, was man wissen sollte, ist, dass Selbstverbesserung, d.h. Modelle, die sich selbst trainieren, nicht binär ist. Betrachten Sie das Szenario, dass GPT-5 GPT-6 trainiert, was unglaublich wäre. Würde GPT-5 plötzlich von der Unfähigkeit, GPT-6 überhaupt zu trainieren, zu einem extrem kompetenten Training übergehen? Definitiv nicht. Die ersten Trainingsläufe von GPT-6 wären wahrscheinlich extrem ineffizient in Bezug auf Zeit und Rechenleistung im Vergleich zu menschlichen Forschern. Und erst nach vielen Versuchen wäre GPT-5 tatsächlich in der Lage, GPT-6 besser als Menschen zu trainieren. Zweitens, selbst wenn ein Modell sich selbst trainieren könnte, würde es nicht plötzlich in allen Bereichen besser werden. Es gibt einen Gradienten der Schwierigkeit, wie schwer es ist, sich in verschiedenen Bereichen zu verbessern. Zum Beispiel funktioniert Selbstverbesserung vielleicht zunächst nur in Bereichen, die wir bereits wissen, wie man sie nach dem Training leicht behebt, wie grundlegende Halluzinationen oder Stil. Als nächstes kämen Mathematik und Programmierung, was mehr Arbeit erfordert, aber etablierte Methoden zur Verbesserung von Modellen hat. Und dann, am extremen Ende, kann man sich vorstellen, dass es einige Aufgaben gibt, die sehr schwer für die Selbstverbesserung sind. Zum Beispiel die Fähigkeit, Tlingit zu sprechen, eine amerikanische Ureinwohner-Sprache, die von etwa 500 Menschen gesprochen wird. Es wird sehr schwierig für das Modell sein, sich im Sprechen von Tlingit zu verbessern, da wir noch keine Möglichkeiten haben, ressourcenarme Sprachen wie diese zu lösen, außer mehr Daten zu sammeln, was Zeit in Anspruch nehmen würde. Daher wird aufgrund des Gradienten der Schwierigkeit der Selbstverbesserung nicht alles auf einmal geschehen. Schließlich, vielleicht ist das umstritten, aber letztendlich wird der Fortschritt in der Wissenschaft durch reale Experimente behindert. Einige glauben vielleicht, dass das Lesen aller Biologie-Papiere uns das Heilmittel gegen Krebs verraten würde, oder dass das Lesen aller ML-Papiere und das Beherrschen aller Mathematik es Ihnen ermöglichen würde, GPT-10 perfekt zu trainieren. Wenn dem so wäre, dann wären die Menschen, die die meisten Papiere lesen und die meiste Theorie studieren, die besten KI-Forscher. Aber was wirklich passiert ist, ist, dass KI (und viele andere Bereiche) von rücksichtslos empirischen Forschern dominiert wurde, was widerspiegelt, wie viel Fortschritt auf realen Experimenten basiert, anstatt auf roher Intelligenz. Mein Punkt ist also, dass, obwohl ein superintelligenter Agent 2x oder sogar 5x bessere Experimente als unsere besten menschlichen Forscher entwerfen könnte, er am Ende des Tages immer noch auf die Durchführung der Experimente warten muss, was eine Beschleunigung, aber keinen schnellen Start darstellen würde. Zusammenfassend gibt es viele Engpässe für den Fortschritt, nicht nur rohe Intelligenz oder ein Selbstverbesserungssystem. KI wird viele Bereiche lösen, aber jeder Bereich hat seine eigene Fortschrittsrate. Und selbst die höchste Intelligenz wird immer noch Experimente in der realen Welt erfordern. Es wird also eine Beschleunigung und kein schneller Start sein, danke, dass Sie meinen Ausbruch gelesen haben.

Das Belohnendste an der Arbeit im Büro an Abenden und Wochenenden ist nicht die eigentliche Arbeit, die man erledigt, sondern die spontanen Gespräche mit anderen Menschen, die ebenfalls immer arbeiten. Das sind die Menschen, die dazu neigen, Großes zu erreichen und deine erfolgreichsten Freunde werden.

Ich würde sagen, dass wir zweifellos bei AGI sind, wenn KI ein echtes, lebendes Einhorn erschaffen kann. Und nein, ich meine nicht ein Unternehmen im Wert von 1 Milliarde Dollar, ihr Nerds, ich meine ein wörtliches pinkes Pferd mit einem spiralförmigen Horn. Ein Paradebeispiel für wissenschaftlichen Fortschritt in der Gentechnik und Zellprogrammierung. Der Stoff aus Kindheitsträumen. Wage ich zu sagen, dass es in unserem Leben passieren wird.