*Dodaje inwestora Figma do bio.

Zdecydowanie polecam aplikowanie do pracy z @jmj i @seidtweets! To niesamowici ludzie i inwestorzy!

4 sierpnia odbędzie się Dzień Inteligencji Teoretycznej: szczegółowe rozmowy z ekspertami na temat agentów, stablecoinów i skalowalnych systemów danych.

Jak znajduje mnie poczta e-mail

Dzisiaj memy są na zupełnie innym poziomie.

Nie możemy kupić Noaha Shazeera za 1 miliard, ale możemy go stworzyć w zbiorze.

Gratulacje dla zespołu Lance! Cieszę się, że mogę z wami pracować!

Moje przemyślenia dla WSJ Venture Capital na temat cech, które sprawiają, że firma jest silnym kandydatem do wejścia na giełdę w dzisiejszym rynku. Dzięki @marcvarta!

@tryramp czy możecie pozyskać dane z mojego kalendarza: tytuł, uczestnicy, a następnie zautomatyzować moje wymagania dotyczące wydatków? nasz stażysta @pavitarsaini i ja zakodujemy go w ten weekend.

TL; DR: Zbudowaliśmy model oparty na fundamencie płatności opartych na transformatorach. To działa. Stripe od lat korzysta z modeli uczenia maszynowego wytrenowanych na dyskretnych funkcjach (BIN, zip, metoda płatności itp.) w celu ulepszania naszych produktów dla użytkowników. I te wysiłki związane z funkcją po funkcji przyniosły dobre rezultaty: +15% konwersji, -30% oszustwa. Ale te modele mają ograniczenia. Musimy wybrać (a tym samym ograniczyć) cechy uwzględniane przez model. A każdy model wymaga szkolenia specyficznego dla danego zadania: do autoryzacji, do oszustwa, do sporów i tak dalej. Biorąc pod uwagę moc uczenia się uogólnionych architektur transformatorów, zastanawialiśmy się, czy podejście w stylu LLM może tutaj zadziałać. Nie było oczywiste, że tak się stanie – płatności są pod pewnymi względami podobne do języka (wzorce strukturalne podobne do składni i semantyki, sekwencyjne czasowo), a pod innymi skrajnie niepodobne do języka (mniej wyraźnych "tokenów", rzadkość kontekstu, mniej zasad organizacyjnych podobnych do reguł gramatycznych). Zbudowaliśmy więc model fundamentu płatności – samonadzorującą się sieć, która uczy się gęstych, ogólnych wektorów dla każdej transakcji, podobnie jak model językowy osadza słowa. Wyszkolony na dziesiątkach miliardów transakcji, destyluje kluczowe sygnały każdej opłaty w jednym, wszechstronnym osadzeniu. Możesz myśleć o wyniku jako o ogromnym rozkładzie płatności w wielowymiarowej przestrzeni wektorowej. Lokalizacja każdego osadzania przechwytuje bogate dane, w tym informacje o tym, jak różne elementy są ze sobą powiązane. Płatności, które mają podobieństwa, w naturalny sposób łączą się ze sobą: transakcje z tego samego wydawcy karty są umieszczane bliżej siebie, te z tego samego banku jeszcze bliżej, a te z tego samego adresu e-mail są prawie identyczne. Te bogate osadzenia znacznie ułatwiają dostrzeżenie zniuansowanych, wrogich wzorców transakcji; oraz tworzenie dokładniejszych klasyfikatorów w oparciu zarówno o cechy pojedynczej płatności, jak i jej związek z innymi płatnościami w sekwencji. Weźmy na przykład testowanie kart. W ciągu ostatnich kilku lat tradycyjne podejścia ML (projektowanie nowych funkcji, oznaczanie pojawiających się wzorców ataków, szybkie ponowne trenowanie naszych modeli) zmniejszyły testowanie kart dla użytkowników Stripe o 80%. Jednak najbardziej wyrafinowane testery kart ukrywają nowatorskie wzorce ataków w dużych firmach, więc trudno je wykryć za pomocą tych metod. Utworzyliśmy klasyfikator, który pozyskuje sekwencje osadzania z modelu podstawowego i przewiduje, czy wycinek ruchu jest atakowany. Wykorzystuje architekturę transformatora do wykrywania subtelnych wzorców w sekwencjach transakcji. A wszystko to w czasie rzeczywistym, dzięki czemu możemy blokować ataki, zanim uderzą w firmy. Takie podejście z dnia na dzień zwiększyło nasz wskaźnik wykrywalności ataków polegających na testowaniu kart płatniczych na dużych użytkowników z 59% do 97%. Ma to natychmiastowy wpływ na naszych dużych użytkowników. Ale prawdziwa siła modelu podstawowego polega na tym, że te same osadzenia można zastosować do innych zadań, takich jak spory lub uprawnienia. Być może nawet bardziej fundamentalnie sugeruje to, że płatności mają znaczenie semantyczne. Podobnie jak słowa w zdaniu, transakcje mają złożone zależności sekwencyjne i ukryte interakcje funkcji, których po prostu nie można uchwycić za pomocą ręcznej inżynierii funkcji. Okazuje się, że wszystkie potrzebne były wszystkie płatności!