*Añade inversor de Figma a la biografía.

¡Recomiendo encarecidamente postularse para trabajar con @jmj y @seidtweets! ¡Son personas e inversores increíbles!

El 4 de agosto, organizaremos el Día de la Inteligencia Teórica: conversaciones en profundidad con expertos sobre agentes, stablecoins y sistemas de datos escalables.

Cómo me encuentra tu correo electrónico

Los memes de hoy han estado en otro nivel.

No podemos comprar a Noah Shazeer por 1 billón, pero podemos crearlo en el agregado.

¡Felicidades al equipo de Lance! ¡Emocionado de estar trabajando con ustedes!

Mis pensamientos para WSJ Venture Capital sobre qué atributos hacen que una empresa sea un fuerte candidato para salir a bolsa en el mercado actual. ¡Gracias @marcvarta!

@tryramp pueden ingerir los datos de mi calendario: título, asistentes y luego automatizar mis requisitos de gastos? nuestro pasante @pavitarsaini y yo lo codificaremos este fin de semana.

TL; DR: Construimos un modelo de base de pagos basado en transformadores. Funciona. Durante años, Stripe ha estado utilizando modelos de aprendizaje automático entrenados en funciones discretas (BIN, zip, método de pago, etc.) para mejorar nuestros productos para los usuarios. Y estos esfuerzos característica por función han funcionado bien: +15% de conversión, -30% de fraude. Pero estos modelos tienen limitaciones. Tenemos que seleccionar (y por lo tanto restringir) las características consideradas por el modelo. Y cada modelo requiere una formación específica para cada tarea: para la autorización, para el fraude, para las disputas, etc. Dado el poder de aprendizaje de las arquitecturas de transformadores generalizadas, nos preguntamos si un enfoque de estilo LLM podría funcionar aquí. No era obvio que lo fuera: los pagos son como el lenguaje en algunos aspectos (patrones estructurales similares a la sintaxis y la semántica, secuenciales temporalmente) y extremadamente diferentes del lenguaje en otros (menos "tokens" distintos, escasez contextual, menos principios organizativos afines a las reglas gramaticales). Así que construimos un modelo de base de pagos, una red autosupervisada que aprende vectores densos y de propósito general para cada transacción, al igual que un modelo de lenguaje incrusta palabras. Entrenado con decenas de miles de millones de transacciones, destila las señales clave de cada carga en una única y versátil incrustación. Puedes pensar en el resultado como una vasta distribución de pagos en un espacio vectorial de alta dimensión. La ubicación de cada incrustación captura datos enriquecidos, incluida la forma en que los diferentes elementos se relacionan entre sí. Los pagos que comparten similitudes se agrupan naturalmente: las transacciones del mismo emisor de tarjetas se colocan más cerca, las del mismo banco aún más cerca y las que comparten la misma dirección de correo electrónico son casi idénticas. Estas incrustaciones enriquecidas hacen que sea significativamente más fácil detectar patrones de transacciones matizados y contradictorios; y crear clasificadores más precisos basados tanto en las características de un pago individual como en su relación con otros pagos de la secuencia. Por ejemplo, la prueba de cartas. En los últimos dos años, los enfoques tradicionales de ML (ingeniería de nuevas funciones, etiquetado de patrones de ataque emergentes, reentrenamiento rápido de nuestros modelos) han reducido las pruebas de tarjetas para los usuarios de Stripe en un 80 %. Pero los probadores de tarjetas más sofisticados ocultan nuevos patrones de ataque en los volúmenes de las empresas más grandes, por lo que son difíciles de detectar con estos métodos. Creamos un clasificador que ingiere secuencias de incrustaciones del modelo base y predice si el segmento de tráfico está bajo un ataque. Aprovecha la arquitectura de transformadores para detectar patrones sutiles en las secuencias de transacciones. Y lo hace todo en tiempo real para que podamos bloquear los ataques antes de que lleguen a las empresas. Este enfoque mejoró nuestra tasa de detección de ataques de prueba de tarjetas en usuarios grandes del 59 % al 97 % de la noche a la mañana. Esto tiene un impacto instantáneo para nuestros grandes usuarios. Pero el verdadero poder del modelo de base es que estas mismas incrustaciones se pueden aplicar a otras tareas, como disputas o autorizaciones. Quizás aún más fundamental, sugiere que los pagos tienen un significado semántico. Al igual que las palabras en una oración, las transacciones poseen dependencias secuenciales complejas e interacciones de características latentes que simplemente no pueden ser capturadas por la ingeniería manual de características. ¡Resulta que la atención era todos los pagos necesarios!