AI se siente como 1999 de nuevo. Todo el mundo siente que es revolucionario, que el capital está inundando y que el optimismo ha suspendido temporalmente las leyes de la lógica. Sin embargo, la IA de hoy es menos un oráculo sabio y más un prodigio brillante pero poco confiable; rápido, articulado, capaz, pero propenso a inventar hechos con confianza. Los estudios estiman que los LLM "alucinan" hasta el 27% de las veces, con deslizamientos fácticos en casi la mitad de los productos. Estas no son mentiras maliciosas; son una característica del diseño. El modelo está entrenado para producir una respuesta, no necesariamente la correcta. Piense en un pasante ansioso que siempre quiere impresionar, incluso si eso significa fanfarronear. Esto empeora cuando importa el dominio. Presione una IA y puede conceder un momento ... luego duplica el siguiente. En contextos de alto riesgo, eso no es extravagante, es peligroso. Nada de esto significa que la IA no sea transformadora. Las ganancias de productividad son reales. Las empresas se están reorganizando. Los flujos de trabajo están cambiando. Pero no podemos confundir la velocidad con la sabiduría o el pulido con la verdad.
4.22K