AI terasa seperti tahun 1999 lagi. Semua orang merasa itu revolusioner, modal membanjiri, dan optimisme untuk sementara menangguhkan hukum logika. Namun AI saat ini bukanlah peramal yang bijaksana dan lebih merupakan keajaiban yang brilian tetapi tidak dapat diandalkan; cepat, artikulasi, cakap, tetapi cenderung menciptakan fakta dengan percaya diri. Studi memperkirakan LLM "berhalusinasi" hingga 27% dari waktu, dengan slip faktual di hampir setengah output. Ini bukan kebohongan jahat; mereka adalah fitur desain. Model dilatih untuk menghasilkan jawaban, belum tentu yang benar. Pikirkan seorang magang yang bersemangat yang selalu ingin mengesankan, bahkan jika itu berarti menggertak. Ini menjadi lebih buruk ketika penguasaan itu penting. Tekan AI, dan itu mungkin kebobolan satu saat... kemudian gandakan berikutnya. Dalam konteks berisiko tinggi, itu tidak unik, itu berbahaya. Tak satu pun dari ini berarti AI tidak transformatif. Peningkatan produktivitas itu nyata. Bisnis sedang melakukan perlengkapan ulang. Alur kerja bergeser. Tetapi kita tidak bisa mengacaukan kecepatan dengan kebijaksanaan atau polesan dengan kebenaran.