يبدو الذكاء الاصطناعي وكأنه عام 1999 من جديد. يشعر الجميع بأنها ثورية ، ورأس المال يتدفق ، والتفاؤل مؤقتا قوانين المنطق. ومع ذلك ، فإن الذكاء الاصطناعي اليوم ليس أوراكل حكيما وأكثر معجزة رائعة ولكنها غير موثوقة. سريع ، واضح ، قادر ، ولكنه عرضة لاختراع الحقائق بثقة. تقدر الدراسات أن LLMs "تهلوس" ما يصل إلى 27٪ من الوقت ، مع وجود زلات واقعية في ما يقرب من نصف المخرجات. هذه ليست أكاذيب خبيثة. إنها سمة من سمات التصميم. يتم تدريب النموذج على إنتاج إجابة ، وليس بالضرورة الإجابة الصحيحة. فكر في متدرب متحمس يريد دائما إثارة الإعجاب ، حتى لو كان ذلك يعني الخداع. يزداد هذا سوءا عندما يكون الإتقان مهما. اضغط على الذكاء الاصطناعي ، وقد يتنازل لحظة واحدة ... ثم ضاعف في اليوم التالي. في السياقات عالية المخاطر ، هذا ليس غريبا ، إنه خطير. لا شيء من هذا يعني أن الذكاء الاصطناعي ليس تحويليا. مكاسب الإنتاجية حقيقية. الشركات تعيد تجهيزها. مهام سير العمل تتغير. لكن لا يمكننا الخلط بين السرعة والحكمة أو التلميع بالحقيقة.