AI讓人感覺仿佛又回到了1999年。 每個人都感覺到這是一場革命,資本正在湧入,樂觀情緒暫時中止了邏輯法則。 然而,今天的AI更像是一個聰明但不可靠的天才;快速、口才出眾、能力強,但容易自信地編造事實。研究估計,LLM“幻覺”的概率高達27%,近一半的輸出中存在事實錯誤。這些並不是惡意的謊言;它們是設計的特性。模型被訓練來產生一個答案,而不一定是正確的答案。想像一下一个渴望給人留下深刻印象的實習生,即使這意味著要虛張聲勢。 當掌握能力變得重要時,這種情況會更糟。逼問AI,它可能在某一時刻讓步……然後在下一刻又反復堅持。在高風險的情況下,這並不是古怪,而是危險。 這一切並不意味著AI沒有變革性。生產力的提升是真實的。企業正在重新調整。工作流程正在轉變。但我們不能將速度與智慧混淆,或將光鮮與真相混淆。
4.22K