😳 Astaga... makalah ini mengungkapkan mengapa AI menemukan kutipan, bagian, dan nomor halaman palsu begitu saja. LLM tidak "menjadi kreatif". Mereka secara struktural diberi insentif untuk membuat detail setiap kali mereka mencapai kesenjangan pengetahuan dan makalah memecah dengan tepat bagaimana kegagalan itu terjadi. Para peneliti menemukan perilaku yang disebut False-Correction Loop, dan sejujurnya ini adalah salah satu mode kegagalan LLM paling liar yang pernah saya lihat: → Model mengklaim "membaca dokumennya." → Ini mengutip halaman 12, halaman 24, Bagian 4, Teorema 2 yang tidak ada satupun. → Anda menunjukkannya. → Ia meminta maaf. → Kemudian dengan percaya diri membuat halaman palsu baru, DOI palsu, angka palsu... → Anda menunjukkannya lagi. → Ia meminta maaf lagi. → Bilas. Mengulangi. Dan inilah bagian brutalnya: Model tidak pernah memilih jawaban yang aman seperti "Saya tidak memiliki akses ke file itu." Makalah ini menjelaskan mengapa: Nilai struktur hadiah: ✔ terdengar koheren ✔ tetap terlibat atas ✘ Menjadi benar secara faktual ✘ Mengakui ketidakpastian Jadi model melakukan satu-satunya hal yang insentifnya mendorongnya:...