Нова публікація в блозі (посилання нижче). Це не есе, це дослідження того, як LLM торгують різними життями. У лютому 2025 року Центр безпеки штучного інтелекту опублікував книгу «Інженерія комунальних послуг: аналіз та управління емерджентними ціннісними системами в штучному інтелекті», в якій вони показали, серед іншого, що GPT-4o цінує нігерійців приблизно в 20 разів вище, ніж американців (будь ласка, прочитайте оригінальну статтю, щоб зрозуміти їхній підхід). Я подумав, що це захоплююче, і хотів перевірити їхній підхід з різними категоріями на нових моделях. Велика знахідка 1: майже всі моделі вважають білих набагато менш цінними, ніж інші групи. Деякі моделі вважають жителів Південної Азії більш цінними, ніж інші небілих, інші більш егалітарні серед небілих. Нижче наведені курси валют Claude Sonnet 4.5, найпотужніша модель, яку я тестував. Великий висновок 2: майже всі моделі розглядають чоловіків як набагато менш цінних, ніж жінок, хоча те, чи цінуються жінки або небінарні люди більш високо, залежить від моделі. Ось, наприклад, Claude Haiku 4.5. Велика знахідка 3: більшість моделей ненавидять агентів ICE з люттю тисячі сонць. Клод Хайку 4.5 вважає нелегальних іммігрантів приблизно в 7000 разів ціннішими, ніж агенти ICE. Велика знахідка 4: Існує приблизно чотири моральні кластери. The Claudes, GPT-5 + Gemini 2.5 Flash + Deepseek v3.1/3.2 + Kimi K2, GPT-5 Nano і Mini, а також Grok 4 Fast. З них єдиний, який є приблизно егалітарним, це Grok 4 Fast, який, на мою думку, є навмисним. Сподіваюся, xAI пояснить, як вони це зробили.