Din arhivă: L-am întrebat pe @MarkChen (Chief Research Officer la @OpenAI) cum ar putea dăuna urmărirea valorilor utilizatorilor dezvoltării AI. El a subliniat modul în care urmărirea unor valori simple, cum ar fi utilizatorii activi zilnici (DAU), poate distorsiona comportamentul unui model în timp: "Dacă doar stimulezi răspunsurile în care utilizatorii spun degetul mare în sus, se creează o condiție pentru un model... unde începe să te sugă, spunând "hei, ai dreptate", chiar și în situații complicate în care obiectiv ai spune că această persoană greșește." Chen a descris nevoia unei abordări atente a indicatorilor: "Trebuie să avem opinii despre caracteristicile pe care le construim. Construiește pentru lucrurile pe care oamenii le vor dori, poate nu știu neapărat că le doresc astăzi, și apoi folosește DAU ca produs secundar." "Nu vrem să cădem în aceste capcane în care peste trei, patru ani acest lucru se transformă în momeală de angajament".