Olen vahvasti sitä mieltä, että vaikka ymmärrän haasteet, joita he tuntevat tämän johtamisessa, tämä on väärä päätös. Se, mitä Arxiv on käytännössä verrattuna siihen, mitä se todellisuudessa on, on hyvin erilaista. Käytännössä moderointisääntöjä on jo olemassa, mutta niitä valvotaan niin minimaalisesti (koska ne ovat hukkuneet), että niitä ei käytännössä ole. Katso asioita, kuten Schaeffer, Rylan. "Testisarjan esikoulutus on kaikki mitä tarvitset." arXiv preprint arXiv:2309.08632 (2023). Paljon enemmän tapauksia. Arxivin moderointi on jo arvaamaton musta laatikko, joka haittaa tutkimuksen levittämistä ja tutkimusekosysteemin ennustettavuutta. On tärkeää huomata, että Arxivilla on käytännöt, jotka tekevät tästä, opiskelijaprojekteista, ehkä RLHF-kirjasta ja muista yleisesti julkaistuista asioista "kiellettyjä". Itse asiassa Arxivin pitäisi mennä toiseen suuntaan. Ole alusta, jossa kaikki hyväksyvät MINKÄ tahansa tietojenkäsittelytutkimuksen, ja selvitä, onko se hyvä myöhemmin. Tämä tuntuu Arxivin hitaan kuoleman alkuvaiheelta. Siinä 2-3 vuoden kuluttua he sanovat saman "teknisestä" tutkimuksesta ja vaativat sitten vertaisarviointia siellä. Kaikki tämä vain viivästyttää tutkimuksen julkaisemista, koska vertaisarviointi vie aikaa. Samaan aikaan vertaisarviointia rakennetaan täysin uudelleen tekoälyn aikakaudella, ja sen korjaaminen kestää vielä kauemmin. Vertaisarviointi aiotaan työstää uudelleen tekoälyksi ensin ihmisen valvonnassa. Tällä hetkellä sen oletetaan olevan kokonaan inhimillinen. Se on hyvin erilainen prosessi 20 vuoden kuluttua. Kun Arxiv ottaa käyttöön vertaisarviointivaatimuksen tekniselle työlle, se on alustan hidas kuolema. Kilpailija tulee ulos. Liukas rinne on alkanut, ja olen iloinen voidessani neuvotella tiimin kanssa siitä, koska se näyttää häviä-häviö-kompromissilta. Esimerkiksi tämän avulla en voisi koskaan julkaista RLHF-kirjaani PDF-muodossa Arxivissa, vaikka se oli erittäin kysytty ja todennäköisesti erittäin luettu PDF (enemmän kuin suuri osa tutkimustyöstäni). Pidä arxiv oletuksena. Emme halua, että tätä johtaa voittoa tavoitteleva yritys. Tutkimuksen vastaanottaminen ja avoin saatavuus on perustavanlaatuinen voitto ihmiskunnalle. Sen kuratoinnin selvittäminen on uusi ongelma tekoälyn aikakaudella, älä jätä sitä hieman rikkinäisten vertaisarviointilaitostemme varaan. Tee siitä jotain uutta, joka on tekoälyn natiivi. Nojaa tulevaisuuteen. Päivitä Arxivin käytännöt vastaamaan todellisuutta, ei luisuvaa tavoitetta, jota on todennäköisesti mahdotonta saavuttaa.