Uusi tekoälyteknologia käyttää 1 % nykyisen teknologian tehosta! Uusi tutkimus: Lisää tekoälyn tehokkuutta Brianin kaltaisen teknologian avulla Topografinen harva kartoitus selitetty Tekoälymallit kasvavat ja kuluttavat enemmän energiaa, mikä herättää huolta kestävyydestä. Surreyn yliopiston uusi tutkimus, joka julkaistiin Neurocomputing-lehdessä, esittelee ihmisaivojen inspiroiman menetelmän tekoälyn tehostamiseksi. Sen otsikko on "Topographic Sparse Mapping: A Neuro-Inspired Sparse Training Framework for Deep Learning Models", ja se näyttää, kuinka neuroverkkojen yhteyksiä voidaan vähentää säilyttäen tai parantaen samalla tarkkuutta. Suurten tekoälymallien kouluttaminen voi maksaa miljoonia ja kuluttaa yhtä paljon virtaa kuin sadat kodit. Vuoteen 2030 mennessä datakeskukset voivat vastata maan energiankulutusta. Tutkijat Mohsen Kamelian Rad, Ferrante Neri, Sotiris Moschoyiannis ja Bauer ammensivat aivojen järjestäytyneestä johdotuksesta näköjärjestelmässä. He loivat topografisen harvakartoituksen (TSM), joka yhdistää syöttöominaisuudet, kuten kuvapikselit, vain seuraavan kerroksen lähellä oleviin neuroneihin. Tämä katkaisee tarpeettomat linkit alusta alkaen, nopeuttaa harjoittelua ja parantaa tuloksia. He kehittivät myös Enhanced TSM:n (ETSM), joka karsii heikkoja yhteyksiä harjoittelun aikana, kuten aivojen jalostusreittejä. Tämä johtaa 99 prosentin niukkuuteen – poistaen useimmat linkit – samalla kun se vastaa tai päihittää tiheitä malleja testeissä, kuten MNIST (käsinkirjoitetut numerot), Fashion-MNIST (vaatteet), CIFAR-10 (yksinkertaiset kuvat) ja CIFAR-100 (yksityiskohtaiset luokat). CIFAR-100:ssa ETSM paransi tarkkuutta 14 prosenttia muihin harvoihin menetelmiin verrattuna ja käytti vähemmän resursseja. Tärkein etu on energiansäästö: Nämä mallit käyttävät alle 1 prosentin tavallisten mallien tehosta, nopeammalla harjoittelulla ja pienemmällä muistintarpeella. Tämä voisi auttaa rakentamaan aivojen kaltaisia laitteita ja vähentämään tekoälyn ympäristövaikutuksia. Tärkeimmät kohdat... 1. Aivojen inspiroima suunnittelu: TSM rajoittaa yhteyksiä paikallisiin hermosoluihin, vähentää jätettä ja auttaa yleistyksessä ilman ylimääräisiä vaiheita. 2. Leikkaaminen ETSM:ssä: Poistaa vähäarvoiset linkit harjoittelun aikana ja saavuttaa 99 prosentin niukkuuden tarkkuuden menettämättä. 3. Vahvat tulokset: Vastaa tai ylittää tiheät mallit vertailuarvoissa, ja sillä on suuria voittoja monimutkaisissa tehtävissä, kuten CIFAR-100. 4. Tehokkuuden kasvu: Leikkaa energiaa alle 1 prosenttiin normeista, nopeuttaa harjoittelua ja vähentää muistin käyttöä. 5. Tulevaisuuden potentiaali: Voidaan soveltaa muihin tekoälytyyppeihin, jotka tukevat kestävää kasvua ja uusia laitteita. ...