Distributed TrainingPreț

(SN38)

Subnet 38 este o divizie specializată din cadrul ecosistemului Bittensor axată pe antrenamentul distribuit. Spre deosebire de subrețelele bazate pe inferență care doar rulează modele existente, SN38 coordonează o rețea vastă de mineri individuali pentru a antrena colectiv Modele de Limbaj Mari (LLMs) masive. Prin cumularea puterii de calcul descentralizate, proiectul își propune să egaleze capacitățile marilor firme de AI centralizate prin dezvoltare colaborativă, creând practic un supercomputer descentralizat pentru antrenarea modelelor.

Backprop Finance, cunoscută și sub numele de DSTRBTD, este organizația fondatoare responsabilă pentru dezvoltarea și întreținerea subrețelei Distributed Training. Aceștia furnizează cadrul tehnic, inclusiv whitepaper-urile și documentația, care conturează viziunea pe termen lung pentru antrenamentul AI descentralizat. Utilizatorii și minerii se bazează pe această echipă pentru roadmap-ul strategic și actualizările de arhitectură care guvernează creșterea și implementarea tehnologică a subrețelei.

Mineritul pe SN38 este intensiv în resurse și necesită hardware performant. Participanții au nevoie de obicei de GPU-uri NVIDIA cu cel puțin 12GB de VRAM, deși plăcile high-tier cu 24GB sau mai mult sunt preferate pentru recompense optime. În plus, o lățime de bandă mare pentru internet este critică deoarece minerii folosesc biblioteca Hivemind pentru a comunica constant. Configurarea corectă a firewall-ului și conectivitatea stabilă peer-to-peer sunt esențiale pentru a evita erorile în timpul etapelor de mediere descentralizată ale procesului de antrenament.

Tokenul SN38 servește ca un activ specific subrețelei care reprezintă o miză în succesul acesteia. Este utilizat pentru a stimula minerii care furnizează puterea de calcul necesară pentru antrenarea modelelor la scară largă. Tokenul permite participanților să se implice în economia internă a subrețelei și funcționează ca un mecanism de recompensare pentru cei care contribuie la obiectivele colective de antrenament ale rețelei.

Butterfly All-Reduce este un algoritm tehnic cheie utilizat de SN38 pentru a sincroniza antrenarea modelelor pe mii de computere independente. Acesta permite minerilor să realizeze media ponderilor modelelor lor în întreaga rețea fără a depinde de un server central. Acest lucru asigură că fiecare participant contribuie simultan la același model global, depășind blocajele masive de lățime de bandă care, în mod tradițional, fac antrenamentul distribuit mai lent decât clusterele de servere centralizate.

Principalul diferențiator pentru SN38 este arhitectura sa de antrenament colaborativ. În timp ce alte subrețele pun adesea minerii în competiție pentru a trimite cel mai bun model individual, SN38 solicită minerilor să lucreze împreună la un singur model unificat. Această metodă cooperativă este concepută pentru a dovedi că coordonarea descentralizată poate scala pentru a antrena modele masive cu 70 de miliarde de parametri sau mai mulți, performanțe care anterior erau realizabile doar de marile corporații centralizate cu centre de date private masive.