Distributed TrainingPrijs

(SN38)

Subnet 38 is een gespecialiseerde divisie binnen het Bittensor ecosysteem gericht op distributed training. In tegenstelling tot op inference gebaseerde subnets die louter bestaande modellen draaien, coördineert SN38 een uitgebreid netwerk van individuele miners om gezamenlijk enorme Large Language Models (LLMs) te trainen. Door gedecentraliseerde compute power te bundelen, beoogt het project de capaciteiten van grote gecentraliseerde AI-bedrijven te evenaren via collaboratieve ontwikkeling, waardoor in feite een gedecentraliseerde supercomputer voor modeltraining ontstaat.

Backprop Finance, ook wel bekend als DSTRBTD, is de oprichtende organisatie die verantwoordelijk is voor de ontwikkeling en het onderhoud van het Distributed Training subnetwerk. Zij leveren het technische kader, inclusief whitepapers en documentatie, waarin de langetermijnvisie voor gedecentraliseerde AI-training wordt geschetst. Gebruikers en miners kijken naar dit team voor de strategische roadmap en architecturale updates die de groei en technologische implementatie van het subnet sturen.

Mining op SN38 is resource-intensief en vereist high-end hardware. Deelnemers hebben doorgaans NVIDIA GPUs nodig met ten minste 12GB aan VRAM, hoewel high-tier kaarten met 24GB of meer de voorkeur hebben voor optimale beloningen. Daarnaast is een hoge internetbandbreedte cruciaal omdat miners de Hivemind library gebruiken om constant te communiceren. Een juiste firewall-configuratie en stabiele peer-to-peer connectiviteit zijn essentieel om fouten te voorkomen tijdens de gedecentraliseerde averaging-stappen van het trainingsproces.

De SN38 token dient als een subnet-specifiek activum dat een aandeel in het succes van het subnet vertegenwoordigt. Het wordt gebruikt om miners te stimuleren die de nodige compute power leveren voor het trainen van grootschalige modellen. De token stelt deelnemers in staat om deel te nemen aan de interne economie van het subnet en fungeert als een beloningsmechanisme voor degenen die bijdragen aan de collectieve trainingsdoelen van het netwerk.

De Butterfly All-Reduce is een belangrijk technisch algoritme dat door SN38 wordt gebruikt om de modeltraining over duizenden onafhankelijke computers te synchroniseren. Het stelt miners in staat om hun modelgewichten over het netwerk te middelen zonder afhankelijk te zijn van een centrale server. Dit zorgt ervoor dat elke deelnemer tegelijkertijd bijdraagt aan hetzelfde wereldwijde model, waarbij de enorme bandbreedte-bottlenecks worden overwonnen die gedistribueerde training traditioneel trager maken dan gecentraliseerde serverclusters.

De belangrijkste differentiator voor SN38 is de collaboratieve trainingsarchitectuur. Terwijl andere subnets miners vaak laten concurreren om het beste individuele model in te dienen, vereist SN38 dat miners samenwerken aan één enkel uniform model. Deze coöperatieve methode is ontworpen om te bewijzen dat gedecentraliseerde coördinatie kan schalen om enorme modellen met 70 miljard of meer parameters te trainen, wat voorheen alleen haalbaar was voor grote gecentraliseerde bedrijven met enorme private datacenters.