Distributed TrainingЦіна

(SN38)

Subnet 38 — це спеціалізований підрозділ в екосистемі Bittensor, зосереджений на розподіленому навчанні. На відміну від підмереж на базі інференсу, які просто запускають існуючі моделі, SN38 координує величезну мережу окремих майнерів для спільного навчання масштабних Large Language Models (LLMs). Об’єднуючи децентралізовані обчислювальні потужності, проєкт прагне зрівнятися з можливостями великих централізованих AI-компаній за допомогою спільної розробки, фактично створюючи децентралізований суперкомп’ютер для навчання моделей.

Backprop Finance, також відома як DSTRBTD, є організацією-засновником, відповідальною за розробку та підтримку підмережі Distributed Training. Вони надають технічну базу, включаючи whitepapers та документацію, що окреслює довгострокове бачення децентралізованого AI-навчання. Користувачі та майнери звертаються до цієї команди за стратегічною дорожньою картою та архітектурними оновленнями, що визначають ріст та технологічне впровадження підмережі.

Майнінг на SN38 є ресурсомістким і потребує високопродуктивного обладнання. Учасникам зазвичай потрібні NVIDIA GPUs з щонайменше 12GB VRAM, хоча карти високого класу з 24GB або більше є кращими для отримання оптимальних винагород. Крім того, критично важливою є висока пропускна здатність інтернету, оскільки майнери використовують бібліотеку Hivemind для постійного зв’язку. Правильна конфігурація фаєрволу та стабільне peer-to-peer з’єднання є необхідними для уникнення помилок під час етапів децентралізованого усереднення в процесі навчання.

Токен SN38 слугує специфічним активом підмережі, який представляє частку в її успіху. Він використовується для стимулювання майнерів, які надають необхідні обчислювальні потужності для навчання масштабних моделей. Токен дозволяє учасникам взаємодіяти з внутрішньою економікою підмережі та функціонує як механізм винагороди для тих, хто робить внесок у колективні цілі навчання мережі.

Butterfly All-Reduce — це ключовий технічний алгоритм, який використовується в SN38 для синхронізації навчання моделей на тисячах незалежних комп’ютерів. Він дозволяє майнерам усереднювати ваги своїх моделей по всій мережі без опори на центральний сервер. Це гарантує, що кожен учасник одночасно робить внесок у ту саму глобальну модель, долаючи величезні вузькі місця пропускної здатності, які традиційно роблять розподілене навчання повільнішим, ніж у централізованих серверних кластерах.

Головною відмінністю SN38 є її архітектура спільного навчання. Тоді як в інших підмережах майнери часто конкурують за подання найкращої індивідуальної моделі, SN38 вимагає від майнерів спільної роботи над єдиною уніфікованою моделлю. Цей кооперативний метод розроблений, щоб довести, що децентралізована координація може масштабуватися для навчання величезних моделей із 70 мільярдами або більше параметрів, що раніше було досяжним лише для великих централізованих корпорацій з масивними приватними центрами обробки даних.