Distributed TrainingPrecio

(SN38)

Subnet 38 es una división especializada dentro del ecosistema de Bittensor enfocada en el entrenamiento distribuido. A diferencia de las subnets basadas en inferencia que simplemente ejecutan modelos existentes, SN38 coordina una vasta red de mineros individuales para entrenar colectivamente Large Language Models (LLMs) masivos. Al agrupar el poder de cómputo descentralizado, el proyecto busca igualar las capacidades de las principales firmas de AI centralizadas a través del desarrollo colaborativo, creando esencialmente una supercomputadora descentralizada para el entrenamiento de modelos.

Backprop Finance, también conocida como DSTRBTD, es la organización fundadora responsable de desarrollar y mantener la subnetwork de Distributed Training. Ellos proporcionan el marco técnico, incluyendo whitepapers y documentación, que describe la visión a largo plazo para el entrenamiento de AI descentralizado. Los usuarios y mineros recurren a este equipo para obtener el roadmap estratégico y las actualizaciones arquitectónicas que rigen el crecimiento y la implementación tecnológica de la subnet.

La minería en SN38 es intensiva en recursos y requiere hardware de gama alta. Los participantes suelen necesitar NVIDIA GPUs con al menos 12GB de VRAM, aunque se prefieren tarjetas de nivel superior con 24GB o más para obtener recompensas óptimas. Además, un alto ancho de banda de internet es crítico porque los mineros utilizan la librería Hivemind para comunicarse constantemente. Una configuración adecuada de firewall y una conectividad peer-to-peer estable son esenciales para evitar errores durante los pasos de promediado descentralizado del proceso de entrenamiento.

El token SN38 sirve como un activo específico de la subnet que representa una participación en el éxito de la misma. Se utiliza para incentivar a los mineros que proporcionan el poder de cómputo necesario para entrenar modelos a gran escala. El token permite a los participantes interactuar con la economía interna de la subnet y funciona como un mecanismo de recompensa para aquellos que contribuyen a los objetivos de entrenamiento colectivo de la red.

El Butterfly All-Reduce es un algoritmo técnico clave utilizado por SN38 para sincronizar el entrenamiento de modelos a través de miles de computadoras independientes. Permite a los mineros promediar los pesos de sus modelos a través de la red sin depender de un servidor central. Esto asegura que cada participante contribuya al mismo modelo global simultáneamente, superando los masivos cuellos de botella de ancho de banda que tradicionalmente hacen que el entrenamiento distribuido sea más lento que los clústeres de servidores centralizados.

El principal diferenciador de SN38 es su arquitectura de entrenamiento colaborativo. Mientras que otras subnets a menudo hacen que los mineros compitan para enviar el mejor modelo individual, SN38 requiere que los mineros trabajen juntos en un único modelo unificado. Este método cooperativo está diseñado para demostrar que la coordinación descentralizada puede escalar para entrenar modelos masivos con 70 mil millones o más de parámetros, los cuales anteriormente solo eran alcanzables por grandes corporaciones centralizadas con centros de datos privados masivos.