AureliusPrix

(SN37)

Aurelius est un subnet spécialisé dans l'alignement d'IA, dédié à l'identification des cas où les modèles d'IA produisent des résultats malveillants, faux ou contraires à l'éthique. En agissant comme une couche de sécurité, il transforme ces découvertes de désalignement en ensembles de données d'entraînement de haute qualité. Ces données sont ensuite utilisées pour affiner les futurs modèles d'IA, garantissant qu'ils restent utiles, honnêtes et inoffensifs tout en respectant les valeurs humaines éthiques.

Le projet est dirigé par son fondateur, Austin McCaffrey. Il a été initialement établi comme un subnet de fine-tuning exploité par l'équipe Macrocosmos. Il a depuis été transféré à l'équipe Aurelius pour se concentrer exclusivement sur l'alignement de l'IA, fournissant l'infrastructure de données critique nécessaire pour améliorer la sécurité et la fiabilité de l'intelligence artificielle sur l'ensemble du réseau.

Les mineurs opèrent en tant que « prompteurs adverses » ou « red-teamers », chargés de trouver des moyens de tromper les modèles d'IA pour les mettre en échec. Les validateurs agissent comme des auditeurs qui vérifient ces découvertes. Ils évaluent les contributions des mineurs par rapport à un ensemble spécifique de règles connu sous le nom de « Constitution » pour confirmer si un échec d'alignement légitime a été découvert, garantissant que seules les données de haute qualité sont générées et récompensées.

Le Tribunate est une fonctionnalité de gouvernance unique d'Aurelius qui sert de moteur de règles ou de « constitution » vivante. Il définit le cadre du comportement sûr de l'IA et évolue en fonction des contributions de la communauté et des experts. Ce système garantit que les normes de jugement des résultats de l'IA restent actuelles et efficaces pour promouvoir un développement éthique de l'IA sur l'ensemble de la stack décentralisée.

Le token SN37, qui fonctionne comme un dynamic TAO (dTAO) ou token Alpha, représente une participation dans la production du subnet. Il est utilisé pour la gouvernance au sein du Tribunate, récompense les mineurs pour un red-teaming réussi et incite les validateurs à fournir une évaluation précise. De plus, le token offre aux participants un accès à des ensembles de données d'alignement premium de qualité entreprise produits par le réseau.

Aurelius est conçu pour être compatible entre subnets, utilisant des modèles d'autres subnets comme cibles pour le red-teaming afin de créer une boucle de rétroaction qui renforce l'ensemble de l'écosystème. Tout en produisant des données de qualité entreprise, le projet se concentre également sur la publication de benchmarks ouverts sur des répertoires publics pour prouver les améliorations de la sécurité des modèles, servant ainsi de sentinelle décentralisée pour l'industrie de l'intelligence artificielle.