AureliusCena

(SN37)

Aurelius to wyspecjalizowana podsieć zajmująca się dopasowaniem AI (AI alignment), której celem jest identyfikowanie przypadków, w których modele AI generują szkodliwe, błędne lub nieetyczne wyniki. Działając jako warstwa bezpieczeństwa, przekształca te znaleziska dotyczące niedopasowania w wysokiej jakości zestawy danych treningowych. Dane te są następnie wykorzystywane do dostrajania przyszłych modeli AI, zapewniając, że pozostaną one pomocne, uczciwe i nieszkodliwe, przy jednoczesnym przestrzeganiu etycznych wartości ludzkich.

Projektem kieruje założyciel Austin McCaffrey. Pierwotnie został on utworzony jako podsieć do dostrajania (fine-tuning subnet) prowadzona przez zespół Macrocosmos. Od tego czasu przeszedł w ręce zespołu Aurelius, aby skupić się wyłącznie na dopasowaniu AI (AI alignment), zapewniając krytyczną infrastrukturę danych potrzebną do poprawy bezpieczeństwa i niezawodności sztucznej inteligencji w całej sieci.

Górnicy działają jako „adversarial prompters” lub członkowie red-teamów, których zadaniem jest znalezienie sposobów na nakłonienie modeli AI do popełnienia błędów. Walidatorzy pełnią funkcję audytorów weryfikujących te znaleziska. Oceniają oni wkład górników w oparciu o konkretny zestaw reguł znany jako „Konstytucja” (Constitution), aby potwierdzić, czy odkryto faktyczny błąd w dopasowaniu, co gwarantuje generowanie i nagradzanie wyłącznie danych wysokiej jakości.

Tribunate to unikalna funkcja zarządzania (governance) w Aurelius, która służy jako silnik reguł lub żywa „konstytucja”. Definiuje ona zasady bezpiecznego zachowania AI i ewoluuje w oparciu o wkład społeczności oraz ekspertów. System ten gwarantuje, że standardy oceny wyników AI pozostają aktualne i skuteczne w promowaniu etycznego rozwoju sztucznej inteligencji w całym zdecentralizowanym stosie.

Token SN37, który funkcjonuje jako dynamiczny TAO (dTAO) lub token Alpha, reprezentuje udział (stake) w wynikach podsieci. Jest wykorzystywany do zarządzania (governance) w ramach Tribunate, nagradzania górników za skuteczny red-teaming oraz motywowania walidatorów do dokładnego oceniania. Dodatkowo token zapewnia uczestnikom dostęp do wysokiej klasy, korporacyjnych zestawów danych dotyczących dopasowania (alignment datasets) generowanych przez sieć.

Aurelius został zaprojektowany tak, aby był kompatybilny między podsieciami, wykorzystując modele z innych podsieci jako cele dla red-teamingu w celu stworzenia pętli zwrotnej wzmacniającej cały ekosystem. Produkując dane klasy korporacyjnej, projekt koncentruje się również na publikowaniu otwartych testów porównawczych (benchmarks) w publicznych repozytoriach, aby udowodnić poprawę bezpieczeństwa modeli, pełniąc rolę zdecentralizowanego organu nadzorczego dla branży sztucznej inteligencji.