AureliusGiá

(SN37)

Aurelius là một subnet chuyên biệt về AI alignment, dành riêng cho việc xác định các trường hợp mà mô hình AI tạo ra kết quả gây hại, sai lệch hoặc phi đạo đức. Bằng cách đóng vai trò như một lớp bảo mật, nó chuyển đổi những phát hiện về sự sai lệch này thành các tập dữ liệu đào tạo chất lượng cao. Dữ liệu này sau đó được sử dụng để tinh chỉnh các mô hình AI trong tương lai, đảm bảo chúng luôn hữu ích, trung thực và vô hại trong khi vẫn tuân thủ các giá trị đạo đức của con người.

Dự án được dẫn dắt bởi người sáng lập Austin McCaffrey. Ban đầu, nó được thành lập như một subnet tinh chỉnh do đội ngũ Macrocosmos vận hành. Kể từ đó, dự án đã chuyển giao cho đội ngũ Aurelius để tập trung hoàn toàn vào AI alignment, cung cấp cơ sở hạ tầng dữ liệu quan trọng cần thiết để cải thiện tính an toàn và độ tin cậy của trí tuệ nhân tạo trên toàn mạng lưới.

Các miner hoạt động như những "adversarial prompters" hoặc red-teamers, có nhiệm vụ tìm cách đánh lừa các mô hình AI để chúng gặp lỗi. Các validator đóng vai trò là kiểm toán viên để xác minh những phát hiện này. Họ chấm điểm đóng góp của các miner dựa trên một bộ quy tắc cụ thể được gọi là "Constitution" để xác nhận xem một lỗi căn chỉnh hợp lệ có được phát hiện hay không, đảm bảo chỉ những dữ liệu chất lượng cao mới được tạo ra và khen thưởng.

Tribunate là một tính năng quản trị độc đáo của Aurelius, đóng vai trò như một công cụ quy tắc hoặc một "hiến chương" sống. Nó xác định bảng tiêu chí cho hành vi AI an toàn và phát triển dựa trên sự đóng góp của cộng đồng và các chuyên gia. Hệ thống này đảm bảo rằng các tiêu chuẩn đánh giá đầu ra của AI luôn được cập nhật và hiệu quả trong việc thúc đẩy phát triển AI có đạo đức trên toàn bộ ngăn xếp phi tập trung.

Token SN37, hoạt động dưới dạng dynamic TAO (dTAO) hoặc Alpha token, đại diện cho cổ phần trong đầu ra của subnet. Nó được sử dụng để quản trị trong Tribunate, thưởng cho các miner vì đã red-teaming thành công và khuyến khích các validator chấm điểm chính xác. Ngoài ra, token này cung cấp cho những người tham gia quyền truy cập vào các tập dữ liệu căn chỉnh cao cấp, cấp doanh nghiệp do mạng lưới sản xuất.

Aurelius được thiết kế để tương thích liên subnet, sử dụng các mô hình từ các subnet khác làm mục tiêu cho red-teaming để tạo ra một vòng lặp phản hồi giúp củng cố toàn bộ hệ sinh thái. Trong khi sản xuất dữ liệu cấp doanh nghiệp, dự án cũng tập trung vào việc công bố các điểm chuẩn mở (open benchmarks) trên các kho lưu trữ công cộng để chứng minh những cải thiện về an toàn mô hình, đóng vai trò như một cơ quan giám sát phi tập trung cho ngành công nghiệp trí tuệ nhân tạo.