FLock OFF, especificamente associado ao identificador SN96, é um projeto de inteligência artificial descentralizada construído como uma subnet na rede Bittensor. Desenvolvido pela equipe da FLock.io, o projeto foca no crowdsourcing de dados de treinamento de alta qualidade para desenvolver Small Language Models eficientes. Esses modelos são projetados para rodar em dispositivos de borda, como smartphones e hardware de Internet das Coisas, onde os recursos computacionais e a energia são limitados. O nome FLock OFF significa FLock Open Federated Framework. O projeto serve como um marketplace de dados descentralizado e permissionless onde os colaboradores colaboram para construir conjuntos de dados que são compactos, mas densos em conhecimento. Essa abordagem visa resolver um problema comum no desenvolvimento de IA, onde modelos grandes exigem quantidades massivas de dados e poder computacional, tornando-os difíceis de usar em dispositivos portáteis. A rede opera por meio de duas funções primárias: mineradores e validadores. Os mineradores atuam como colaboradores de dados que fazem a curadoria e o upload de datasets de alto sinal para repositórios como o Hugging Face. Esses datasets são especificamente adaptados para fine-tuning supervisionado e otimização de preferências. Os validadores então baixam esses datasets e avaliam sua qualidade treinando adaptadores especializados usando uma técnica chamada Low Rank Adaptation em um modelo base padronizado. O desempenho do modelo resultante determina as recompensas distribuídas aos colaboradores. Esse ambiente competitivo garante que apenas os dados mais úteis e precisos sejam priorizados. A visão mais ampla do projeto é democratizar o treinamento de IA, afastando-se de silos de dados centralizados. Ao usar aprendizado federado e coordenação via blockchain, o FLock OFF permite que os participantes contribuam para o desenvolvimento de IA, mantendo a privacidade e a propriedade dos dados. O projeto utiliza uma stack técnica que inclui PyTorch e a biblioteca HuggingFace Transformers para gerenciar os pipelines de treinamento e avaliação. O token associado serve como a camada de incentivo para o ecossistema. Ele é usado para recompensar os participantes por suas contribuições ao treinamento de modelos e curadoria de dados. Ele também desempenha um papel na governança e segurança da rede, com mecanismos como staking exigido para participação e slashing para coibir comportamentos maliciosos ou submissões de baixa qualidade. Ao alinhar incentivos econômicos com a produção de ativos de IA de alta qualidade, o projeto visa criar uma alternativa de código aberto aos modelos de IA proprietários.
Saiba mais
