Autor: Chris Dixon, fundador da a16z crypto; Elizabeth Harkavy, parceira da a16z crypto; Tradução: Jinse Caijing xiaozou
Os sistemas modernos de inteligência artificial não dependem apenas de poder computacional e algoritmos, mas também do feedback humano. As empresas utilizam técnicas de otimização pós-treinamento, como aprendizado por reforço com feedback humano (RLHF) e otimização de preferências diretas (DPO), para melhorar os modelos. Essas técnicas podem reduzir preconceitos, permitindo que os modelos respondam a prompts de forma mais qualitativa e coerente - isso é crucial para acelerar o desenvolvimento da IA. A avaliação do modelo também é fundamental, mas só ao definir o que significa "melhor" é que se pode realizar a otimização do modelo.
Os desafios surgem: as empresas relutam em compartilhar - elas veem os dados e os processos de treinamento como segredos. Isso leva a uma avaliação de modelos de IA que só pode depender de informações limitadas de sistemas fechados ou testes de referência estáticos que estão desconectados da aplicação prática, restringindo severamente o espaço para melhorias nos modelos. Os usuários também estão em uma zona cega de informações, sem entender como seu feedback afeta o modelo, nem mesmo podendo confirmar se o feedback foi adotado. Algumas classificações de modelos e plataformas de crowdsourcing tentam melhorar a transparência, mas geralmente não suportam que os usuários rastreiem suas próprias contribuições, nem oferecem retornos substanciais pela participação. Aqueles que afirmam ser plataformas justas e transparentes muitas vezes dependem da boa fé em vez de padrões executáveis.
Acreditamos que a tecnologia de criptomoeda pode trazer transparência e propriedade para essa zona cinza da IA. A blockchain pode ajudar os contribuintes a obter recompensas de forma conveniente e também fornecer aos desenvolvedores de IA uma garantia confiável sobre a qualidade e a origem dos dados de feedback. Os usuários recebem incentivos, os desenvolvedores obtêm dados confiáveis, e todos podem realizar auditorias bidirecionais neste mercado aberto. Para isso, lideramos uma rodada de sementes de 33 milhões de dólares para o produto de consumo Yupp, uma plataforma que permite que todos explorem e comparem gratuitamente os mais recentes modelos de IA.
Yupp utiliza um modelo de avaliação de modelos baseado em crowdsourcing: os usuários inserem palavras-chave e visualizam várias respostas geradas por IA em paralelo, selecionando a melhor resposta. As suas escolhas geram dados de preferência "pacote de dados" com assinatura digital, que são extremamente valiosos para a otimização e avaliação após o treinamento da IA. Os usuários não apenas podem usar gratuitamente os modelos mais recentes, mas também recebem recompensas com base no feedback fornecido.
O design da Yupp transforma o julgamento humano em um recurso econômico renovável. À medida que novos dados de interação são gerados, os dados antigos "expiram", formando um volante natural: mais adoção traz avaliações mais frescas; avaliações mais frescas geram modelos de maior qualidade; modelos de maior qualidade atraem mais uso. Todos os participantes — sejam usuários comuns ou desenvolvedores de modelos de IA — podem se juntar e ver regras transparentes aplicáveis a todos, garantindo que o mercado mantenha a neutralidade confiável. Ninguém pode esconder pontuações, e ninguém pode manipular recompensas ou resultados.
A equipe fundadora possui uma vasta experiência tanto em IA quanto no campo das criptomoedas. Eles trabalharam juntos no desenvolvimento de produtos de aprendizado de máquina voltados para o consumidor no início do Twitter. Pankaj Gupta foi o responsável global pela engenharia da parte de consumo do Google Pay e da Coinbase, enquanto Gilad Mishne foi o responsável pelo aprendizado de máquina do GoogleX. A equipe de startups reúne engenheiros seniores de empresas como Google, Coinbase e dos principais laboratórios.
A IA precisa de um sistema de avaliação robusto e confiável baseado em grandes volumes de input humano, e a tecnologia de criptografia é a máquina de confiança que torna isso possível. Ao permitir que usuários globais contribuam com feedback para melhorar os modelos, a Yupp se dedica a se tornar a camada de avaliação fundamental para a IA do futuro. Temos a honra de apoiar a Yupp e esperamos ajudar a construir um ciclo de feedback em blockchain, garantindo que os frutos da inovação em IA sejam compartilhados por todos os construtores.
O conteúdo serve apenas de referência e não constitui uma solicitação ou oferta. Não é prestado qualquer aconselhamento em matéria de investimento, fiscal ou jurídica. Consulte a Declaração de exoneração de responsabilidade para obter mais informações sobre os riscos.
a16z: Por que investimos na Yupp
Autor: Chris Dixon, fundador da a16z crypto; Elizabeth Harkavy, parceira da a16z crypto; Tradução: Jinse Caijing xiaozou
Os sistemas modernos de inteligência artificial não dependem apenas de poder computacional e algoritmos, mas também do feedback humano. As empresas utilizam técnicas de otimização pós-treinamento, como aprendizado por reforço com feedback humano (RLHF) e otimização de preferências diretas (DPO), para melhorar os modelos. Essas técnicas podem reduzir preconceitos, permitindo que os modelos respondam a prompts de forma mais qualitativa e coerente - isso é crucial para acelerar o desenvolvimento da IA. A avaliação do modelo também é fundamental, mas só ao definir o que significa "melhor" é que se pode realizar a otimização do modelo.
Os desafios surgem: as empresas relutam em compartilhar - elas veem os dados e os processos de treinamento como segredos. Isso leva a uma avaliação de modelos de IA que só pode depender de informações limitadas de sistemas fechados ou testes de referência estáticos que estão desconectados da aplicação prática, restringindo severamente o espaço para melhorias nos modelos. Os usuários também estão em uma zona cega de informações, sem entender como seu feedback afeta o modelo, nem mesmo podendo confirmar se o feedback foi adotado. Algumas classificações de modelos e plataformas de crowdsourcing tentam melhorar a transparência, mas geralmente não suportam que os usuários rastreiem suas próprias contribuições, nem oferecem retornos substanciais pela participação. Aqueles que afirmam ser plataformas justas e transparentes muitas vezes dependem da boa fé em vez de padrões executáveis.
Acreditamos que a tecnologia de criptomoeda pode trazer transparência e propriedade para essa zona cinza da IA. A blockchain pode ajudar os contribuintes a obter recompensas de forma conveniente e também fornecer aos desenvolvedores de IA uma garantia confiável sobre a qualidade e a origem dos dados de feedback. Os usuários recebem incentivos, os desenvolvedores obtêm dados confiáveis, e todos podem realizar auditorias bidirecionais neste mercado aberto. Para isso, lideramos uma rodada de sementes de 33 milhões de dólares para o produto de consumo Yupp, uma plataforma que permite que todos explorem e comparem gratuitamente os mais recentes modelos de IA.
Yupp utiliza um modelo de avaliação de modelos baseado em crowdsourcing: os usuários inserem palavras-chave e visualizam várias respostas geradas por IA em paralelo, selecionando a melhor resposta. As suas escolhas geram dados de preferência "pacote de dados" com assinatura digital, que são extremamente valiosos para a otimização e avaliação após o treinamento da IA. Os usuários não apenas podem usar gratuitamente os modelos mais recentes, mas também recebem recompensas com base no feedback fornecido.
O design da Yupp transforma o julgamento humano em um recurso econômico renovável. À medida que novos dados de interação são gerados, os dados antigos "expiram", formando um volante natural: mais adoção traz avaliações mais frescas; avaliações mais frescas geram modelos de maior qualidade; modelos de maior qualidade atraem mais uso. Todos os participantes — sejam usuários comuns ou desenvolvedores de modelos de IA — podem se juntar e ver regras transparentes aplicáveis a todos, garantindo que o mercado mantenha a neutralidade confiável. Ninguém pode esconder pontuações, e ninguém pode manipular recompensas ou resultados.
A equipe fundadora possui uma vasta experiência tanto em IA quanto no campo das criptomoedas. Eles trabalharam juntos no desenvolvimento de produtos de aprendizado de máquina voltados para o consumidor no início do Twitter. Pankaj Gupta foi o responsável global pela engenharia da parte de consumo do Google Pay e da Coinbase, enquanto Gilad Mishne foi o responsável pelo aprendizado de máquina do GoogleX. A equipe de startups reúne engenheiros seniores de empresas como Google, Coinbase e dos principais laboratórios.
A IA precisa de um sistema de avaliação robusto e confiável baseado em grandes volumes de input humano, e a tecnologia de criptografia é a máquina de confiança que torna isso possível. Ao permitir que usuários globais contribuam com feedback para melhorar os modelos, a Yupp se dedica a se tornar a camada de avaliação fundamental para a IA do futuro. Temos a honra de apoiar a Yupp e esperamos ajudar a construir um ciclo de feedback em blockchain, garantindo que os frutos da inovação em IA sejam compartilhados por todos os construtores.