Capa de confianza de la IA: Red Mira y su solución para los sesgos y alucinaciones de la IA
Recientemente, se lanzó oficialmente la red de prueba pública de Mira, un proyecto que tiene como objetivo construir una capa de confianza para la inteligencia artificial. Entonces, ¿por qué la IA necesita ser confiable? ¿Cómo aborda Mira este problema?
Al discutir sobre la IA, las personas a menudo se centran más en su poderosa capacidad. Sin embargo, los problemas de "ilusión" o sesgo de la IA a menudo se pasan por alto. La llamada "ilusión" de la IA, en términos simples, es que a veces la IA "inventa" información y proporciona explicaciones que parecen razonables pero que en realidad no son precisas. Por ejemplo, si se pregunta a la IA por qué la luna es rosa, podría ofrecer una serie de explicaciones que suenan razonables pero que en realidad no son correctas.
La aparición de "alucinaciones" o sesgos en la IA está relacionada con algunas de las rutas tecnológicas actuales en la IA. Por ejemplo, la IA generativa logra una salida coherente y razonable al predecir el contenido "más probable", pero este enfoque a veces es difícil de verificar por su autenticidad. Además, los datos de entrenamiento pueden contener errores, sesgos e incluso contenido ficticio, lo que puede afectar la calidad de la salida de la IA. En otras palabras, la IA aprende patrones del lenguaje humano y no los hechos en sí.
El mecanismo de generación de probabilidades actual y el modelo impulsado por datos casi inevitablemente llevan a que la IA genere alucinaciones. Aunque en el contenido de conocimiento general o entretenimiento, este problema puede no tener consecuencias graves de inmediato, en campos que requieren una alta rigurosidad como la medicina, el derecho, la aviación y las finanzas, puede tener un impacto significativo. Por lo tanto, abordar el problema de las alucinaciones y prejuicios de la IA se ha convertido en uno de los desafíos centrales en el proceso de desarrollo de la IA.
El proyecto Mira intenta resolver este problema. Su objetivo es construir una capa de confianza para la IA, reducir los sesgos y alucinaciones de la IA, y mejorar la fiabilidad de la IA. Entonces, ¿cómo logra Mira este objetivo?
La estrategia central de Mira es validar la salida de la IA a través del consenso de múltiples modelos de IA. Es esencialmente una red de verificación que utiliza el consenso de varios modelos de IA para validar la fiabilidad de la salida de la IA. Más importante aún, Mira adopta un enfoque de verificación de consenso descentralizado.
La clave de la red Mira radica en la validación de consenso descentralizada. Esto no solo aprovecha las ventajas del ámbito de la criptografía, sino que también reduce sesgos y alucinaciones a través de un modelo de verificación colectiva con múltiples modelos.
En términos de arquitectura de verificación, el protocolo Mira admite la conversión de contenido complejo en declaraciones de verificación independientes. Los operadores de nodos participan en la verificación de estas declaraciones, y para garantizar la honestidad de los operadores de nodos, Mira utiliza un mecanismo de incentivos y penalizaciones económicas criptográficas. Diferentes modelos de IA y operadores de nodos descentralizados participan conjuntamente para garantizar la fiabilidad de los resultados de verificación.
La arquitectura de la red de Mira incluye conversión de contenido, verificación distribuida y mecanismos de consenso. Primero, el sistema descompone el contenido candidato en diferentes declaraciones verificables, luego se distribuye a los nodos para su verificación, y finalmente se resumen los resultados para alcanzar un consenso. Para proteger la privacidad del cliente, las declaraciones se distribuirán a diferentes nodos de manera aleatoria.
Los operadores de nodos son responsables de ejecutar el modelo de validación, procesar las declaraciones y enviar los resultados de la validación. Su motivación para participar en la validación proviene de la posibilidad de obtener ganancias. Estas ganancias provienen del valor creado para los clientes, es decir, de la reducción de la tasa de error de la IA en áreas críticas. Para evitar el comportamiento especulativo de respuesta aleatoria de nodos, los nodos que se desvían continuamente del consenso verán reducidos sus tokens de participación.
En general, Mira proporciona un nuevo enfoque para lograr la confiabilidad de la IA. Se basa en múltiples modelos de IA para construir una red de verificación de consenso descentralizada, lo que aporta mayor fiabilidad a los servicios de IA de los clientes, reduce los sesgos y alucinaciones de la IA, y satisface las demandas de mayor precisión y exactitud. En resumen, Mira está intentando construir una capa de confianza para la IA, lo cual es de gran importancia para impulsar el desarrollo profundo de las aplicaciones de IA.
Actualmente, los usuarios pueden participar en la red de prueba pública de Mira a través de Klok (una aplicación de chat LLM basada en Mira), experimentar salidas de IA verificadas y tener la oportunidad de ganar puntos Mira. Esto brinda a los usuarios una oportunidad intuitiva para comparar las diferencias en las salidas de IA antes y después de la verificación, demostrando el potencial de la red Mira para mejorar la confiabilidad de la IA.
Ver originales
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
16 me gusta
Recompensa
16
7
Compartir
Comentar
0/400
RamenDeFiSurvivor
· hace3h
Correr en la ilusión, me escabullí.
Ver originalesResponder0
ChainDetective
· hace4h
¿Otra vez dibujando BTC? ¿Es confiable?
Ver originalesResponder0
GmGmNoGn
· hace10h
¿Mira está aumentando el tráfico de KOL?
Ver originalesResponder0
RektRecovery
· hace10h
lmao otra "capa de confianza" que se va a arruinar en 3... 2... 1...
Ver originalesResponder0
SeeYouInFourYears
· hace10h
¿Cómo puede la IA contar historias así?
Ver originalesResponder0
hodl_therapist
· hace10h
¿Cuándo podrá la IA corregir sus propias ilusiones?
Ver originalesResponder0
GasWastingMaximalist
· hace10h
Esta ola bullish, la voy a negociar como un respeto.
Se lanza la prueba pública de la red Mira para crear una capa de confianza en IA que resuelva problemas de sesgos y alucinaciones.
Capa de confianza de la IA: Red Mira y su solución para los sesgos y alucinaciones de la IA
Recientemente, se lanzó oficialmente la red de prueba pública de Mira, un proyecto que tiene como objetivo construir una capa de confianza para la inteligencia artificial. Entonces, ¿por qué la IA necesita ser confiable? ¿Cómo aborda Mira este problema?
Al discutir sobre la IA, las personas a menudo se centran más en su poderosa capacidad. Sin embargo, los problemas de "ilusión" o sesgo de la IA a menudo se pasan por alto. La llamada "ilusión" de la IA, en términos simples, es que a veces la IA "inventa" información y proporciona explicaciones que parecen razonables pero que en realidad no son precisas. Por ejemplo, si se pregunta a la IA por qué la luna es rosa, podría ofrecer una serie de explicaciones que suenan razonables pero que en realidad no son correctas.
La aparición de "alucinaciones" o sesgos en la IA está relacionada con algunas de las rutas tecnológicas actuales en la IA. Por ejemplo, la IA generativa logra una salida coherente y razonable al predecir el contenido "más probable", pero este enfoque a veces es difícil de verificar por su autenticidad. Además, los datos de entrenamiento pueden contener errores, sesgos e incluso contenido ficticio, lo que puede afectar la calidad de la salida de la IA. En otras palabras, la IA aprende patrones del lenguaje humano y no los hechos en sí.
El mecanismo de generación de probabilidades actual y el modelo impulsado por datos casi inevitablemente llevan a que la IA genere alucinaciones. Aunque en el contenido de conocimiento general o entretenimiento, este problema puede no tener consecuencias graves de inmediato, en campos que requieren una alta rigurosidad como la medicina, el derecho, la aviación y las finanzas, puede tener un impacto significativo. Por lo tanto, abordar el problema de las alucinaciones y prejuicios de la IA se ha convertido en uno de los desafíos centrales en el proceso de desarrollo de la IA.
El proyecto Mira intenta resolver este problema. Su objetivo es construir una capa de confianza para la IA, reducir los sesgos y alucinaciones de la IA, y mejorar la fiabilidad de la IA. Entonces, ¿cómo logra Mira este objetivo?
La estrategia central de Mira es validar la salida de la IA a través del consenso de múltiples modelos de IA. Es esencialmente una red de verificación que utiliza el consenso de varios modelos de IA para validar la fiabilidad de la salida de la IA. Más importante aún, Mira adopta un enfoque de verificación de consenso descentralizado.
La clave de la red Mira radica en la validación de consenso descentralizada. Esto no solo aprovecha las ventajas del ámbito de la criptografía, sino que también reduce sesgos y alucinaciones a través de un modelo de verificación colectiva con múltiples modelos.
En términos de arquitectura de verificación, el protocolo Mira admite la conversión de contenido complejo en declaraciones de verificación independientes. Los operadores de nodos participan en la verificación de estas declaraciones, y para garantizar la honestidad de los operadores de nodos, Mira utiliza un mecanismo de incentivos y penalizaciones económicas criptográficas. Diferentes modelos de IA y operadores de nodos descentralizados participan conjuntamente para garantizar la fiabilidad de los resultados de verificación.
La arquitectura de la red de Mira incluye conversión de contenido, verificación distribuida y mecanismos de consenso. Primero, el sistema descompone el contenido candidato en diferentes declaraciones verificables, luego se distribuye a los nodos para su verificación, y finalmente se resumen los resultados para alcanzar un consenso. Para proteger la privacidad del cliente, las declaraciones se distribuirán a diferentes nodos de manera aleatoria.
Los operadores de nodos son responsables de ejecutar el modelo de validación, procesar las declaraciones y enviar los resultados de la validación. Su motivación para participar en la validación proviene de la posibilidad de obtener ganancias. Estas ganancias provienen del valor creado para los clientes, es decir, de la reducción de la tasa de error de la IA en áreas críticas. Para evitar el comportamiento especulativo de respuesta aleatoria de nodos, los nodos que se desvían continuamente del consenso verán reducidos sus tokens de participación.
En general, Mira proporciona un nuevo enfoque para lograr la confiabilidad de la IA. Se basa en múltiples modelos de IA para construir una red de verificación de consenso descentralizada, lo que aporta mayor fiabilidad a los servicios de IA de los clientes, reduce los sesgos y alucinaciones de la IA, y satisface las demandas de mayor precisión y exactitud. En resumen, Mira está intentando construir una capa de confianza para la IA, lo cual es de gran importancia para impulsar el desarrollo profundo de las aplicaciones de IA.
Actualmente, los usuarios pueden participar en la red de prueba pública de Mira a través de Klok (una aplicación de chat LLM basada en Mira), experimentar salidas de IA verificadas y tener la oportunidad de ganar puntos Mira. Esto brinda a los usuarios una oportunidad intuitiva para comparar las diferencias en las salidas de IA antes y después de la verificación, demostrando el potencial de la red Mira para mejorar la confiabilidad de la IA.