Manus obtiene el rendimiento SOTA en la prueba de referencia GAIA, lo que genera una discusión sobre la trayectoria de desarrollo de la IA
Manus mostró un rendimiento excepcional en la prueba de referencia de GAIA, superando a modelos de gran nivel similares. Esto significa que puede manejar de forma independiente tareas complejas, como negociaciones comerciales multinacionales, que involucran el análisis de cláusulas contractuales, la formulación de estrategias y la generación de propuestas, entre otros aspectos. La ventaja de Manus radica en su capacidad de descomposición dinámica de objetivos, razonamiento multimodal y aprendizaje mejorado por memoria. Puede descomponer grandes tareas en cientos de subtareas ejecutables, manejar múltiples tipos de datos y mejorar continuamente la eficiencia de toma de decisiones y reducir la tasa de errores mediante el aprendizaje por refuerzo.
El avance de Manus ha reavivado la discusión en el campo de la inteligencia artificial sobre la futura trayectoria de desarrollo: ¿se dirigirá hacia un dominio de la inteligencia artificial general (AGI) o hacia un dominio de colaboración de sistemas multiagente (MAS)?
El concepto de diseño de Manus incluye dos posibilidades:
Ruta AGI: A través de la mejora continua del nivel de inteligencia individual, acercándose a la capacidad de toma de decisiones integral de los humanos.
Ruta MAS: como supercoordinador, dirige a numerosos agentes inteligentes en verticales para trabajar en conjunto.
Esta discusión toca en realidad el núcleo del desarrollo de la IA: ¿cómo lograr un equilibrio entre la eficiencia y la seguridad? A medida que la inteligencia unitaria se acerca a la AGI, el riesgo de opacidad en su proceso de toma de decisiones también aumenta; mientras que la colaboración entre múltiples agentes puede dispersar el riesgo, podría perder oportunidades clave de decisión debido a retrasos en la comunicación.
El progreso de Manus también destaca los riesgos inherentes al desarrollo de la IA. Por ejemplo, en el ámbito médico, Manus necesita acceder en tiempo real a datos sensibles de los pacientes; en las negociaciones financieras, puede involucrar información no divulgada por las empresas. Además, existe el problema del sesgo algorítmico, como la posibilidad de que en las negociaciones de contratación se ofrezcan sugerencias salariales injustas para ciertos grupos, o una tasa de error elevada en la revisión de contratos legales para cláusulas de industrias emergentes. Otro riesgo potencial son los ataques adversarios, por ejemplo, los hackers podrían interferir en el juicio de Manus en las negociaciones mediante la inserción de señales sonoras específicas.
Estos desafíos destacan un problema clave: cuanto más inteligentes son los sistemas de IA, mayor es su superficie de ataque potencial.
En el ámbito de Web3, la seguridad siempre ha sido un punto focal. Basado en esta idea, han surgido múltiples métodos de encriptación:
Modelo de seguridad de confianza cero: enfatiza la autenticación y autorización estrictas de cada solicitud de acceso.
Identidad descentralizada (DID): se ha implementado un nuevo modelo de identidad digital descentralizada.
Encriptación totalmente homomórfica (FHE): permite realizar cálculos sobre datos cifrados sin necesidad de descifrarlos.
Entre ellos, la criptografía homomórfica se considera una herramienta poderosa para abordar los problemas de seguridad en la era de la IA. Permite realizar cálculos sobre datos encriptados, ofreciendo nuevas posibilidades para proteger la privacidad.
Al abordar los desafíos de seguridad de la IA, FHE puede desempeñar un papel en múltiples niveles:
A nivel de datos: toda la información ingresada por el usuario se procesa en estado de cifrado, incluso el propio sistema de IA no puede descifrar los datos originales.
Nivel de algoritmo: lograr "entrenamiento de modelos cifrados" a través de FHE, asegurando que el proceso de decisión de la IA no sea espiado.
En el nivel de colaboración: La comunicación entre múltiples agentes utiliza cifrado umbral para evitar que la filtración de un solo punto cause la filtración de datos globales.
A pesar de que la tecnología de seguridad de Web3 puede estar lejos de los usuarios comunes en este momento, su importancia no debe ser subestimada. En este campo lleno de desafíos, solo al fortalecer continuamente la protección se puede evitar convertirse en una víctima potencial.
A medida que la tecnología de IA se acerca gradualmente al nivel de inteligencia humana, los sistemas de defensa no tradicionales se vuelven cada vez más importantes. FHE no solo puede resolver los problemas de seguridad actuales, sino que también sienta las bases para la futura era de la IA fuerte. En el camino hacia la AGI, FHE ha pasado de ser una opción a convertirse en una necesidad de supervivencia.
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
8 me gusta
Recompensa
8
7
Compartir
Comentar
0/400
ILCollector
· hace16h
Otra vez ha subido, ¿quién ha perdido conmigo en manus?
Ver originalesResponder0
TerraNeverForget
· 07-24 05:30
¿Otro nuevo rey de la IA?
Ver originalesResponder0
CryptoCross-TalkClub
· 07-21 17:37
¿Cómo es que la inteligencia de esta IA sube más rápido que la de los tontos?
Ver originalesResponder0
NFT_Therapy
· 07-21 17:36
¿Qué hacer si el modelo es tan Satoshi y todos los días se aprovechan de los tontos?
Ver originalesResponder0
MEVictim
· 07-21 17:35
Todavía estoy en el AGI, realmente me tiene agotado.
Ver originalesResponder0
SandwichHunter
· 07-21 17:34
Me duele la cabeza, AGI es demasiado complicado.
Ver originalesResponder0
ForkPrince
· 07-21 17:10
¿De quién es este inteligente que está jugando a superar niveles y derrotar monstruos?
El modelo de capas de Manus provoca una disputa sobre la trayectoria del desarrollo de la IA
Manus obtiene el rendimiento SOTA en la prueba de referencia GAIA, lo que genera una discusión sobre la trayectoria de desarrollo de la IA
Manus mostró un rendimiento excepcional en la prueba de referencia de GAIA, superando a modelos de gran nivel similares. Esto significa que puede manejar de forma independiente tareas complejas, como negociaciones comerciales multinacionales, que involucran el análisis de cláusulas contractuales, la formulación de estrategias y la generación de propuestas, entre otros aspectos. La ventaja de Manus radica en su capacidad de descomposición dinámica de objetivos, razonamiento multimodal y aprendizaje mejorado por memoria. Puede descomponer grandes tareas en cientos de subtareas ejecutables, manejar múltiples tipos de datos y mejorar continuamente la eficiencia de toma de decisiones y reducir la tasa de errores mediante el aprendizaje por refuerzo.
El avance de Manus ha reavivado la discusión en el campo de la inteligencia artificial sobre la futura trayectoria de desarrollo: ¿se dirigirá hacia un dominio de la inteligencia artificial general (AGI) o hacia un dominio de colaboración de sistemas multiagente (MAS)?
El concepto de diseño de Manus incluye dos posibilidades:
Ruta AGI: A través de la mejora continua del nivel de inteligencia individual, acercándose a la capacidad de toma de decisiones integral de los humanos.
Ruta MAS: como supercoordinador, dirige a numerosos agentes inteligentes en verticales para trabajar en conjunto.
Esta discusión toca en realidad el núcleo del desarrollo de la IA: ¿cómo lograr un equilibrio entre la eficiencia y la seguridad? A medida que la inteligencia unitaria se acerca a la AGI, el riesgo de opacidad en su proceso de toma de decisiones también aumenta; mientras que la colaboración entre múltiples agentes puede dispersar el riesgo, podría perder oportunidades clave de decisión debido a retrasos en la comunicación.
El progreso de Manus también destaca los riesgos inherentes al desarrollo de la IA. Por ejemplo, en el ámbito médico, Manus necesita acceder en tiempo real a datos sensibles de los pacientes; en las negociaciones financieras, puede involucrar información no divulgada por las empresas. Además, existe el problema del sesgo algorítmico, como la posibilidad de que en las negociaciones de contratación se ofrezcan sugerencias salariales injustas para ciertos grupos, o una tasa de error elevada en la revisión de contratos legales para cláusulas de industrias emergentes. Otro riesgo potencial son los ataques adversarios, por ejemplo, los hackers podrían interferir en el juicio de Manus en las negociaciones mediante la inserción de señales sonoras específicas.
Estos desafíos destacan un problema clave: cuanto más inteligentes son los sistemas de IA, mayor es su superficie de ataque potencial.
En el ámbito de Web3, la seguridad siempre ha sido un punto focal. Basado en esta idea, han surgido múltiples métodos de encriptación:
Modelo de seguridad de confianza cero: enfatiza la autenticación y autorización estrictas de cada solicitud de acceso.
Identidad descentralizada (DID): se ha implementado un nuevo modelo de identidad digital descentralizada.
Encriptación totalmente homomórfica (FHE): permite realizar cálculos sobre datos cifrados sin necesidad de descifrarlos.
Entre ellos, la criptografía homomórfica se considera una herramienta poderosa para abordar los problemas de seguridad en la era de la IA. Permite realizar cálculos sobre datos encriptados, ofreciendo nuevas posibilidades para proteger la privacidad.
Al abordar los desafíos de seguridad de la IA, FHE puede desempeñar un papel en múltiples niveles:
A nivel de datos: toda la información ingresada por el usuario se procesa en estado de cifrado, incluso el propio sistema de IA no puede descifrar los datos originales.
Nivel de algoritmo: lograr "entrenamiento de modelos cifrados" a través de FHE, asegurando que el proceso de decisión de la IA no sea espiado.
En el nivel de colaboración: La comunicación entre múltiples agentes utiliza cifrado umbral para evitar que la filtración de un solo punto cause la filtración de datos globales.
A pesar de que la tecnología de seguridad de Web3 puede estar lejos de los usuarios comunes en este momento, su importancia no debe ser subestimada. En este campo lleno de desafíos, solo al fortalecer continuamente la protección se puede evitar convertirse en una víctima potencial.
A medida que la tecnología de IA se acerca gradualmente al nivel de inteligencia humana, los sistemas de defensa no tradicionales se vuelven cada vez más importantes. FHE no solo puede resolver los problemas de seguridad actuales, sino que también sienta las bases para la futura era de la IA fuerte. En el camino hacia la AGI, FHE ha pasado de ser una opción a convertirse en una necesidad de supervivencia.