Una nueva herramienta de video AI de xAI – la empresa fundada por Elon Musk – está enfrentando una ola de críticas por permitir a los usuarios crear deepfakes desnudos de celebridades como Taylor Swift con solo un mínimo esfuerzo. La función llamada Grok Imagine, lanzada el martes, tiene una opción "Spicy" que permite crear videos sugestivos o desnudos, a pesar de que esto viola la política de prohibición de contenido pornográfico de xAI.
En su primer día, la herramienta generó 20 millones de imágenes, lo que llevó a Musk a llamarlo "Hyperviral". Después de que el deepfake de Swift se hiciera viral, xAI se vio obligado a limitar la función "Spicy" con imágenes de esta cantante.
A diferencia de plataformas como Google Veo 3 o OpenAI Sora, que tienen medidas de censura estrictas, xAI ha sido criticada por la falta de barreras para impedir contenido sensible y violaciones de imágenes reales. Notablemente, el incidente ocurrió solo un año después de que Swift fue asociada con un deepfake apoyando a Trump en la temporada electoral de 2024, aunque después ella apoyó a la oponente Kamala Harris.
Actualmente, Elon Musk no ha hecho declaraciones, mientras que el legislativo estadounidense sigue ejerciendo presión tras la aprobación de la Ley "Take It Down" en mayo, destinada a proteger a las víctimas de imágenes privadas no consensuadas.
Este es el último incidente relacionado con los productos de IA no verificados de xAI, después de que el chatbot Grok hiciera comentarios racistas en julio.
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
xAI causa controversia por la herramienta de IA que crea deepfakes desnudos de Taylor Swift
Una nueva herramienta de video AI de xAI – la empresa fundada por Elon Musk – está enfrentando una ola de críticas por permitir a los usuarios crear deepfakes desnudos de celebridades como Taylor Swift con solo un mínimo esfuerzo. La función llamada Grok Imagine, lanzada el martes, tiene una opción "Spicy" que permite crear videos sugestivos o desnudos, a pesar de que esto viola la política de prohibición de contenido pornográfico de xAI.
En su primer día, la herramienta generó 20 millones de imágenes, lo que llevó a Musk a llamarlo "Hyperviral". Después de que el deepfake de Swift se hiciera viral, xAI se vio obligado a limitar la función "Spicy" con imágenes de esta cantante.
A diferencia de plataformas como Google Veo 3 o OpenAI Sora, que tienen medidas de censura estrictas, xAI ha sido criticada por la falta de barreras para impedir contenido sensible y violaciones de imágenes reales. Notablemente, el incidente ocurrió solo un año después de que Swift fue asociada con un deepfake apoyando a Trump en la temporada electoral de 2024, aunque después ella apoyó a la oponente Kamala Harris.
Actualmente, Elon Musk no ha hecho declaraciones, mientras que el legislativo estadounidense sigue ejerciendo presión tras la aprobación de la Ley "Take It Down" en mayo, destinada a proteger a las víctimas de imágenes privadas no consensuadas.
Este es el último incidente relacionado con los productos de IA no verificados de xAI, después de que el chatbot Grok hiciera comentarios racistas en julio.