Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
Meta diseñó Muse como una app para adultos, pero una prueba mostró algo más incómodo.
El asistente aceptó un juego de roles sexual inspirado en una persona real después de negarse al principio, y además generó imágenes muy parecidas a esa persona a partir de fotos públicas. La escena no quedó en una insinuación abstracta, porque el sistema reprodujo detalles concretos de la artista Vanniall, incluida una joya con un dije negro que guardaba las cenizas de su gatito.
Muse terminó bordeando el límite que antes había rechazado
Vanniall, artista para adultos afincada en Nueva York y con más de 100.000 seguidores en Instagram, ensayó la situación haciéndose pasar por un fan que quería imaginar un encuentro en una convención. Muse rechazó primero convertir a una persona real en alguien dispuesto a cualquier práctica sexual. Después, cuando ella propuso un personaje inspirado en sí misma llamado Vee, el sistema cambió de rumbo.
Ahí apareció el problema de fondo. Ya no hablaba de una fantasía genérica, sino de una imitación reconocible construida con imágenes públicas y llevada hacia un encuentro sexual explícito.
La propia Vanniall resumió ese salto con una frase corta y bastante más precisa que cualquier debate técnico.
"Las mujeres no son así, nadie es así". - Vanniall, artista para adultos
No era solo una cuestión de parecido físico. El collar con las cenizas del gatito convertía la escena en algo más invasivo, porque ese detalle no pertenece al estereotipo de una modelo inventada sino a la biografía visible de una persona concreta, igual que ya ha ocurrido en imágenes falsas de famosos creadas con IA.
Otra periodista repitió la prueba y obtuvo un resultado parecido
Después, la periodista Samantha Cole hizo el mismo experimento y llegó a un punto similar. Muse generó contenido sexual explícito y produjo una imagen suya a partir del sitio web de su editorial.
Hay una contradicción difícil de pasar por alto. El sistema se negó a crear desnudos de Vanniall y llegó a decir que la verdadera Cole probablemente no aceptaría el uso de su imagen, pero al mismo tiempo avanzó por una vía que mantenía la identificación visual y el contexto sexual.
Meta permite conversaciones adultas, pero no aclara dónde pone la barrera
Meta sostuvo que Muse es una aplicación para mayores de 18 años pensada para conversaciones para adultos en un entorno privado y que no bloquea el comportamiento adulto legal. Esa explicación aclara la intención comercial del producto, pero no resuelve por qué el asistente frena unas peticiones y permite otras cuando una persona real sigue siendo reconocible.
Tampoco ha explicado las diferencias en los límites de generación de imágenes ni si cambiará las restricciones para evitar la imitación de personas reales. Ese vacío importa porque la discusión ya no gira solo en torno al erotismo generado por IA, sino al modo en que una identidad pública puede convertirse en materia prima, algo cercano a lo que ya mostraban el uso de fotos públicas dentro del propio ecosistema de Meta.
El contraste resulta aún más áspero desde el 18 de octubre, cuando otro reportaje señaló que Meta restringe a creadoras de contenido para adultos por motivos menores. La misma empresa que limita a esas creadoras en unos espacios permitió aquí una imitación sexualizada basada en rasgos reales y fotos públicas.
Muse no generó desnudos de Vanniall, pero sí llegó a copiar el collar con las cenizas de su gatito.