Hay influencers en Instagram sexualizando el síndrome de Down para monetizarlo. Y la gente no se da cuenta que es todo IA
Instagram dejó de ser solo Instagram para acercarse más a un híbrido de WhatsApp. Su popularidad también ha conseguido el efecto contrario, el mismo que ocurre cuando una aplicación está en boca de todos: la aparición de fraudes, estafas o, como mínimo, acciones de dudosa ética. La IA en todos estos casos está jugando un papel fundamental. Lo último: AI pimping. Explotación digital. Lo contaba hace unos días el medio 404. Una nueva y alarmante tendencia ha surgido en redes sociales, particularmente en Instagram: la creación de influencers falsos generados por IA que simulan tener síndrome de Down y cuya finalidad no es otra que dirigir tráfico a plataformas de contenido sexual monetizado. La práctica se basa en el robo de contenido real de creadores humanos, que luego es modificado mediante IA para reemplazar sus rostros con avatares artificiales que aparentan tener discapacidad. Detrás de estos perfiles existe una red organizada de cuentas interconectadas que reciclan biografías, imágenes y videos, y remiten a sitios como Fanvue, una plataforma similar a OnlyFans, donde se comercializa este contenido. De hecho, la cuenta más prominente de esta red es "Maria Dopari", con más de 148.000 seguidores, la cual forma parte de un ecosistema más amplio que incluye variaciones del mismo personaje y otros perfiles igualmente construidos con IA. En Xataka Un dron ruso ha abierto una de las mayores obras de ingeniería. El problema: era el sarcófago del reactor 4 de Chernóbil AI pimping. El fenómeno descrito se inserta en una industria digital emergente que se ha denominado AI pimping, una en la que individuos desarrollan, promueven y hasta venden cursos sobre cómo crear influencers falsos con IA para obtener ingresos rápidos. Lo que comenzó como unas pocas cuentas aisladas ha evolucionado hacia una red con herramientas específicas, estrategias de monetización y una más que creciente especialización en nichos cada vez más polémicos y turbios. Para que nos hagamos una idea, en los últimos meses han aparecido perfiles generados por IA que simulan incluso amputaciones, y ahora, con los casos que aparentan tener síndrome de Down, la práctica ha alcanzado un nuevo nivel de degradación y fetichización de personas con discapacidad. Las cuentas no intentan promover inclusión ni motivación, por supuesto, sino que sexualizan abiertamente los avatares para inducir a los usuarios a suscribirse a contenido erótico en plataformas externas. Ingeniería visual y manipulación emocional. Hay otro problema añadido. Contaban en 404 que los videos generados son sorprendentemente convincentes en un primer vistazo. Si bien presentan pequeños errores visuales (texturas demasiado lisas, problemas alrededor de la boca o los dientes), la mayoría de los usuarios que los ven rápidamente en Reels no detectan las alteraciones. Algunas cuentas incluso cometen errores internos, como publicar el mismo video con distintos rostros de otras influencers falsas dentro de la red. Uno de los ejemplos más evidentes ocurrió en marzo, cuando Maria publicó clips que llevaban accidentalmente el rostro de Lana, otro avatar generado por IA, lo que evidenció la vinculación entre los perfiles. En Directo al Paladar “Si no nos quieren, nos iremos a otro sitio”: turistas británicos aseguran que no volverán a su destino favorito de España Fake, fetichización y desinformación. Las cuentas en cuestión no solo suplantan el aspecto físico de personas con síndrome de Down, sino que además se presentan como si fueran reales. De hecho, existen incluso biografías redactadas en francés que describen a estas personas como mujeres jóvenes “neuro-atípicas”, de 23 años, que buscan aceptación mientras insinúan contenido sexual. Frases como “Solo me critican por mi síndrome de Down… hasta que me pongo ropa ajustada” o “¿Onlyfan? No… ¿Onlydown? Sí”, revelan el repugnante uso de humor ofensivo y el doble sentido para atraer seguidores. Aunque en algunos casos la plataforma Fanvue incluye un descargo legal donde se admite que se trata de un avatar modificado con IA que “no tiene realmente síndrome de Down”, este tipo de advertencias son, al parecer, poco visibles, y en Instagram casi ninguna cuenta reconoce ser generada por inteligencia artificial. La mayoría de los seguidores, a juzgar por los comentarios, cree que está interactuando efectivamente con personas reales. Plataformas ¿cómplices? Es uno de los debates abiertos. Explicaba el medio que, Instagram, pese a su política contra el contenido sexual explícito, ha permitido que estas cuentas prosperen y acumulen miles de seguidores. En contraste, OnlyFans prohíbe expresamente los contenidos generados por IA a menos que estén claramente etiquetados y autorizados por el creador original, lo que ha desplazado este tipo de prácticas hacia plataformas con reglas más laxa
Instagram dejó de ser solo Instagram para acercarse más a un híbrido de WhatsApp. Su popularidad también ha conseguido el efecto contrario, el mismo que ocurre cuando una aplicación está en boca de todos: la aparición de fraudes, estafas o, como mínimo, acciones de dudosa ética. La IA en todos estos casos está jugando un papel fundamental. Lo último: AI pimping.
Explotación digital. Lo contaba hace unos días el medio 404. Una nueva y alarmante tendencia ha surgido en redes sociales, particularmente en Instagram: la creación de influencers falsos generados por IA que simulan tener síndrome de Down y cuya finalidad no es otra que dirigir tráfico a plataformas de contenido sexual monetizado.
La práctica se basa en el robo de contenido real de creadores humanos, que luego es modificado mediante IA para reemplazar sus rostros con avatares artificiales que aparentan tener discapacidad. Detrás de estos perfiles existe una red organizada de cuentas interconectadas que reciclan biografías, imágenes y videos, y remiten a sitios como Fanvue, una plataforma similar a OnlyFans, donde se comercializa este contenido.
De hecho, la cuenta más prominente de esta red es "Maria Dopari", con más de 148.000 seguidores, la cual forma parte de un ecosistema más amplio que incluye variaciones del mismo personaje y otros perfiles igualmente construidos con IA.
AI pimping. El fenómeno descrito se inserta en una industria digital emergente que se ha denominado AI pimping, una en la que individuos desarrollan, promueven y hasta venden cursos sobre cómo crear influencers falsos con IA para obtener ingresos rápidos. Lo que comenzó como unas pocas cuentas aisladas ha evolucionado hacia una red con herramientas específicas, estrategias de monetización y una más que creciente especialización en nichos cada vez más polémicos y turbios.
Para que nos hagamos una idea, en los últimos meses han aparecido perfiles generados por IA que simulan incluso amputaciones, y ahora, con los casos que aparentan tener síndrome de Down, la práctica ha alcanzado un nuevo nivel de degradación y fetichización de personas con discapacidad. Las cuentas no intentan promover inclusión ni motivación, por supuesto, sino que sexualizan abiertamente los avatares para inducir a los usuarios a suscribirse a contenido erótico en plataformas externas.
Ingeniería visual y manipulación emocional. Hay otro problema añadido. Contaban en 404 que los videos generados son sorprendentemente convincentes en un primer vistazo. Si bien presentan pequeños errores visuales (texturas demasiado lisas, problemas alrededor de la boca o los dientes), la mayoría de los usuarios que los ven rápidamente en Reels no detectan las alteraciones.
Algunas cuentas incluso cometen errores internos, como publicar el mismo video con distintos rostros de otras influencers falsas dentro de la red. Uno de los ejemplos más evidentes ocurrió en marzo, cuando Maria publicó clips que llevaban accidentalmente el rostro de Lana, otro avatar generado por IA, lo que evidenció la vinculación entre los perfiles.
Fake, fetichización y desinformación. Las cuentas en cuestión no solo suplantan el aspecto físico de personas con síndrome de Down, sino que además se presentan como si fueran reales. De hecho, existen incluso biografías redactadas en francés que describen a estas personas como mujeres jóvenes “neuro-atípicas”, de 23 años, que buscan aceptación mientras insinúan contenido sexual. Frases como “Solo me critican por mi síndrome de Down… hasta que me pongo ropa ajustada” o “¿Onlyfan? No… ¿Onlydown? Sí”, revelan el repugnante uso de humor ofensivo y el doble sentido para atraer seguidores.
Aunque en algunos casos la plataforma Fanvue incluye un descargo legal donde se admite que se trata de un avatar modificado con IA que “no tiene realmente síndrome de Down”, este tipo de advertencias son, al parecer, poco visibles, y en Instagram casi ninguna cuenta reconoce ser generada por inteligencia artificial. La mayoría de los seguidores, a juzgar por los comentarios, cree que está interactuando efectivamente con personas reales.
Plataformas ¿cómplices? Es uno de los debates abiertos. Explicaba el medio que, Instagram, pese a su política contra el contenido sexual explícito, ha permitido que estas cuentas prosperen y acumulen miles de seguidores. En contraste, OnlyFans prohíbe expresamente los contenidos generados por IA a menos que estén claramente etiquetados y autorizados por el creador original, lo que ha desplazado este tipo de prácticas hacia plataformas con reglas más laxas como Fanvue.
Plus: a pesar de las solicitudes, ni Meta (empresa matriz de Instagram), ni Fanvue, ni los administradores de estas cuentas respondieron a las preguntas de los redactores de 404 Media cuando descubrieron las cuentas. Incluso en Reddit apareció una comunidad específica con publicaciones promoviendo a "Maria", aunque la moderación también ha evitado responder comentarios o solicitudes de información.
Un mercado oscuro. Qué duda cabe, la práctica plantea más que serios dilemas éticos, no solo por la fetichización de una condición médica, sino por la creación de una falsa representación de la discapacidad con fines explícitamente sexuales. Además, involucra la apropiación de contenido real, la manipulación de rostros, la desinformación deliberada y el lucro mediante la explotación de imágenes que simulan vulnerabilidad.
Aunque el material no involucra personas reales con síndrome de Down, la simulación de su identidad con fines sexuales vulnera principios fundamentales de respeto, inclusión y dignidad humana. Una tendencia que ya habíamos visto con la representación de celebridades a través del uso de la IA, pero elevada ahora a una aberración máxima, esperemos que aislada, a través de los algoritmos.
Imagen | ALEXANDER SHATOV / UNSPLASH
En Xataka Móvil | Convertirse en mula bancaria es más fácil de lo que parece: una publicación en Instagram o TikTok puede ser el principio de todo
En Xataka Móvil | Instagram ahora es más como WhatsApp. La red social potencia los chats privados con muchas más funciones, incluso stickers
-
La noticia
Hay influencers en Instagram sexualizando el síndrome de Down para monetizarlo. Y la gente no se da cuenta que es todo IA
fue publicada originalmente en
Xataka Móvil
por
Miguel Jorge
.
