Millones de personas están creando imágenes desnudas de prácticamente cualquiera en minutos usando bots de IA, informe

Un reciente informe de Wired ha revelado una inquietante tendencia en la aplicación de mensajería Telegram: chatbots impulsados por inteligencia artificial están generando imágenes y videos explícitos de personas a petición de los usuarios. Esta práctica ha suscitado la preocupación de expertos en el tema, quienes advierten que los deepfakes explícitos pueden desencadenar “un escenario muy aterrador.” La investigación encontró múltiples chatbots que, con solo unos clics, pueden crear fotos o videos de contenido sexual, incluyendo la capacidad de “quitar ropa” de imágenes que los usuarios proporcionan.

Se estima que alrededor de cuatro millones de usuarios mensuales aprovechan las capacidades de deepfake de estos chatbots, que suman aproximadamente 50 en total. Según el reporte, estos bots prometen ofrecer “cualquier cosa que desees sobre la cara o la ropa de la foto que me des.” Esta facilidad de acceso plantea serias interrogantes sobre la seguridad y el bienestar de las personas, especialmente de las mujeres y adolescentes, quienes son más vulnerables a este tipo de abuso.

Henry Ajder, un experto en deepfakes, señala que la proliferación de estas herramientas ha generado un aumento significativo en la creación de contenido perjudicial. “Estamos hablando de un incremento exponencial en el número de personas que están usando y creando este tipo de contenido,” afirmó Ajder. La accesibilidad de estas plataformas en una de las aplicaciones más grandes del mundo ha generado un ambiente preocupante.

Lo Curioso

Estas son las razones para desactivar Meta AI en WhatsApp

Consecuencias Sociales y Legales

La realidad de los deepfakes no se limita a celebridades; también afecta a jóvenes. Recientes reportes indican que algunas adolescentes han sido objeto de la creación de fotos desnudas mediante deepfakes, que luego han sido utilizadas en casos de “sextorsión.” Una encuesta reciente reveló que el 40% de los estudiantes en Estados Unidos han estado expuestos a la circulación de deepfakes en sus escuelas. Esta situación plantea un reto serio en cuanto a la educación y la protección de los jóvenes en línea.

Los avances en tecnología de inteligencia artificial han permitido que los sitios de deepfake prosperen, pero también han sido objeto de un escrutinio intenso por parte de los legisladores. En agosto, la oficina del fiscal de San Francisco presentó demandas contra más de una docena de sitios web dedicados a la creación de contenido explícito. Sin embargo, la regulación sobre el uso de estas tecnologías aún se encuentra en pañales, lo que deja a muchos sin protección.

Emma Pickering, directora de tecnología-facilitada por abuso en la organización Refuge, advierte sobre los efectos devastadores que estas imágenes pueden tener en la salud mental de las víctimas. “Este tipo de imágenes falsas puede dañar la salud y el bienestar de una persona al causar trauma psicológico, sentimientos de humillación, miedo, vergüenza y culpa,” explicó Pickering.

Responsabilidad de las Plataformas

A pesar de las preocupaciones, las plataformas que alojan estos chatbots, como Telegram, enfrentan críticas por su falta de acción. Cuando Wired contactó a Telegram sobre el contenido explícito de los chatbots, la compañía no emitió un comentario, y los bots y canales relacionados desaparecieron rápidamente. Sin embargo, los creadores de estos bots han prometido reiniciar su actividad al día siguiente, lo que indica un ciclo continuo de creación de contenido perjudicial.

El director de la organización #NotYourPorn, Elena Michale, subraya la dificultad para rastrear y monitorear aplicaciones en Telegram que promueven este tipo de imágenes. “Imagínate si fueras un sobreviviente que tiene que lidiar con esto. La carga no debería recaer en el individuo, sino en la empresa para implementar medidas proactivas,” dijo Michale. Esta falta de responsabilidad es alarmante, especialmente en un momento en que el uso de deepfakes se está normalizando.

La legislación sobre la pornografía no consensuada ha sido aprobada en varios estados de Estados Unidos, pero los términos de servicio de Telegram son vagos en cuanto al contenido para adultos. Kate Ruane, del Centro para la Democracia y Tecnología, señaló que no está claro si la creación o distribución de imágenes íntimas no consensuadas está prohibida en la plataforma. La reciente arrestación de Pavel Durov, CEO de Telegram, por facilitar la pornografía infantil ha añadido otra capa de controversia al asunto, aunque él insiste en que poco ha cambiado en la política de privacidad de la aplicación.

Un Llamado a la Acción

Dada la gravedad de la situación, expertos en tecnología y defensa de derechos humanos están haciendo un llamado a una mayor regulación y responsabilidad por parte de plataformas como Telegram. Henry Ajder, quien ha estado a la vanguardia en la investigación de deepfakes, enfatiza que Telegram no solo proporciona la funcionalidad de búsqueda, sino que también ofrece herramientas para alojar y compartir contenido dañino. “Es el lugar donde se puede identificar comunidades, chats y bots,” afirmó Ajder, subrayando la responsabilidad que tiene la plataforma en el problema.

Lo Curioso

La Generación Z y los millennials están utilizando la inteligencia artificial para obtener apoyo emocional, según un estudio

La necesidad de una respuesta efectiva es urgente, y muchos abogan por una mayor educación sobre los riesgos de los deepfakes, así como por el desarrollo de tecnologías que ayuden a mitigar el daño causado por estos contenidos. A medida que la tecnología avanza, también lo deben hacer las leyes y regulaciones que protegen a los individuos de abusos en línea.

También podría interesarte: El aumento de los deepfakes criminales: fraude, pornografía y suplantación de identidad

En conclusión, la creciente accesibilidad y normalización de los deepfakes explícitos plantea un desafío significativo para la sociedad. Es imperativo que tanto las plataformas como los legisladores trabajen juntos para establecer un entorno en línea más seguro, donde el bienestar de las personas sea la prioridad. La lucha contra el abuso tecnológico es un esfuerzo colectivo que necesita la atención y acción inmediata de todos los actores involucrados.