Detienen a dos adolescentes en Florida por crear imágenes IA de desnudos usando fotos de estudiantes

Estamos en los primeros años de la IA generativa y en muy poco tiempo hemos visto el impacto (positivo y negativo) que ha tenido en nuestras vidas. Si bien es cierto que se ha podido utilizar la inteligencia artificial para acelerar trabajos, investigaciones y tareas repetitivas, también se ha abusado de la IA generativa para crear contenido explícito. Internet está lleno de imágenes creadas por IA y vídeos que entran dentro de la categoría de deepfakes. Ahora hemos conocido el caso de dos adolescentes de Miami, Florida, que han sido detenidos por haber usado la IA generativa para crear imágenes de desnudos de compañeros de clase.

En estos momentos, la inteligencia artificial es uno de los sectores más importantes y donde más dinero, tiempo y recursos se están invirtiendo. Empresas como OpenAI con ChatGPT y Sora, podemos decir que ocupan el puesto número uno en cuanto a relevancia en el sector. Por ahora no hemos visto nada que pueda hacerle frente y esté disponible de forma pública tal y como hicieron con ChatGPT. Y si aquí añadimos IA generativas de imágenes como Midjourney y Stable Diffusion, ya tenemos resumidos los pilares base de la inteligencia artificial.

Dos adolescentes son detenidos por crear imágenes de desnudos de estudiantes usando una IA

La mayoría de personas acaba usando una de esas tres herramientas dependiendo de lo que busque, siendo las últimas dos usadas específicamente para poder crear imágenes y arte por IA. Con lo fáciles que son de usar y el hecho de que estén disponibles de forma gratuita (al menos Stable, Bing y otras), la creación de imágenes artificial se ha disparado. No paramos de verlas en redes sociales, noticias y en el buscador de imágenes de Google.

Difícil es no caer en la tentación de usar estas herramientas de IA para crear imágenes, aunque hay ciertos límites que no deberíamos sobrepasar. Así ha ocurrido que dos adolescentes detenidos de 13 y 14 años usaron una «aplicación de IA» para crear imágenes explícitas y desnudos de otros estudiantes de 12 y 13 años.

Esta es la primera vez que se aplican cargos penales por generar imágenes explícitas por IA

Esta sería la primera vez que en Estados Unidos que se aplicarán cargos penales por la creación de imágenes de desnudos usando una IA. Parece ser que tras la proliferación de las fotos de Taylor Swift desnuda usando IA, EE.UU. se ha tomado las cosas más en serio. Fueron esos deepfakes los que captaron la atención de la Casa Blanca y se anunció que tomarían medidas más estrictas al respecto. Es curioso que solo un par de meses después de esto ya haya ocurrido la primera detención con cargos por el uso de la IA para crear imágenes de desnudos, por parte de dos adolescentes menores de edad.

Estos pertenecían a la Academia Pinecrest Cove de Miami, de donde fueron expulsados el pasado 6 de diciembre y se presentó una denuncia al departamento de policía de Miami. Tras esto, el 22 de diciembre finalmente fueron arrestados. Esta no es la primera vez que se reportan casos de publicar imágenes de desnudos creados por IA sin consentimiento. Hemos visto casos de material catalogado como abuso sexual infantil, generación de imágenes y vídeos como deepfakes de famosos y delitos de este tipo.

Fuente:elchapuzasinformatico.com