YouTube quiere etiquetar y eliminar el contenido creado por IA generativa

La cantidad de veces que nos encontramos con un caso de inteligencia artificial creando contenido falso es cada vez mayor. La desinformación y noticias falsas que se generan usando imágenes por IA las hemos llegado a ver hasta en el conflicto de Gaza e Israel. Google y YouTube son conscientes de que hay que controlar el contenido creado por IA y para ello están decidiendo entre etiquetar los videos con inteligencia artificial o directamente eliminarlos, en el caso de deepfakes y noticias falsas.

Cuando la IA se impuso en nuestras vidas, la mayoría de personas empezó a interesarse y usar esta nueva herramienta que tanto nos prometía. La IA generativa en concreto, nos permite crear todo tipo de contenido sin apenas dificultad. Sean imágenes, texto, música o incluso vídeos, podemos pedirle mediante órdenes a una inteligencia artificial que se encargue del trabajo duro. De todas estas, la de crear vídeos si es más complicada, pero con los últimos avances e incluso compañías especializadas en crear deepfakes, realmente podemos decir que se puede hacer contenido.

YouTube pondrá herramientas para etiquetar vídeos creados con IA en los próximos meses

De hecho, se han llegado a crear voces y caras con IA para hacer vídeos que aunque no son del todo realistas, si pueden llegar a engañar a las personas. Además, podemos decidir editar nosotros el vídeo, pero todo el otro contenido hacer que se encargue de él la inteligencia artificial. Las posibilidades son muy variadas y por el momento es posible subir vídeos con este tipo de contenido. Sin embargo, no será por mucho tiempo, ya que la propia YouTube quiere que los vídeos sean transparentes y si algo se ha creado con IA deberá etiquetarse en un futuro.

Según lo que sabemos, las herramientas para marcar el contenido creado por IA generativa aparecerán en los próximos meses. El procedimiento para etiquetar los videos dependerá de los autores de los mismos. A su vez, desconocemos si habrá alguna forma de automatizar el proceso o directamente todo dependerá de la gente, pues en este caso se puede engañar y acabar siendo reportado.

Si los videos incumplen la normativa o desinforman, serán eliminados

El etiquetado de los vídeos por IA será solo una parte de los esfuerzos de YouTube para luchar contra este tipo de contenido, pues también se está planeando la eliminación de vídeos. En este caso, el objetivo de la plataforma es encargarse de borrar todos aquellos videos que promocionan la desinformación y contienen información falsa. Aquí se incluyen tanto los deepfakes como grabaciones de audio.

En el caso de que los vídeos subidos a YouTube incumplan con los términos de uso, se eliminará de la plataforma. Este contenido se evaluará en función de varios factores, pues puede ser un vídeo serio o simplemente una sátira o meme. Esto es semejante a la normativa que empezó a mostrarse sobre el uso de actores por IA. Aquí vimos que si se usan para fines comerciales estará prohibido, salvo consentimiento. En cambio, si se emplean para algo cómico que no sea lucrativo, se podrá realizar.

Fuente:elchapuzasinformatico.com