YouTube comienza a probar en EE.UU. una IA para verificar la edad y limitar el contenido a menores

YouTube comenzará a probar un nuevo sistema para verificar la edad de sus usuarios basado en inteligencia artificial (IA) en Estados Unidos. Esta tecnología comenzará a desplegarse hoy mismo, y lo hará en forma de una prueba limitada que fectará solo a una pequeña proporción de usuarios estadounidenses. Si los resultados son positivos, podría expandirse progresivamente no solo a más usuarios, sino también a más países.

Según se informa, el sistema de verificación de edad basado en IA utilizado por YouTube es capaz de deducir si un usuario tiene menos de 18 años. Y para intentar averiguar su edad, analiza patrones como el historial de reproducción, términos consultados, antigüedad de la cuenta y hábitos de visualización, en lugar de basarse únicamente en la fecha de nacimiento ingresada al crear la cuenta. Pues puede ser muy común que un menor añada una edad falsa para eliminar cualquier tipo de filtro.

¿Cuál es la finalidad de que YouTube quiera verificar la edad que tienes con IA?

Según YouTube, gracias a esta medida busca reforzar la seguridad en línea para los menores y ofrecer experiencias más adecuadas según su edad. Y todo ello sin depender de información fácilmente falsificable como la fecha de nacimiento. Ahora bien, YouTube realmente se está adoptando a las nuevas leyes. Este movimiento parte de una respuesta a la presión regulatoria en EE.UU., especialmente tras una decisión de la Corte Suprema que confirmó una ley de Texas enfocada en impedir el acceso de menores a contenido para adultos en línea. Pero claro, en YouTube este contenido está prohibido.

Plataformas como Meta (Facebook, Instagram y WhatsApp), Reddit o Discord también están implementando sistemas basados en IA y reconocimiento facial en países como Reino Unido, donde la nueva Online Safety Act exige estos controles. Y es que es bien sabido que allí se ha implantado un fuerte control sobre las redes sociales debido a las quejas públicas respecto a la forma de actuar del gobierno actual. Lo que está llevando a la detección de personas por expresar su opinión en Internet. Y claro, tenerte completamente no verificado, sino identificado, ayudaría a frenar estos discursos.

Volviendo al tema en cuestión, si la IA integrada en YouTube determina que un usuario tiene menos de 18 años, se aplican estas restricciones:

• Desactivación de anuncios personalizados.
• Sugerencias de descanso o recordatorios para tomar un descanso de la pantalla.
• Restricciones de recomendaciones, especialmente en temas delicados como ideal corporal o contenido sensible.
• Advertencias de privacidad

Evidentemente, hay que hablar de los riesgos a nivel de privacidad o vulnerabilidades

Grupos como la Electronic Frontier Foundation han expresado preocupación sobre cómo estas medidas podrían afectar los derechos individuales. En concreto, a la libertad de expresión y la privacidad. No solo en YouTube con esta IA de verificación de edad, sino en ámbitos generales como el ejemplo puesto en Reino Unido. A ello se le suma que, de igual forma, la tecnología podría ser engañada, por ejemplo mediante sistemas de «liveness test» — una cámara y gestos— o con imágenes generadas por IA (como personajes de videojuegos) que simulen controles reales, y evadir las protecciones

Y es que en Reino Unido, se hizo viral usar el modo foto del juego Death Stranding para saltarse el el reconocimiento facial. Curiosamente, en todos los casos que hemos estado viendo de identificar a las personas detrás de una pantalla de ordenador o móvil son las mismas. Que es buscar proteger a los menores a cambio de eliminar la privacidad en Internet. Recordando que la Unión Europea podría acceder a todos nuestros chats, incluso cifrados, si se aprueba una ley en octubre.

Fuente:elchapuzasinformatico.com