Exdirectivo de Google pide reforzar medidas de seguridad de la IA para proteger a menores

Tom Siegel, fundador del equipo de confianza y seguridad de Google y exvicepresidente de esta área, hizo un llamado a frenar el desarrollo acelerado de algunas aplicaciones de inteligencia artificial (IA) y reforzar las medidas de protección dirigidas a niñas, niños y adolescentes.

En declaraciones a Reuters, Siegel advirtió que la industria tecnológica podría estar repitiendo errores registrados.

Durante el desarrollo de las redes sociales, particularmente en materia de seguridad y bienestar de los usuarios jóvenes.

“Nos encontramos en una situación realmente terrible en lo que respecta al impacto que la IA está teniendo en los niños”.

Señaló el especialista, quien consideró poco realista que la industria pueda resolver por sí sola los riesgos asociados con estas tecnologías.

Las declaraciones se producen en un contexto en el que diversas empresas tecnológicas incorporan funciones.

Cada vez más avanzadas a sus sistemas de inteligencia artificial, incluidos chatbots utilizados por millones de personas, entre ellas menores de edad.

Siegel anunció esta semana su incorporación a Common Sense Media, organización sin fines de lucro dedicada.

A investigar y evaluar contenidos y tecnologías dirigidos a niñas, niños y familias.

Como parte de esta nueva etapa, asumirá la dirección ejecutiva del Instituto para la Seguridad de los Jóvenes en la IA.

Creado en mayo con el objetivo de estudiar la interacción de los menores con herramientas de inteligencia artificial.

Entre los patrocinadores del instituto se encuentran Anthropic y la Fundación OpenAI, organización sin fines de lucro que controla OpenAI.

Siegel explicó que una de sus prioridades será desarrollar estándares que permitan evaluar los riesgos de las herramientas de inteligencia artificial.

Y establecer mecanismos de responsabilidad para las empresas del sector, mediante la colaboración entre compañías tecnológicas y organizaciones independientes.

El especialista, quien trabajó en Google entre 2004 y 2019, señaló que existen riesgos que requieren atención, entre ellos posibles efectos relacionados con la salud mental, así como la denominada “descarga cognitiva”.

Concepto utilizado para describir la dependencia de sistemas de IA para responder preguntas y realizar tareas que requieren razonamiento.

Entre las medidas que planteó se encuentra el establecimiento de mecanismos más estrictos de verificación.

De edad para impedir que menores accedan a determinados servicios de inteligencia artificial.

También sugirió que Google podría ofrecer opciones para desactivar funciones como los “Resúmenes de IA”.

Y el “Modo IA” en su buscador, de manera similar a las herramientas disponibles para limitar el acceso a determinados contenidos.

Siegel sostuvo que, aunque algunas medidas de protección podrían representar costos para las empresas en el corto plazo.

La ausencia de acciones preventivas podría derivar posteriormente en litigios y regulaciones con mayores consecuencias para el sector.

Ante estos señalamientos, un portavoz de Google indicó que las familias cuentan con controles que permiten desactivar por completo el acceso de los menores al motor de búsqueda.

Por su parte, OpenAI señaló que emplea señales relacionadas con las cuentas y el comportamiento de los usuarios, además de la edad declarada, para identificar a personas menores de edad.

Anthropic no había respondido de inmediato a una solicitud de comentarios al momento de difundirse la información.

Desde Common Sense Media, Siegel también planteó la necesidad de impulsar evaluaciones independientes de seguridad para las herramientas de IA disponibles al público, comparables con las pruebas de seguridad utilizadas en otras industrias.

La propuesta busca establecer criterios que permitan medir de manera independiente los riesgos de estos sistemas para los usuarios jóvenes, aunque su aplicación dependerá, en parte, de la disposición de las empresas de inteligencia artificial para participar en este tipo de evaluaciones.

Fuente: Reuters