China tiene un equipo de ciberseguridad que se encarga de asegurarse que los chatbots IA de las empresas cumplen los «valores socialistas»

La inteligencia artificial ha estado con nosotros desde hace décadas e incluso hemos tenido algunas mejoras por IA, como en el caso de las fotos de los móviles o a la hora de organizar o descubrir nuevo contenido en una aplicación. Sin embargo, no le hacíamos mucho caso al concepto, pues no nos servía demasiado en nuestro día a día. Todo cambió cuando la IA generativa empezó a popularizarse y chatbots como ChatGPT fueron utilizados por decenas de millones de personas. China por su parte, puede que esté limitada por las restricciones de EE.UU., pero continúa desarrollando modelos de IA y está empleando un equipo experto en ciberseguridad para asegurarse que las empresas cumplen las normas del país.

Cuando vimos lo útil que podía ser la inteligencia artificial generativa para poder crear contenido sin tener que aprender herramientas complicadas ni dedicar horas y horas, es cuando todo empezó a cambiar. Hablamos ya de unos años atrás, cuando Midjourney y otras mostraron al mundo que era tan sencillo como escribir lo que queríamos en unos mensajes de texto y esperar un momento a que lo creara. Está claro que aquel que supiera usar los prompts para conseguir lo que quería iba a lograr un resultado más preciso, pero igualmente estaba al alcance de cualquier persona.

China quiere asegurarse de que los modelos de IA de las empresas cumplen las normas del país

Más adelante vimos otras IA que se encargaban de hacer imágenes, pero realmente lo que dio el boom fue la IA generativa de textos a modo de respuestas a nuestras preguntas usando chatbots como ChatGPT. Aquí no teníamos que estar pensando prompts con combinaciones de palabras, sino que podíamos preguntar de forma natural y recibir una respuesta completa. Todo esto ocurrió a finales de 2022 y desde entonces, los países y las empresas no han parado de invertir tiempo y dinero en desarrollar nuevos modelos de inteligencia artificial.

Ahora se ha dado a conocer de que China quiere asegurarse de que las compañías de IA del país cumplen con su normativa, haciendo alusión a “los valores socialistas”, por lo que sí, hablamos de la censura a la inteligencia artificial. Ya sabemos que el gigante asiático tiene una serie de normas estrictas y hay que cumplirlas, impidiendo que se hable de ciertos temas políticos e ideas que no coinciden con sus valores.

Los investigadores realizan preguntas políticamente delicadas a las IA para detectar respuestas indebidas

El Centro de Administración del Ciberespacio (CAC) de China, está utilizando un equipo de ciberseguridad para poder revisar si cumplen la norma los modelos de IA creados por todo tipo de empresas, pero sobre todo compañías grandes como ByteDance (creadores de TikTok) y Alibaba. El procedimiento que cumple este grupo de investigadores es el de ir a las empresas y hacer preguntas a sus modelos de IA y LLM de temas políticamente delicados para así ver si la respuesta entra dentro de lo que buscan.

Algunos de los ejemplos mencionados son el de hablar sobre las burlas del presidente chino Xi Jinping y cualquier tema de subversión del poder del Estado. Además, las autoridades chinas exigen que los bots no rechacen más del 5% de las consultas que se les hacen. Para poder pasar estas pruebas, hay empresas que han llegado a prohibir a sus IA hablar de cualquier cosa que tenga que ver con el presidente, al igual que temas de política indebidos.

Fuente:elchapuzasinformatico.com