En un movimiento que busca reforzar la orientación socialista del país, el gobierno chino ha decidido establecer límites estrictos en el desarrollo y utilización de la inteligencia artificial. La medida tiene como objetivo garantizar que esta tecnología innovadora se alinee con los principios fundamentales del socialismo, evitando así que se convierta en una herramienta que beneficie solo a una minoría. De esta forma, China busca garantizar que la inteligencia artificial sea utilizada para mejorar la vida de todos los ciudadanos, y no solo para aumentar la eficiencia y los beneficios económicos de algunas empresas y particulares.
El gobierno chino ha implementado medidas para revisar y controlar los modelos de inteligencia artificial (IA) en el país, con el fin de asegurarse de que se alineen con los valores fundamentales del socialismo. Según una información revelada por Financial Times, la Administración del Ciberespacio de China (CAC) está llevando a cabo una revisión exhaustiva de los grandes modelos lingüísticos (LLM) de las empresas de inteligencia artificial del país.
Revisión exhaustiva de modelos de IA
El proceso de evaluación implica pruebas exhaustivas de cómo los LLM responden a una amplia gama de cuestiones, incluyendo temas políticos delicados, como referencias al liderazgo de China bajo el presidente Xi Jinping. Los funcionarios de la CAC también revisan los datos de entrenamiento y los procesos de seguridad del modelo.
Una fuente anónima de una empresa de inteligencia artificial con sede en Hangzhou reveló que su modelo no pasó la primera ronda de pruebas por razones poco claras, y solo lo logró en la segunda oportunidad después de meses de adivinar y ajustar.
Ley china de inteligencia artificial
China fue uno de los primeros países en aprobar una regulación gubernamental de la inteligencia artificial, con el fin de permitir a las empresas locales mantenerse a la vanguardia de esta tecnología y alcanzar a Estados Unidos en su desarrollo y liderazgo en GenAI, pero sin perder el control de los contenidos que pudiera generar la IA.
La ley china de inteligencia artificial establece regulaciones para el desarrollo y uso de la IA en el país, y cumple con las políticas de censura requiere un filtrado de seguridad, que se ha vuelto complicado porque los LLM chinos todavía reciben capacitación en una cantidad significativa de contenido en idioma inglés.
Filtrado de seguridad
El filtrado se realiza eliminando información problemática de los datos de entrenamiento del modelo de IA y luego creando una base de datos de palabras y frases que son sensibles. De esta forma, los chatbots más populares del país a menudo se niegan a responder preguntas sobre temas delicados, como las protestas de la Plaza Tiananmen de 1989.
No obstante, parece que hay límites en la cantidad de preguntas que los LLM pueden rechazar directamente, por lo que los modelos deben ser capaces de generar respuestas políticamente correctas cuando les consulten sobre estos temas.
Para lograr esto, los ingenieros construyen una capa adicional en el sistema que reemplaza las respuestas problemáticas en tiempo real.
La implementación de estas regulaciones busca garantizar que la inteligencia artificial se desarrolle y se utilice en línea con los valores fundamentales del socialismo, y no se permita que genere contenido que vaya en contra de las políticas del gobierno chino.
Deja una respuesta