En un movimiento que busca garantizar que el desarrollo tecnológico se alinee con los valores y principios del socialismo, el gobierno chino ha establecido límites a la inteligencia artificial (IA) en el país. Esta medida tiene como objetivo evitar que la IA se utilice para fines que atenten contra la seguridad nacional, la estabilidad social y los intereses del pueblo. De esta manera, China busca garantizar que la IA se utilice de manera responsable y ética, y que se ajuste a los principios fundamentales del socialismo, como la justicia social y la igualdad.
China ha intensificado su control sobre la inteligencia artificial (IA) en el país, revisando los grandes modelos lingüísticos de las empresas de IA para asegurarse de que encarnen valores socialistas fundamentales.
Según un informe de Financial Times, la Administración del Ciberespacio de China (CAC), el principal regulador de Internet del Gobierno, está llevando a cabo revisiones exhaustivas de los modelos de IA de empresas de todo tipo, desde gigantes tecnológicos como ByteDance y Alibaba hasta pequeñas empresas emergentes.
El proceso de evaluación
El proceso de evaluación implica evaluar cómo los modelos de IA responden a una amplia gama de cuestiones, incluyendo temas políticos delicados, como referencias al liderazgo de China bajo el presidente Xi Jinping.
Los funcionarios de la CAC ponen a prueba los modelos de IA para comprobar sus respuestas a diferentes preguntas y, asimismo, se revisan los datos de entrenamiento y los procesos de seguridad del modelo.
Una fuente anónima de una empresa de inteligencia artificial con sede en Hangzhou dijo que su modelo no pasó la primera ronda de pruebas por razones poco claras. Solo la pasaron la segunda vez después de meses de adivinar y ajustar, según el informe.
Ley china de inteligencia artificial
Recordemos que China fue uno de los primeros países del mundo en aprobar una regulación gubernamental de la inteligencia artificial, en un intento de permitir a las empresas locales mantenerse a la vanguardia de esta nueva tecnología y alcanzar a Estados Unidos en su desarrollo y liderazgo en GenAI, pero sin perder el control de los contenidos que pudiera generar la IA.
La ley china de IA busca garantizar que las empresas de IA locales cumplan con las políticas de censura del Gobierno, lo que requiere un filtrado de seguridad para eliminar información problemática de los datos de entrenamiento del modelo de IA.
Según el informe, el filtrado se realiza creando una base de datos de palabras y frases que son sensibles, lo que hace que los chatbots más populares del país a menudo se nieguen a responder preguntas sobre temas delicados, como las protestas de la Plaza Tiananmen de 1989.
No obstante, parece que hay límites en la cantidad de preguntas que los LLM pueden rechazar directamente, por lo que los modelos deben ser capaces de generar respuestas políticamente correctas cuando les consulten sobre estos temas.
Para que esto suceda, los ingenieros construyen una capa adicional en el sistema que reemplaza las respuestas problemáticas en tiempo real.
La censura en China vuelve a ocupar portadas en una ocasión más debido a esta información revelada por Financial Times. La noticia llega tras un aviso previo, ya que en abril del año pasado China ya había advertido que pretendía llevar a cabo esta medida mediante un borrador de un decreto oficial.
La inteligencia artificial en China se encuentra en un momento crucial, ya que el país busca mantener el control sobre los contenidos que generan las empresas de IA locales, mientras que también busca mantenerse a la vanguardia en el desarrollo de esta tecnología.
Deja una respuesta