En una reciente noticia que sacude al mundo de la inteligencia artificial, se revela que OpenAI podría ser multada por la Unión Europea debido a que su modelo de lenguaje, ChatGPT, estaría compartiendo información falsa que no puede ser corregida. Esta situación plantea un desafío ético y legal de gran envergadura, ya que la difusión de datos erróneos por parte de sistemas de IA representa un riesgo significativo para la sociedad y el flujo de información veraz. La imposibilidad de corregir la información incorrecta generada por ChatGPT plantea interrogantes sobre la responsabilidad de las empresas desarrolladoras de inteligencia artificial en la validación y veracidad de sus productos. La Unión Europea, en su rol de protección del consumidor y defensora de la verdad informativa, se encuentra evaluando medidas punitivas ante esta situación alarmante.
OpenAI enfrenta queja de privacidad en la UE por información incorrecta generada por ChatGPT
OpenAI se encuentra en medio de una nueva polémica relacionada con la privacidad en la Unión Europea (UE). En esta ocasión, la compañía liderada por Sam Altman y propietaria de ChatGPT, se ve señalada por generar información incorrecta a través de un fenómeno conocido como fallo de alucinación. Esta situación, derivada de entrenamientos sesgados, falta de contexto o limitaciones de los algoritmos, ha llevado a la presentación de una queja por parte de noyb, una organización sin fines de lucro, en representación de un denunciante anónimo que ha señalado un posible incumplimiento del Reglamento General de Protección de Datos (RGPD).
La importancia de la veracidad de los datos en la legislación europea
Desde 1995, la legislación de la Unión Europea exige que los datos sean exactos y los usuarios tengan el derecho a rectificación en caso de información inexacta, así como la posibilidad de solicitar su eliminación. En este sentido, noyb ha afirmado que OpenAI no cumple con la obligación de establecer pautas sobre el procesamiento y protección de la información, lo que conlleva a que el chatbot de Sam Altman genere respuestas inventadas.
El abogado de protección de datos de noyb, Maartje de Graaf, ha señalado que inventar información falsa sobre personas puede tener consecuencias graves, y las empresas no pueden permitirse que los chatbots como ChatGPT incumplan la legislación de la UE en el procesamiento de datos sobre individuos. La tecnología debe ajustarse a los requisitos legales y no al revés.
OpenAI rechaza la solicitud de rectificación de datos incorrectos
noyb ha indicado que OpenAI se ha negado a rectificar o borrar los datos incorrectos generados por ChatGPT, alegando que no es posible corregirlos. A pesar de esto, la compañía ha mencionado que puede filtrar o bloquear ciertos datos, pero sin evitar que el chatbot distribuya información sobre el denunciante.
Ante esta situación, Maartje de Graaf ha expresado que todas las empresas tienen la obligación de cumplir con las solicitudes de acceso, y es posible mantener registros de los datos de entrenamiento utilizados. Parece que algunas empresas creen que sus productos no deben cumplir con la ley cada vez que introducen una 'innovación'.
noyb busca imponer una multa a OpenAI
La organización noyb ha solicitado a la Autoridad Austriaca de Protección de Datos que investigue el procesamiento de datos realizado por OpenAI y las medidas adoptadas para garantizar la exactitud de la información personal en el contexto de los grandes modelos lingüísticos. Además, ha requerido que OpenAI cumpla con las solicitudes de acceso del reclamante y ajuste su procesamiento de acuerdo con el RGPD, así como imponer una multa para asegurar el cumplimiento futuro.
Deja una respuesta