La Unión Europea contempla imponer una posible multa a OpenAI debido a que su sistema de inteligencia artificial, ChatGPT, está compartiendo información falsa que no puede ser corregida. Esta situación plantea un desafío ético y legal en el ámbito de la tecnología, ya que el uso de IA para difundir datos erróneos representa un riesgo para la sociedad. La imposibilidad de corregir la desinformación generada por ChatGPT pone de manifiesto la necesidad de establecer protocolos de control más estrictos en el desarrollo y uso de estas tecnologías. OpenAI se encuentra en el centro de la polémica por este incidente que ha encendido las alarmas en la comunidad internacional.
OpenAI bajo la lupa de la UE por incumplimiento de normas de privacidad en ChatGPT
OpenAI se enfrenta a otra queja de privacidad de la Unión Europea (UE). Esta vez, la compañía de Sam Altman, propietaria de ChatGPT, parece estar generando información incorrecta debido a un fallo de alucinación, es decir, un error interpretado de datos falsos que puede ocurrir a causa de entrenamientos sesgados, falta de contexto o limitaciones de los algoritmos.
Dicha queja, presentada por noyb, una organización sin fines de lucro, está al nombre de un denunciante anónimo –que se describe como una figura pública– para delatar un incumplimiento del Reglamento General de Protección de Datos (RGPD). Concretamente, noyb afirma que OpenAI no cumple con la obligación de establecer pautas sobre cómo las empresas deben procesar y proteger la información –como la corrección de datos falsos–, provocando que el chatbot de Sam Altman se invente las respuestas.
Desde 1995, la legislación de la Unión Europea exige que los datos sean exactos, además, los usuarios tienen derecho a rectificación si la información es inexacta, e incluso pueden solicitar que se elimine. Pero, ¿qué pasa si una empresa incumple esta ley?
OpenAI rechaza la solicitud de rectificar los datos incorrectos
noyb señala que OpenAI rechaza la solicitud de rectificar o borrar los datos porque no es posible corregirlos. No obstante, OpenAI dice que puede filtrar o bloquear datos según ciertas indicaciones, pero no sin impedir que ChatGPT filtre toda la información sobre el denunciante.
Asimismo, ante dicha situación, Maartje de Graaf explica que la obligación de cumplir con las solicitudes de acceso se aplica a todas las empresas. Es claramente posible mantener registros de los datos de entrenamiento que se utilizaron, al menos tener una idea sobre las fuentes de información. Parece que con cada 'innovación', otro grupo de empresas piensa que sus productos no tienen por qué cumplir la ley.
La ONU aprueba la primera resolución para regular la inteligencia artificial
noyb quiere imponer una multa a OpenAI. noyb solicita a la Autoridad Austriaca de Protección de Datos que investigue el procesamiento de datos de OpenAI y las medidas tomadas para garantizar la exactitud de la información personal procesada en el contexto de los grandes modelos lingüísticos.
Además, reclama que la Autoridad Austriaca de Protección de Datos ordene a OpenAI que cumpla con la solicitud de acceso del reclamante y ajuste su procesamiento al RGPD. Además, reclama a dicha autoridad que imponga una multa para garantizar el cumplimiento futuro.
Deja una respuesta