Del mismo modo, también se prevén en el reglamento europeo de inteligencia artificial nuevas obligaciones para procurar una mejor gobernanza de los datos en este tipo de sistemas de forma que, por ejemplo, los conjuntos de datos de entrenamiento, validación y prueba estarán sujetos previsiones específicas con especial atención a la inclusión de medidas adecuadas para detectar, prevenir y mitigar posibles sesgos.
3. Nuevas obligaciones y regímenes a medida para IA de propósito general y modelos generativos como ChatGPT.
Los eurodiputados han aprovechado este momento también para proponer la inclusión de nuevas obligaciones para los proveedores de estos modelosque tendrían que evaluar y mitigar los riesgos, cumplir los requisitos de diseño, información y medio ambiente, y registrarse en la base de datos de la UE.
Con carácter adicional, los modelos de base generativa, como ChatGPT (generative foundation model), tendrían que cumplir con requisitos concretos de transparenciacomo revelar que los contenidos han sido generados por IA, diseñar el modelo para evitar que genere contenidos ilegales y publicar resúmenes de los datos protegidos por derechos de autor que hayan sido utilizados para el entrenamiento del modelo en cuestión.
Así, los modelos de base generativa deben garantizar la transparencia sobre el hecho de que el contenido es generado por un sistema de IA y no por humanosde tal forma que los proveedores de estos modelos destinados específicamente a generar, con distintos niveles de autonomía, contenidos como texto complejoimágenes, audio o vídeo (“IA generativa”) y los proveedores que especialicen un modelo de base en un sistema de IA generativa, deberán:
- cumplir las obligaciones de transparencia señaladas en el artículo 52 de la Propuesta de Reglamento europeo de Inteligencia Artificial.
- entrenar y, en su caso, diseñar y desarrollar el modelo de forma que se garanticen las salvaguardias adecuadas contra la generación de contenidos contrarios al Derecho de la Unión, en consonancia con el estado de la técnica generalmente reconocido; y
- sin perjuicio de la legislación nacional o de la Unión en materia de derechos de autor, documentar y poner a disposición del público un resumen suficientemente detallado acerca del uso de los datos de entrenamiento protegidos por la legislación sobre derechos de autor.
Artículo fuente