Tu pipeline de I+D no entrena el modelo de nadie

01

El deber tiene nombre y es el tuyo

Un principio clave, en palabras de la propia EMA: el promotor del ensayo, el solicitante o titular de la autorización, o el fabricante deben garantizar que todo algoritmo, modelo, dataset y pipeline de datos es apto para su propósito. Y avisa de que ese estándar puede ser más estricto que la práctica habitual en ciencia de datos.

02

Una caja negra tiene que ganarse el sitio

Los modelos de caja negra son aceptables si justificas que los interpretables rinden o aguantan peor. Entonces debes aportar la arquitectura, el ajuste de hiperparámetros, métricas de entrenamiento, validación y resultados de test y un plan de monitorización, y la EMA sugiere discutir el caso con ella de antemano.

03

Los pesos pueden llevarse el dato

Los modelos grandes tienen un riesgo particular de memorizar aquello con lo que se entrenaron y la conclusión es tajante: si el dato no es apto para compartirse, anonimiza antes de mover el modelo a un entorno menos seguro. Con esa frase, dónde corre un modelo pasa a ser una decisión de transferencia de dato.

04

El texto generado necesita revisor

Lo que un modelo redacte, edite o traduzca para la información de producto va bajo supervisión humana estrecha, porque los modelos generativos producen texto plausible pero erróneo o incompleto y una revisión de calidad tiene que confirmarlo antes de que lo vea un regulador. Eso es un proceso y no te lo vende nadie.