En salud, la puntuación de un modelo es solo una parte de la evidencia. El equipo debe saber qué datos y código produjeron esa versión, en qué población se evaluó, cómo encaja en el flujo clínico y qué hacer si el rendimiento cambia después del despliegue.
La primera pregunta de ingeniería no es “¿qué framework usamos?”, sino cuál es la finalidad prevista. Un modelo que resume una consulta ya documentada no equivale automáticamente a un software que detecta enfermedades, recomienda tratamientos o prioriza pacientes. Finalidad, usuarios, entradas, salidas e influencia en la atención orientan el análisis de riesgo y regulación. La clasificación depende de la jurisdicción y de los hechos; este texto presenta un patrón de ingeniería, no asesoramiento legal ni clínico.
Los reguladores consideran cada vez más el ciclo de vida completo de los dispositivos médicos con IA. La FDA señala los principios de Good Machine Learning Practice publicados por IMDRF en 2025; la orientación europea aborda la interacción entre MDR/IVDR y AI Act. La OMS advierte que la capacidad amplia de los modelos multimodales no demuestra que sean adecuados para una tarea sanitaria concreta. La consecuencia práctica: la evidencia debe acompañar cada versión desplegada.
Registre identificadores y versiones del conjunto de datos, centros y periodo de recogida, criterios de inclusión, definición de etiquetas, código de preprocesamiento, datos ausentes, limitaciones conocidas y usos permitidos. Evite incluir identificadores directos en el entrenamiento salvo necesidad estricta y autorizada. Mantenga las transformaciones reproducibles para que quien revise pueda saber qué cohorte produjo cada artefacto sin copiar registros sensibles en logs o tickets. Los hashes identifican artefactos, pero no prueban la calidad ni la licitud de los datos.
La partición de datos debe representar el despliegue. Dividir filas al azar puede filtrar pacientes, dispositivos, centros o periodos entre entrenamiento y prueba. Puede convenir reservar instituciones o periodos posteriores y documentar por qué reflejan la población prevista. La validación también debe analizar subgrupos clínicamente relevantes y condiciones operativas, no solo la precisión agregada.
Defina la pregunta clínica, el estándar de referencia, la elección del umbral, los intervalos de confianza y las consecuencias de falsos positivos y negativos. Evalúe calibración y fallos con equipos, centros, flujos de trabajo y prevalencias representativos. Un benchmark retrospectivo puede ser útil, pero por sí solo no demuestra mejoras asistenciales ni usabilidad real. Cuando corresponda, realice evaluaciones prospectivas o centradas en el flujo, con la gobernanza clínica y de investigación adecuada.
| Capa de evidencia | Artefacto de ingeniería | Pregunta que responde |
|---|---|---|
| Datos | Ficha del conjunto, grafo de trazabilidad y protocolo de etiquetas | ¿Qué población y proceso de medición están representados? |
| Modelo | Pesos inmutables, commit, entorno e informe de evaluación | ¿Puede reproducirse y revisarse exactamente este resultado? |
| Clínica | Protocolo, análisis por subgrupos y evaluación del flujo | ¿El rendimiento respalda la función clínica prevista? |
| Operación | Plan de seguimiento, gestión de incidentes y reversión | ¿El equipo puede detectar señales de daño y responder? |
“Profesional en el circuito” no es una casilla. Necesita comprender la salida y su incertidumbre, consultar la información de origen, disponer de tiempo, poder rechazar la recomendación y contar con una vía para comunicar errores. Mida anulaciones y carga de revisión. Evite interfaces donde aceptar el resultado sea más fácil que aplicar criterio independiente. En sistemas generativos o multimodales, pruebe salidas plausibles sin respaldo, falta de contexto, contenido clínico malicioso y sesgo de automatización.
Separe la identidad clínica de la telemetría del modelo. Aplique mínimo privilegio, cifrado, límites de retención y auditoría de acceso. Los logs deben registrar modelo y versión, referencias de entrada o identificadores protegidos, salida, hora, acción del usuario, anulaciones y cambios posteriores, sin copiar innecesariamente información sanitaria protegida. Defina quién puede consultar registros y cómo se autorizan las exportaciones de auditoría. Una traza completa no implica conservarlo todo indefinidamente.
Condicione el despliegue a evidencias firmadas: revisión del uso previsto, versiones de datos y modelo, criterios de evaluación, seguridad, privacidad, responsable clínico, limitaciones para usuarios y preparación operativa. Use despliegue gradual y reversión. Monitorice calidad y ausencia de datos, distribución de entradas, alertas, señales por subgrupo cuando sean medibles, anulaciones, latencia y caídas. Cambiar pesos, prompt, umbral, preprocesamiento o datos de origen puede modificar el comportamiento y debe activar una evaluación de impacto documentada. No permita aprendizaje online silencioso en un flujo clínico.
Conectaría un catálogo versionado de conjuntos de datos, entrenamiento reproducible, repositorio de evaluaciones, registro de modelos, flujo de aprobación y telemetría de producción mediante IDs inmutables de despliegue. Un servicio de promoción exigiría enlaces a evidencia y revisores identificados; nunca inferiría autorización regulatoria porque pasaron las pruebas. El evento de auditoría registraría quién aprobó qué, para qué uso previsto y con qué evidencia, además del despliegue resultante. Un proceso independiente permitiría desactivar, revertir, investigar y corregir.
Un panel útil no solo muestra “precisión esta semana”. Debe incluir identidad del modelo, estado de evidencia, cobertura poblacional, actualidad de los datos, resultados por subgrupo cuando puedan medirse, anulaciones y escalados, incidentes y acciones correctivas. Toda métrica necesita denominador, limitaciones y responsables.
La conformidad de IA sanitaria es más manejable cuando la evidencia forma parte de la entrega del software. Defina el uso previsto, conserve la trazabilidad de datos y modelos, valide en el contexto clínico pertinente, otorgue autoridad real a los profesionales, proteja los datos sensibles y gobierne los cambios tras el despliegue. El pipeline facilita decisiones responsables, pero no reemplaza a reguladores, comités de ética, criterio clínico ni asesoría jurídica cualificada.
Nota editorial: Este artículo no constituye asesoramiento médico, legal ni regulatorio. Los requisitos dependen del producto, su finalidad y la jurisdicción; solicite evaluación profesional antes del desarrollo o despliegue.