La IA médica ha producido un cuerpo amplio de resultados publicados que muestran un rendimiento comparable o superior al de los clínicos en tareas específicas. Muchos de esos resultados son reales.
El historial de despliegue es más desigual, y las razones son consistentes y conocibles de antemano. Una plantilla que las entiende detecta los problemas antes de que un sistema llegue a un paciente.
La brecha entre el paper y la planta
Una cifra de precisión reportada describe el rendimiento en un conjunto de datos concreto, ensamblado de una forma concreta, evaluado contra un estándar de referencia concreto.
El rendimiento clínico es lo que ocurre cuando el sistema se encuentra con una población no seleccionada, equipos distintos, práctica distinta, y clínicos que responden a su resultado de formas que la evaluación no modeló.
El modelo no se equivocó en el paper. Estaba respondiendo a una pregunta sobre un conjunto de datos, y el hospital está haciendo una pregunta distinta.
La presión de la demanda es real: el Future of Jobs Report 2025 del World Economic Forum encontró que el 92 % de los empleadores en servicios médicos y sanitarios dice que las habilidades de IA y big data ganan importancia para su plantilla. El riesgo es que la capacidad que se contrata sea construir modelos y no evaluarlos.
Qué abarca esta dirección
El alcance: IA en radiología y patología, apoyo a la decisión clínica, análisis de imagen y validación.
La palabra validación es la que más trabajo hace en esa lista, y es la parte con menos recursos casi siempre.
Cuatro capacidades.
Imagen médica y su física. Qué es realmente una imagen, cómo la afectan los parámetros de adquisición, y por qué las imágenes de equipos distintos difieren de formas invisibles para un lector humano y muy visibles para un modelo.
Desarrollo de modelos para datos clínicos. Incluidos los problemas específicos: calidad de las etiquetas, desequilibrio de clases, fuga de datos de formas propias de los conjuntos de datos clínicos.
Validación clínica. Diseño de estudios para evaluar un sistema de IA clínica, que es epidemiología, no aprendizaje automático.
Despliegue y monitorización. Integración en el flujo de trabajo, monitorización continua del rendimiento, y saber qué hacer cuando el rendimiento se degrada.
El cambio de distribución, en términos sencillos
El problema técnico central, dicho sin jerga.
Un modelo aprende de los datos con los que se entrenó. Esos datos vinieron de hospitales concretos, equipos concretos, poblaciones concretas y prácticas clínicas concretas.
Desplegado en otro sitio, varias cosas difieren a la vez.
La población difiere. Distinta distribución de edad, distinta prevalencia de enfermedad, distinta comorbilidad. Solo la prevalencia cambia el valor predictivo de cualquier resultado, el mismo punto de la tasa base de la dirección de epidemiología, y aquí se aplica con toda su fuerza.
El equipo difiere. Distintos escáneres, protocolos y ajustes producen imágenes sistemáticamente distintas. Se sabe que los modelos captan características del equipo en lugar de la patología, y un modelo así puede parecer excelente en la validación y fallar por completo en otra máquina.
La práctica difiere. Quién se somete a la prueba, cuándo, y cómo se estableció el estándar de referencia varían entre instituciones.
El tiempo pasa. La práctica cambia, se sustituye el equipo, las poblaciones cambian. Un modelo que era preciso al desplegarse puede degradarse sin que nadie cambie nada, por eso la monitorización es un requisito de plantilla permanente, no una tarea de proyecto.
La implicación para la plantilla: la validación local antes del despliegue y la monitorización continua después son ambas necesarias, y ambas necesitan personas. Las organizaciones que compran un sistema sin presupuestar ninguna de las dos han comprado una intervención clínica sin monitorizar.
Dónde encaja esto en el dominio
IA médica, imagen y diagnóstico es la octava de las diez direcciones del dominio de medicina y tecnología sanitaria de Astra Trainer. Depende de salud pública y epidemiología para la metodología de validación, de informática de la salud para la capa de datos, de fisiopatología para la plausibilidad clínica, y de dispositivos médicos para el marco regulatorio, ya que la IA clínica suele regularse como un dispositivo.
Para los socios que dotan de personal esto desde el lado técnico, el dominio de IA, datos y computación cubre inteligencia artificial y aprendizaje automático, ciencia de datos y analítica, y ciberseguridad. La combinación que realmente funciona es capacidad técnica más capacidad de validación clínica, y las organizaciones suelen tener solo la primera. Puedes ver las diez direcciones aquí.
Retrospectivo no es prospectivo
Una distinción que decide si la evidencia significa algo, y que se difumina habitualmente en las afirmaciones comerciales.
La evaluación retrospectiva ejecuta un modelo sobre datos históricos donde los resultados ya se conocen. Es barata, rápida y necesaria, y exagera sistemáticamente el rendimiento en el mundo real. El conjunto de datos estaba curado, a menudo se excluyeron los casos de peor calidad, y el modelo puede aprovechar patrones que existen solo por cómo se ensambló el conjunto de datos.
La evaluación prospectiva ejecuta el modelo sobre pacientes a medida que se presentan, con el rendimiento evaluado contra lo que realmente ocurrió después. Más lenta, más cara, y mucho más informativa.
La evaluación de impacto clínico plantea la pregunta que importa: usar este sistema, ¿cambia lo que les pasa a los pacientes? Un modelo puede ser preciso y no cambiar nada, porque los clínicos ya lo sabían, o porque el hallazgo no altera el manejo, o porque el flujo de trabajo no actúa sobre él.
Cada paso es un listón más alto y cada uno es considerablemente menos frecuente que el anterior. Un equipo que no puede decir en cuál de estos se apoya una afirmación de evidencia no puede evaluar una decisión de compra.
Qué significa la autorización, y qué no significa
La autorización o aprobación regulatoria significa que un dispositivo cumplió los requisitos de una vía definida en una jurisdicción concreta, con la evidencia presentada, para un uso previsto declarado.
No significa automáticamente que el sistema mejore los resultados en el paciente, que vaya a rendir como se describe en tu población, o que se haya comparado con la práctica actual.
Esto no es una crítica a los reguladores. Las vías regulatorias están diseñadas para establecer estándares definidos, y distintas vías exigen distintos niveles de evidencia. Es una advertencia sobre cómo se usa la autorización en las conversaciones de venta, donde a menudo se presenta como si hubiera resuelto la cuestión clínica.
Una organización necesita a alguien capaz de leer qué cubre realmente una autorización, incluido el uso previsto declarado, y compararlo con el uso que se propone. Es una capacidad específica y escasa.
El humano en el bucle, que no es una solución por sí solo
La tranquilidad habitual es que un clínico revisa el resultado, así que los errores se detectan.
Esto es más débil de lo que suena, por razones bien documentadas en la investigación sobre factores humanos.
Sesgo de automatización. La gente tiende a confiar en recomendaciones automatizadas seguras de sí mismas, incluso cuando están mal, e incluso cuando la persona habría decidido correctamente sin ayuda.
Pérdida de destreza. Una capacidad que no se ejercita se degrada. Un revisor que lleva tiempo sin evaluar casos de forma independiente es un control más débil de lo que era.
El volumen vence a la revisión. Donde el valor de un sistema es procesar más de lo que podría un humano, una revisión independiente genuina de cada resultado no es posible por construcción.
La responsabilidad se vuelve confusa. Si el sistema suele acertar y el clínico es responsable, el clínico carga con el riesgo de un sistema que no puede inspeccionar. Es un problema de gobernanza que hay que resolver antes del despliegue, no después de un incidente.
La supervisión humana es necesaria y no es suficiente, y diseñarla para que realmente funcione exige capacidad en factores humanos, lo que conecta con el punto de usabilidad de la dirección de dispositivos médicos.
Los puestos, uno a uno
Científicos de validación de IA clínica. El puesto más escaso e importante aquí, y uno que apenas existe como título de trabajo.
Científicos y físicos de imagen médica. Entienden la adquisición y qué hace que las imágenes difieran.
Científicos de datos clínicos con base metodológica específica de salud.
Responsables de seguridad clínica para sistemas de IA.
Especialistas regulatorios para software y dispositivos de IA.
Especialistas en implementación y flujo de trabajo, porque la integración decide si algo cambia de verdad.
Analistas de monitorización y rendimiento, tras el despliegue, una función permanente.
A quién se puede formar para esto
Técnicos radiólogos y de imagen. Infrautilizados y bien situados. Entienden la adquisición, los artefactos y la realidad práctica de la imagen, y añadir metodología de validación produce exactamente la capacidad que falta.
Físicos médicos. Ya tienen experiencia cuantitativa y de imagen.
Científicos de datos en sanidad. Necesitan metodología epidemiológica y base clínica, no más técnica de modelado.
Clínicos con interés analítico. Tienen el juicio de plausibilidad que detecta problemas que ninguna métrica muestra.
Científicos clínicos en patología y medicina de laboratorio, a medida que crece la patología digital.
Personal de calidad y regulatorio que se extiende hacia software y dispositivos de IA.
Regulación y responsabilidad. Los sistemas de IA clínica suelen regularse como dispositivos médicos, con las obligaciones descritas en la dirección de dispositivos médicos, y en varias jurisdicciones su despliegue clínico exige una evaluación formal de seguridad clínica. La responsabilidad clínica de las decisiones sigue recayendo en profesionales colegiados. La formación construye capacidad de validación y evaluación. No otorga aprobación regulatoria, cualificación en seguridad clínica ni autoridad para desplegar un sistema, y ningún resultado de un modelo debe tratarse como consejo clínico.
Qué llevarte de todo esto
La precisión reportada y el rendimiento clínico son magnitudes distintas, y la brecha entre ambas es predecible, no misteriosa.
El cambio de distribución entre población, equipo, práctica y tiempo es el problema central, lo que convierte la validación local y la monitorización continua en requisitos de plantilla permanentes.
La evidencia retrospectiva, prospectiva y de impacto clínico son tres listones distintos, y la mayoría de las afirmaciones se apoyan en el primero.
La autorización significa que se satisfizo una vía definida para un uso previsto declarado. No es evidencia de beneficio para el paciente, y con frecuencia se presenta como si lo fuera.
Y la supervisión humana es necesaria e insuficiente, porque el sesgo de automatización y el volumen la socavan ambos por diseño.
¿Por qué los sistemas de IA médica rinden peor tras el despliegue?
Por el cambio de distribución. Un modelo aprende la población, el equipo, los patrones de práctica y los estándares de referencia con los que se entrenó, y los cuatro difieren en otro sitio. Solo la prevalencia cambia el valor predictivo de cualquier resultado.
¿La autorización regulatoria significa que un sistema funciona?
Significa que se satisfizo una vía definida con la evidencia presentada para un uso previsto declarado. No equivale a evidencia de mejores resultados en tu población.
¿La revisión humana es suficiente salvaguarda?
No. El sesgo de automatización lleva a la gente a confiar en sistemas seguros de sí mismos, las destrezas no ejercitadas se degradan, y donde el valor del sistema es el volumen, una revisión independiente genuina de cada resultado es imposible por construcción.
¿Quién debería formarse para esto?
Los técnicos radiólogos y de imagen están infrautilizados y bien situados, porque entienden la adquisición y los artefactos. Los científicos de datos en sanidad necesitan metodología epidemiológica, no más técnica de modelado.
¿Dónde encaja esto dentro del dominio?
Es la octava de las diez direcciones del dominio de medicina y tecnología sanitaria de Astra Trainer, y depende de la epidemiología para el método de validación y de dispositivos médicos para el marco regulatorio. Puedes verlas aquí.