Columnista invitada (*) | Los pro y los contra de la incursión de la IA en temas clínicos y el valor de saber cómo se detectan y corrigen inconsistencias que pueden aparecer en medio de situaciones límite.
Estamos en un momento bisagra: la tecnología avanza más rápido que nuestra capacidad para regularla y en medicina de emergencias ese desfasaje no es un detalle menor.
La Inteligencia Artificial se metió en la práctica clínica antes de que termináramos de entender cómo usarla bien. Este año BMC Emergency Medicine publicó un estudio en donde evaluó el desempeño de 4 IA de mercado en escenarios simulados. Entre sus hallazgos, el triage fue el dominio con mayor tasa de errores y los modelos mostraron limitaciones persistentes en razonamiento clínico dinámico y en la toma de decisiones críticas.
Estamos en medio de un proceso de incorporación de herramientas que, bien reguladas y bien entendidas, van a potenciar muchísimo nuestra capacidad de resolverle problemas a la gente.
La pregunta no es si las vamos a usar, sino cómo, con qué controles y quién se hará cargo de detectar y corregir las inconsistencias que podrían aparecer.
Claro que la Inteligencia Artificial es más eficiente, porque procesa más rápido y no se fatiga. Pero la velocidad no es lo mismo que la pertinencia. ¿Qué es más efectivo en una emergencia, la respuesta rápida o la respuesta correcta? El problema no son las IA, sino la delegación del juicio humano hacia ellas. El riesgo no es solo que las IA se equivoquen en medicina de emergencias, sino que se equivoquen con aparente convicción. No dicen “no sé”. No dicen “consulte con un experto”. Generan una respuesta que suena completa y coherente pero que le puede estar costando la vida a alguien.
Acá está la ironía. Cuanto más inexperto es el usuario, más va a confiar en las IA. Y cuanto más confía, menos va a desarrollar el criterio para cuestionarla. Y es ahí cuando se convierte en un círculo vicioso que se retroalimenta.
Cómo se forma el criterio clínico
Entonces, ¿cómo se forma el criterio clínico si siempre hay una herramienta que responde primero? ¿Nos estamos formando en un contexto en donde la Inteligencia Artificial está siempre disponible? ¿Somos profesionales o usuarios? Me inquieta que no tengamos la capacidad de actuar eficazmente cuando la herramienta no esté disponible, o que como profesionales nunca aprendamos a aceptar la incertidumbre. Y en emergencias, la incertidumbre es el ambiente natural.
Siempre falta información, el paciente no siempre puede hablar, las condiciones son caóticas. Quién se dedica a la emergencia y no aprendió a trabajar en ese contexto es, por lo menos, vulnerable. Los datos son los mismos, la diferencia está en quien los interpreta. El juicio clínico es el profesional que miró a sus pacientes y supo que algo no estaba bien: eso es lo que no se puede delegar. Es nuestra responsabilidad, y es intransferible.
Las emergencias casi nunca dan una certeza completa. Esa brecha entre la seguridad que proyecta la Inteligencia Artificial y la complejidad real del escenario es en donde se vuelve visible la vulnerabilidad de delegar el juicio. Las herramientas van a mejorar. Ya lo están haciendo. Pero mejorar no es lo mismo a que estén listas para operar sin marco regulatorio en un entorno en donde el margen de error es la vida de alguien.
Necesitamos estudios que midan desempeño por dominio clínico, protocolos que definan niveles de autonomía según el riesgo de la tarea, y organismos que certifiquen estas herramientas con el mismo rigor con el que se certifica un dispositivo médico o un fármaco nuevo. Mientras eso no exista, la pregunta que cada profesional se tiene que hacer cada vez que abre una IA sigue siendo la misma: ¿estoy pensando o estoy consultando?
(*) Anabella Caruso Pallejá, Técnica en Emergencias Médicas.
