En la actividad sanitaria, la “inteligencia artificial” puede llevar a hacer bien muchas cosas que no hay que hacer, por Juan Gérvas y Mercedes Pérez-Fernández

Hacer bien lo que no hay que hacer

Dicen los economistas que no hay nada peor que hacer bien una cosa que no hay que hacer. En el sector sanitario el ejemplo clásico es “extirpar orejas a toda la población”. Es algo que no hay que hacer, pero se podría hacer, y hacer bien. Es decir, extirpar las orejas literalmente a todo el mundo, desde el nacimiento, y hacerlo sin que se produjeran complicaciones, con excelente anestesia y técnica quirúrgica, sin infecciones ni cicatrices deformantes, y llegando a toda la población, hasta los lugares más recónditos del país. 

Podemos imaginar el orgullo de políticos, gestores y profesionales de la sanidad por cumplir eficazmente con tal compleja tarea. 

Sin precaución, el ejemplo se podrá aplicar en breve en el mismo sector sanitario con el uso de la “inteligencia artificial”.

“Escribas”

En Cataluña (y otros lugares del mundo) se está implantando el uso de “escribas”, programas de “inteligencia artificial” capaces de registrar la conversación en la consulta entre profesional y paciente, para ahorrar tiempos y tener el registro automático en la historia clínica electrónica.

Pero, ¿de qué sirve anotar en la historia clínica electrónica dicha conversación? Apenas es útil el 5% del registro de todo el encuentro médico-paciente. El resto es basura que inunda las historias clínicas electrónicas dificultando la mejor atención sanitaria.

Los “escribas” pueden incrementar el volumen de basura y de ruido en los registros clínicos, y llevar a peor resultado en salud.

Diagnósticos

Los médicos tienen dificultades varias para diagnosticar, y en muchos casos la “inteligencia artificial” puede ayudar a mejorar el proceso, a conseguir más y mejores diagnósticos.

Pero los médicos deberían emplear sólo diagnósticos ciertos y oportunos y saber “no diagnosticar” cuando diagnosticar no mejora ni los cuidados ni el pronóstico.

Por ejemplo, en urgencias hospitalarias se “resuelven” casi el 40% de los casos de dolor abdominal sin diagnóstico final alguno. Y conseguir un diagnóstico, por ejemplo en el dolor abdominal inespecífico en la adolescencia, puede llevar a pruebas que rocen el ensañamiento y la crueldad, sin añadir nada a la evolución del paciente.

La “mejora del proceso diagnóstico” con la “inteligencia artificial” puede ser dañina para pacientes y poblaciones. Tenemos un grave problema de “exceso de diagnósticos” en la atención clínica y el uso de la “inteligencia artificial” nos puede llevar a agravar el problema por las consiguientes “cascadas terapéuticas” innecesarias. Es lo que llamamos “la tiranía del diagnóstico”.

Más no siempre es mejor

La fascinación tecnológica está llevando a la aceptación acrítica del uso de la “inteligencia artificial” en Medicina, con una asunción inquietante, en el sentido de que más es mejor.

Cuando empezaron a circular los primeros automóviles, fueron vistos como “la modernidad” y ocuparon espacios públicos con el beneplácito de autoridades y de ciudadanos.

Con los años llegaron a ser un problema de salud pública, por la contaminación ambiental y la reducción de espacios para la vida. Hoy son frecuentes las limitaciones en las ciudades a los automóviles y asombra la facilidad con que se aceptó que más es mejor en este sector del transporte.

El rechazo lleva, por ejemplo, a que en París se promocionen las calles ajardinadas y arboladas hasta el 60% del total, sin coches, y que el 40% de la población haya renunciado a la propiedad de un automóvil.

¿Aprenderemos?

La “inteligencia artificial” tiene sus aplicaciones pero conviene aprender de otras “modernidades” que la han precedido y ser racionales en su uso. Las facilidades que promete la “inteligencia artificial” pueden ser espejismos que dañen.

El deslumbre tecnológico no puede hacernos creer que más es mejor en las aplicaciones de la “inteligencia artificial” en el sector sanitario.

Addendum

7 agosto de 2025:

En el Reino Unido se pide a los médicos generales que declaren los errores y problemas de la Inteligencia Artificial con la Tarjeta Amarilla que se utiliza para la farmacovigilancia de efectos adversos de medicamentos y dispositivos médicos (aquí).

NOTAS

El 6 de diciembre de 2025 recibimos un correo que reproducimos con permiso de la autora, cambiando lo necesario para que no se le identifique. Dice:
Soy Rosa Muñoz, es posible que no me recordéis. Soy Médica de Familia, alguna vez nos hemos saludado, en la era pre-pandemia, y he participado en varios Seminarios de Innovación en Atención Primaria, pero creo que desde entonces no hemos vuelto a coincidir.  Nada, que a propósito de que he leído vuestra  entrada en el blog "Salud, dinero y atención primaria" del 07/06/25 sobre "Inteligencia Artificial", me han entrado ganas de saludaros. Y de paso comentaros que actualmente estoy trabajando en un hospital en que está implantado un "escriba" que es de uso obligatorio.  Tiene problemas, como imaginas. Desde que no codifica los diagnósticos de atención primaria a que "alucina" y trascribe cosas que no se han dicho, al tiempo que obvia datos importantes, porque sí registra más o menos bien los datos bio, pero obvia lo psico-social. Tampoco me acaba de gustar que las historias ahora parecen todas iguales y no identifico mi "estilo" de curso clínico.  Me ha parecido interesante el apunte que hacéis de que sólo es útil el 5% del registro de todo el encuentro médico paciente y que el resto es "basura o ruido". También me ha parecido muy interesante lo de la tarjeta amarilla para comunicar además de efectos adversos de medicamentos también los de los dispositivos médicos.

El 17 de diciembre de 2025 leemos en Twitter (X) un comentario en que consta:
Mi médico en Allina [empresa sanitaria privada sin ánimo de lucro de Minneapols, Minnesota, Estados Unidos] me mostró una nueva herramienta de IA que utilizan para resumir historiales médicos. Puede revisar todo el historial y proporcionar un resumen legible. 
Copió y pegó el resumen en mis notas para que lo revisara más tarde. 
Los errores fueron asombrosos. 
El robot de IA afirmó falsamente que tenía antecedentes de apnea del sueño (nada que ver). 
Afirmó que me "diagnosticaron una enfermedad cardíaca" en una fecha específica, porque esa era la fecha en que se solicitó una prueba para *descartar una enfermedad cardíaca* (y se descartó). 
Caracterizó erróneamente un problema de columna vertebral real con un diagnóstico erróneo. 
Como una vez me recetaron antibióticos por una picadura de garrapata, decía que tenía antecedentes de prurito clínicamente significativos. 
Le pedí que eliminara o corrigiera esto en mi nota, pero me preocupa mucho cómo errores como este podrían acumularse con el tiempo. 
El resumen erróneo de esta visita se incluye en mi historial, que luego se malinterpretará aún más la próxima vez que el robot revise mi información. 
Para aclarar, esto no fue un problema con el "escriba", la aplicación de notas por voz. 
Se trataba específicamente de una herramienta que revisa el historial de historiales y lo resume. 
La nota no registra qué fue generada por IA y qué fue escrita por humanos, así que no confío en que se identifique como particularmente poco fiable.
https://twitter.com/sdho/status/2001328800647561216

El 12 de mayo de 2026 la Oficina del Auditor General de Ontario (Canadá) publicó un informe sobre el uso de la "inteligencia artificial" IA en la consulta médica, como escribas.

Patológico y erróneo: Auditores de Ontario descubren que los sistemas de IA para tomar notas de los médicos suelen cometer errores básicos. El 60 % de los sistemas de transcripción con IA evaluados confundieron medicamentos recetados en las notas de los pacientes, según los auditores.

Los sistemas de IA aprobados para los proveedores de atención médica de Ontario omitían detalles críticos, insertaban información incorrecta e inventaban contenido que ni los pacientes ni los médicos mencionaban, según una auditoría provincial de los sistemas de 20 proveedores aprobados. 

Un auditor del gobierno de Ontario, Canadá, descubrió que los agentes de IA encargados de convertir las conversaciones entre médicos y pacientes en notas estructuradas inventaban tratamientos falsos, reemplazaban nombres de medicamentos por otros completamente diferentes y omitían información crucial.

https://www.auditor.on.ca/en/content/specialreports/specialaudits/en2026/AR_2026_AI_EN.html

El 23 de mayo, comentario de Carl Heneghan y Tom Jefferson

https://trusttheevidence.substack.com/p/the-ai-scribe-illusion-why-more-technology

La fantasía del escriba médico con IA ("inteligencia" artificial): Por qué más tecnología podría significar más trabajo para los médicos pues cada alucinación, omisión y error sigue siendo responsabilidad del médico

Estos dos firmantes, veteranos de la Oficina de TTE, han comprendido desde hace tiempo que la medicina no es simplemente la acumulación de información, sino su filtrado riguroso. 

El médico de cabecera experimentado no anota cada palabra de una consulta; selecciona los aspectos más relevantes, interpreta cualquier ambigüedad y descarta lo irrelevante. Precisamente por eso, el entusiasmo actual por los escribas médicos con IA debería preocuparnos. 

Nos venden la fantasía de una eficiencia sin fricciones: un médico habla mientras la máquina escucha, produciendo un registro perfecto de la consulta, y se ahorra tiempo. Sin embargo, la evidencia que surge de los primeros procesos de adquisición y auditorías sugiere que ocurre lo contrario: notas más largas, más imprecisiones, mayor riesgo médico-legal y, en definitiva, más trabajo para los médicos. 

El reciente informe del Auditor General de Ontario sobre la inteligencia artificial en el gobierno ofrece una visión de este futuro. La revisión evaluó 20 sistemas de transcripción con IA aprobados durante el proceso de adquisición y descubrió que cada uno presentaba al menos una forma significativa de imprecisión. Nueve produjeron auténticas alucinaciones, inventando detalles clínicos o sugerencias de tratamiento que nunca se habían discutido, mientras que 12 generaron información incorrecta, incluyendo el registro de medicamentos erróneos. Diecisiete sistemas omitieron detalles clave de salud mental en al menos un escenario de prueba, y seis produjeron notas persistentemente incompletas en ambas evaluaciones. 

Lejos de demostrar una tecnología madura y fiable, los hallazgos revelaron una tasa de error sorprendentemente alta en los sistemas destinados a generar historiales médicos formales, lo que plantea serias preocupaciones sobre la seguridad del paciente, la fiabilidad clínica y la carga de trabajo oculta que supone la necesidad de una revisión humana meticulosa de cada nota generada. Esto es importante porque las notas médicas no son documentos neutrales; determinan las derivaciones, dan forma a la atención futura y, cada vez más, constituyen la base de los litigios. 

Una frase errónea que diga "no se encontraron masas" cuando no se realizó ningún examen no es un fallo de software trivial; una vez registrada en las notas, adquiere autoridad simplemente por formar parte del historial clínico permanente. Quienes defienden el uso de la IA para la transcripción médica rara vez se enfrentan a la paradoja central: cada error generado por la máquina requiere verificación humana. 

Por lo tanto, el médico se convierte no solo en clínico, sino también en corrector de textos generados por máquina. El problema se agrava aún más por la dificultad que tienen los seres humanos para detectar imprecisiones sutiles en un lenguaje fluido. Una nota breve y concisa escrita directamente por el médico suele ser más fiable que una transcripción extensa de IA, que requiere una revisión línea por línea. 

Sin embargo, los sistemas de IA se ven incentivados a la exhaustividad, ya que los desarrolladores temen más la omisión que el exceso. Un paciente puede pasar diez minutos hablando de información irrelevante antes de revelar, casi casualmente, el síntoma que realmente importa. 

El médico de cabecera experimentado identifica la información relevante entre el ruido, mientras que los sistemas de IA, por el contrario, están diseñados como reconocedores de patrones estadísticos y predictores de secuencias de texto probables. En consecuencia, las notas se llenan de información irrelevante, ya que la IA no puede distinguir con fiabilidad entre un pensamiento pasajero y un diagnóstico definitivo. 

Existe otro problema que los entusiastas prefieren ignorar: los sistemas de transcripción de IA aprenden de la documentación existente, pero gran parte de la documentación médica actual ya es deficiente. La medicina defensiva ha generado notas saturadas de frases hechas, copias y relleno médico-legal. Si los sistemas de IA se entrenan con registros defensivos y sobrecargados, solo los reproducirán y amplificarán: si la entrada es basura, la salida también lo será. 

De hecho, cabe imaginar un ciclo vicioso en el que las notas generadas por IA se vuelven más largas y menos relevantes desde el punto de vista clínico. Los médicos residentes que se forman con estas notas desarrollan peores hábitos de documentación, y la siguiente generación de modelos de IA se entrena con este corpus degradado. Con el tiempo, la historia clínica corre el riesgo de volverse menos útil precisamente porque contiene demasiada información superflua. La auditoría de Ontario reveló otra realidad incómoda: estos sistemas no se evaluaron rigurosamente antes de su implementación. Algunos proveedores no proporcionaron informes de seguridad independientes ni evaluaciones de privacidad, pero aun así fueron aprobados. Otros sistemas fueron evaluados utilizando criterios de baja ponderación para la precisión y el sesgo. 

Los evaluadores incluso observaron que los sistemas transcribían de forma imprecisa conversaciones que incluían nombres de medicamentos y discusiones sobre salud mental. 

Las implicaciones son profundas. La medicina depende en gran medida de los matices del lenguaje: los acentos, las expresiones idiomáticas, las vacilaciones y el tono emocional tienen un significado diagnóstico. Un médico de cabecera experimentado, al oír a un paciente decir en voz baja: «Ya no puedo más», reconoce la importancia de inmediato. Un transcriptor de IA puede pasarlo por alto por completo o sobreinterpretarlo y convertirlo en un diagnóstico psiquiátrico, lo que nunca se pretendió.

También existe la ilusión de una reducción de costos. Los responsables políticos ven a los médicos dedicando horas a tareas administrativas y asumen que la automatización reducirá la presión sobre el personal. Sin embargo, si los médicos deben revisar minuciosamente cada nota generada por IA, la carga de trabajo podría aumentar. 

La cuestión central no es si la IA cometió el error, sino quién es responsable cuando este afecta al paciente. En medicina, la responsabilidad no puede delegarse en el software. El médico que firma la nota, prescribe el medicamento o realiza la derivación sigue teniendo responsabilidad profesional, ética y legal, lo que modifica el argumento económico en torno a los asistentes de IA. 

Si el médico de cabecera sigue siendo responsable de cada error, omisión o frase engañosa, entonces cada nota generada por IA debe revisarse con el mismo cuidado que si se hubiera escrito desde cero. La máquina puede escribir más rápido, pero el médico aún tiene que pensar, interpretar y verificar. La ironía reside en que las mejores notas médicas suelen ser las más breves: «Dolor de pecho que empeora con el esfuerzo, se irradia a la mandíbula, ECG normal, con margen de seguridad», refleja concisamente criterio, priorización y síntesis clínica. Algo con lo que la IA tiene dificultades, ya que la síntesis requiere comprender qué no incluir. La promesa de los transcriptores de IA se basa en una mala interpretación de lo que realmente hacen los médicos. 

El peligro no es que los escribas de IA reemplacen a los médicos, sino que los sepulten lentamente bajo montañas de prosa plausible pero poco fiable, mientras los políticos lo ensalzan como un ahorro de costes. 

Esta publicación fue escrita por dos ancianos, no por un transcriptor de IA. 

Autores:

Juan Gérvas, médico general rural jubilado, Equipo CESCA, Madrid, España

jjgervas@gmail.com www.equipocesca.org @JuanGrvas

Mercedes Pérez-Fernández, Especialista en Medicina Interna, médico general jubilada, Equipo CESCA. mpf1945@gmail.com

__________________________________

Por su relación con el tema y con permiso de los autores, pongo este artículo de Juan Manuel Prada.

PLANETIZACIÓN HUMANA

Juan Manuel de Prada

XL Semanal nº 1963 (8-14 junio 2025)

Como tengo fama de tecnófobo o ludita, son muchas las personas que me cantan las loas de la inteligencia artificial, como si quisieran tentarme. Pero tratar de tentarme a mí –un tipo que escribe a mano novelas de mil seiscientas páginas– con novedades tecnológicas es como tratar de tentar al marqués de Bradomín con el amor de los efebos.

En realidad, como cualquier persona curiosa, he probado a hacer muchas preguntas a la inteligencia artificial; y sus respuestas siempre me han parecido mansuetas y consabidas, una farfolla pálidamente erudita, pálidamente tópica, pálidamente progresista; además, he descubierto que, bajo su apariencia atildadita e irreprochable, la inteligencia artificial desliza muchos errores y hasta citas apócrifas (y lo hace, evidentemente, porque ha sido programada para hacerlo). Escribía Marcuse en El hombre unidimensional que «la tecnología sirve para instituir formas de control y de cohesión social que resulten más efectivas y agradables». Y, oponiéndose a esa resobada y camastrona sentencia que afirma que «la tecnología es neutral», afirmaba que «la sociedad tecnológica es un sistema de dominación» cuyo fin último no es otro sino «determinar la vida» de la gente.

La tecnología nunca ha sido neutra, mucho menos en esta fase terminal y posthumana de la Historia; y, desde luego, tampoco lo es la inteligencia artificial, que ha sido creada y financiada con el propósito de obtener una recompensa. Y no nos referimos tanto a una recompensa meramente material (aunque también), sino más bien a otra de índole 'espiritual'. La inteligencia artificial, a la postre, pretende que todo el mundo piense lo mismo; o, dicho más exactamente, pretende que la gente deje de pensar, para adoptar unánimemente el 'pensamiento' que la tecnología brinda instantáneamente. ¿Y en qué consiste ese 'pensamiento' que la inteligencia artificial nos brinda? En un recuelo de erudiciones postizas, en una acumulación de datos sesgados, en un compendio de ciencia divulgativa que formatea las mentes (y las almas) en una ideología nebulosa, ese pálido progresismo al que nos referíamos más arriba, que concede astutamente a sus usuarios la limosna de seguir profesando sus respectivas ideologías (igualmente memas), pero les arrebata la posibilidad de concebir siquiera una visión alternativa de la realidad. Se trata de un proyecto de uniformización que convierte los más hórridos proyectos colectivistas en inofensivos juegos infantiles, o en chapuceras ingenierías sociales; todo lo criminales que queramos, pero en cualquier caso mucho más defectuosas que criminales.

La inteligencia artificial, por el contrario, propone una uniformización de las almas indolora, aséptica, amable, incluso redentora; porque hace creer a sus usuarios que suple sus lagunas, sus carencias, sus falibilidades e ignorancias. Los 'empodera', a la vez que los despoja de lo que los hace humanos, que es su especificidad, su unicidad, su alma singularísima y nunca repetida; y de este modo, haciéndoles creer que tienen todo el conocimiento del mundo a su disposición, no hace sino brindarles la vida propia de los insectos (que es también la vida de las máquinas): una vida indistinta, gregaria, refractaria a toda forma de disidencia, de mónadas idénticas que forman parte de un enjambre o nube de moscas (aunque, por supuesto, la tecnología brinda siempre un espejismo de individualismo liberador, que no es otra cosa sino desarraigo de las realidades cálidas que integran nuestra humanidad). Y las personas que llevan esa vida homogénea pueden llegar a confundir los 'pensamientos' inducidos que les brinda la llamada inteligencia artificial con lucubraciones propias. Aquel anhelo protervo de lograr una «mente colmena» en la que los seres humanos fuesen deglutidos y convertidos en átomos intercambiables, de racionalidad puramente funcional, se hace realidad con la inteligencia artificial. No deja de tener su gracia siniestra que este anhelo se parezca monstruosamente a la 'noosfera' del teólogo visionario Teilhard de Chardin, que imaginó una época futura en la que un vasto tejido nervioso o «envoltura pensante» uniría el pensamiento de todos los hombres, hasta lograr la «planetización humana». Teilhard pensaba que esta 'noosfera' era el paso previo a la delirante fusión de una Humanidad de superhombres con Cristo; la 'noosfera' de la inteligencia artificial, por el contrario, es el paso previo a la fusión de una nube de insectos con el Señor de las Moscas. No olvidemos que la principal misión diabólica es uniformizar a quienes Dios creó distintos; nunca esa misión proterva ha estado tan cerca de hacerse realidad.