En la actividad sanitaria, la “inteligencia artificial” puede llevar a hacer bien muchas cosas que no hay que hacer, por Juan Gérvas y Mercedes Pérez-Fernández

Hacer bien lo que no hay que hacer

Dicen los economistas que no hay nada peor que hacer bien una cosa que no hay que hacer. En el sector sanitario el ejemplo clásico es “extirpar orejas a toda la población”. Es algo que no hay que hacer, pero se podría hacer, y hacer bien. Es decir, extirpar las orejas literalmente a todo el mundo, desde el nacimiento, y hacerlo sin que se produjeran complicaciones, con excelente anestesia y técnica quirúrgica, sin infecciones ni cicatrices deformantes, y llegando a toda la población, hasta los lugares más recónditos del país. 

Podemos imaginar el orgullo de políticos, gestores y profesionales de la sanidad por cumplir eficazmente con tal compleja tarea. 

Sin precaución, el ejemplo se podrá aplicar en breve en el mismo sector sanitario con el uso de la “inteligencia artificial”.

“Escribas”

En Cataluña (y otros lugares del mundo) se está implantando el uso de “escribas”, programas de “inteligencia artificial” capaces de registrar la conversación en la consulta entre profesional y paciente, para ahorrar tiempos y tener el registro automático en la historia clínica electrónica.

Pero, ¿de qué sirve anotar en la historia clínica electrónica dicha conversación? Apenas es útil el 5% del registro de todo el encuentro médico-paciente. El resto es basura que inunda las historias clínicas electrónicas dificultando la mejor atención sanitaria.

Los “escribas” pueden incrementar el volumen de basura y de ruido en los registros clínicos, y llevar a peor resultado en salud.

Diagnósticos

Los médicos tienen dificultades varias para diagnosticar, y en muchos casos la “inteligencia artificial” puede ayudar a mejorar el proceso, a conseguir más y mejores diagnósticos.

Pero los médicos deberían emplear sólo diagnósticos ciertos y oportunos y saber “no diagnosticar” cuando diagnosticar no mejora ni los cuidados ni el pronóstico.

Por ejemplo, en urgencias hospitalarias se “resuelven” casi el 40% de los casos de dolor abdominal sin diagnóstico final alguno. Y conseguir un diagnóstico, por ejemplo en el dolor abdominal inespecífico en la adolescencia, puede llevar a pruebas que rocen el ensañamiento y la crueldad, sin añadir nada a la evolución del paciente.

La “mejora del proceso diagnóstico” con la “inteligencia artificial” puede ser dañina para pacientes y poblaciones. Tenemos un grave problema de “exceso de diagnósticos” en la atención clínica y el uso de la “inteligencia artificial” nos puede llevar a agravar el problema por las consiguientes “cascadas terapéuticas” innecesarias. Es lo que llamamos “la tiranía del diagnóstico”.

Más no siempre es mejor

La fascinación tecnológica está llevando a la aceptación acrítica del uso de la “inteligencia artificial” en Medicina, con una asunción inquietante, en el sentido de que más es mejor.

Cuando empezaron a circular los primeros automóviles, fueron vistos como “la modernidad” y ocuparon espacios públicos con el beneplácito de autoridades y de ciudadanos.

Con los años llegaron a ser un problema de salud pública, por la contaminación ambiental y la reducción de espacios para la vida. Hoy son frecuentes las limitaciones en las ciudades a los automóviles y asombra la facilidad con que se aceptó que más es mejor en este sector del transporte.

El rechazo lleva, por ejemplo, a que en París se promocionen las calles ajardinadas y arboladas hasta el 60% del total, sin coches, y que el 40% de la población haya renunciado a la propiedad de un automóvil.

¿Aprenderemos?

La “inteligencia artificial” tiene sus aplicaciones pero conviene aprender de otras “modernidades” que la han precedido y ser racionales en su uso. Las facilidades que promete la “inteligencia artificial” pueden ser espejismos que dañen.

El deslumbre tecnológico no puede hacernos creer que más es mejor en las aplicaciones de la “inteligencia artificial” en el sector sanitario.

Autores:

Juan Gérvas, médico general rural jubilado, Equipo CESCA, Madrid, España

jjgervas@gmail.com www.equipocesca.org @JuanGrvas

Mercedes Pérez-Fernández, Especialista en Medicina Interna, médico general jubilada, Equipo CESCA. mpf1945@gmail.com

__________________________________

Por su relación con el tema y con permiso de los autores, pongo este artículo de Juan Manuel Prada.

PLANETIZACIÓN HUMANA

Juan Manuel de Prada

XL Semanal nº 1963 (8-14 junio 2025)

Como tengo fama de tecnófobo o ludita, son muchas las personas que me cantan las loas de la inteligencia artificial, como si quisieran tentarme. Pero tratar de tentarme a mí –un tipo que escribe a mano novelas de mil seiscientas páginas– con novedades tecnológicas es como tratar de tentar al marqués de Bradomín con el amor de los efebos.

En realidad, como cualquier persona curiosa, he probado a hacer muchas preguntas a la inteligencia artificial; y sus respuestas siempre me han parecido mansuetas y consabidas, una farfolla pálidamente erudita, pálidamente tópica, pálidamente progresista; además, he descubierto que, bajo su apariencia atildadita e irreprochable, la inteligencia artificial desliza muchos errores y hasta citas apócrifas (y lo hace, evidentemente, porque ha sido programada para hacerlo). Escribía Marcuse en El hombre unidimensional que «la tecnología sirve para instituir formas de control y de cohesión social que resulten más efectivas y agradables». Y, oponiéndose a esa resobada y camastrona sentencia que afirma que «la tecnología es neutral», afirmaba que «la sociedad tecnológica es un sistema de dominación» cuyo fin último no es otro sino «determinar la vida» de la gente.

La tecnología nunca ha sido neutra, mucho menos en esta fase terminal y posthumana de la Historia; y, desde luego, tampoco lo es la inteligencia artificial, que ha sido creada y financiada con el propósito de obtener una recompensa. Y no nos referimos tanto a una recompensa meramente material (aunque también), sino más bien a otra de índole 'espiritual'. La inteligencia artificial, a la postre, pretende que todo el mundo piense lo mismo; o, dicho más exactamente, pretende que la gente deje de pensar, para adoptar unánimemente el 'pensamiento' que la tecnología brinda instantáneamente. ¿Y en qué consiste ese 'pensamiento' que la inteligencia artificial nos brinda? En un recuelo de erudiciones postizas, en una acumulación de datos sesgados, en un compendio de ciencia divulgativa que formatea las mentes (y las almas) en una ideología nebulosa, ese pálido progresismo al que nos referíamos más arriba, que concede astutamente a sus usuarios la limosna de seguir profesando sus respectivas ideologías (igualmente memas), pero les arrebata la posibilidad de concebir siquiera una visión alternativa de la realidad. Se trata de un proyecto de uniformización que convierte los más hórridos proyectos colectivistas en inofensivos juegos infantiles, o en chapuceras ingenierías sociales; todo lo criminales que queramos, pero en cualquier caso mucho más defectuosas que criminales.

La inteligencia artificial, por el contrario, propone una uniformización de las almas indolora, aséptica, amable, incluso redentora; porque hace creer a sus usuarios que suple sus lagunas, sus carencias, sus falibilidades e ignorancias. Los 'empodera', a la vez que los despoja de lo que los hace humanos, que es su especificidad, su unicidad, su alma singularísima y nunca repetida; y de este modo, haciéndoles creer que tienen todo el conocimiento del mundo a su disposición, no hace sino brindarles la vida propia de los insectos (que es también la vida de las máquinas): una vida indistinta, gregaria, refractaria a toda forma de disidencia, de mónadas idénticas que forman parte de un enjambre o nube de moscas (aunque, por supuesto, la tecnología brinda siempre un espejismo de individualismo liberador, que no es otra cosa sino desarraigo de las realidades cálidas que integran nuestra humanidad). Y las personas que llevan esa vida homogénea pueden llegar a confundir los 'pensamientos' inducidos que les brinda la llamada inteligencia artificial con lucubraciones propias. Aquel anhelo protervo de lograr una «mente colmena» en la que los seres humanos fuesen deglutidos y convertidos en átomos intercambiables, de racionalidad puramente funcional, se hace realidad con la inteligencia artificial. No deja de tener su gracia siniestra que este anhelo se parezca monstruosamente a la 'noosfera' del teólogo visionario Teilhard de Chardin, que imaginó una época futura en la que un vasto tejido nervioso o «envoltura pensante» uniría el pensamiento de todos los hombres, hasta lograr la «planetización humana». Teilhard pensaba que esta 'noosfera' era el paso previo a la delirante fusión de una Humanidad de superhombres con Cristo; la 'noosfera' de la inteligencia artificial, por el contrario, es el paso previo a la fusión de una nube de insectos con el Señor de las Moscas. No olvidemos que la principal misión diabólica es uniformizar a quienes Dios creó distintos; nunca esa misión proterva ha estado tan cerca de hacerse realidad.