(Shutterstock)
Recientemente, me invitaron a participar en un panel sobre inteligencia artificial (IA) junto a profesores de Ciencias de la Computación de la Universidad Carnegie Mellon, una de las instituciones líderes en el desarrollo de IA y robótica. Uno de los panelistas hizo una afirmación que escucho con frecuencia en este tipo de encuentros: “La IA es simplemente una herramienta”.
La idea detrás de esta afirmación es que la IA es neutral: no es buena ni mala en sí misma, sino que todo depende del uso que hagamos de ella. Un hacha, por ejemplo, puede servir para cortar leña para el hogar o puede utilizarse como arma homicida.
Pero las cosas no son tan sencillas.
He dedicado buena parte de mi carrera a estudiar el financiamiento y la organización del sistema de salud estadounidense. Además, junto con mi esposa, soy copropietario de un pequeño consultorio de atención primaria. He sido testigo de la rápida expansión del uso de la IA en la atención médica en Estados Unidos. En los últimos años han surgido diversas herramientas, conocidas como sistemas de apoyo a la toma de decisiones clínicas basados en IA (CDSS), diseñadas para ayudar a los médicos a diagnosticar enfermedades y determinar tratamientos. Una de las más conocidas es OpenEvidence, que, según informes recientes, ya es utilizada por el 65 % de los médicos.
Cuando consideramos incorporar una tecnología al ámbito de la salud, solemos centrarnos en lo que hace: cómo facilita una determinada tarea. Estos sistemas basados en IA buscan resolver problemas reales. La evidencia médica crece rápidamente y puede resultar difícil para los profesionales mantenerse al día. La IA ayuda a los médicos a revisar esa evidencia para realizar diagnósticos adecuados y elaborar planes de tratamiento de manera mucho más eficiente. Esto resulta especialmente atractivo en un sistema donde los médicos trabajan con tiempos muy limitados. Una consulta de atención primaria dura, en promedio, unos 15 minutos. En teoría, herramientas como OpenEvidence permiten aprovechar mejor ese tiempo y llegar más rápidamente a un diagnóstico y a un plan de tratamiento.
Sin embargo, solemos prestar menos atención a cómo la tecnología afecta a los profesionales y, por extensión, al sistema de salud en general, en el que estas tecnologías están cada vez más integradas.
Uno de los efectos que más me preocupa es que los profesionales puedan perder capacidades importantes a medida que utilizan la IA. Aunque estas tecnologías les permiten tomar decisiones con mayor rapidez y, quizá, con mayor precisión, ciertamente se produce una especie de descarga cognitiva. Si los médicos recurren constantemente a la IA para tomar decisiones, podrían perder parte de su capacidad para realizar por sí mismos determinados juicios clínicos.
La misma preocupación se aplica a varios aspectos de la vida cotidiana. ChatGPT o Claude pueden ayudar a un niño a terminar rápidamente sus tareas escolares, pero ¿desarrollará las mismas capacidades cognitivas y habilidades que desarrollaron sus padres?
La Iglesia Católica —más recientemente el papa León XIV y, antes que él, el papa Francisco— ha expresado una preocupación más profunda sobre el uso de la tecnología. La tecnología no solo puede debilitar muchas de nuestras capacidades, sino que también moldea aquello que valoramos.
“Tenemos que aceptar que los productos tecnológicos no son neutrales, pues crean un marco que termina condicionando los estilos de vida y las posibilidades sociales”, afirmó el papa Francisco en su encíclica de 2015, ‘Laudato si’ (“Alabado seas”). “Las decisiones que pueden parecer puramente instrumentales son, en realidad, decisiones sobre el tipo de sociedad que queremos construir”.
En otras palabras, a medida que utilizamos la tecnología digital, estamos condicionados por este “marco”, que termina influyendo en nuestras decisiones y en la manera en que concebimos el mundo. Francisco llamó a este marco el “paradigma tecnológico”.
Susanne DeWitt espera para recibir atención médica en la Clínica Catherine McAuley, un centro de atención primaria para personas sin seguro médico en Hammond, Indiana. (CNS/Karen Callaway, Northwest Indiana Catholic)
León XIV retomó este mismo tema en Magnifica Humanitas (“La magnífica humanidad”). Allí describe el paradigma tecnológico como “la tendencia a dejar que la lógica de la eficiencia, el control y las ganancias sea la que determine las decisiones personales, sociales y económicas”.
Y cuando ese paradigma comienza a dictar qué es importante y qué puede descartarse, “reduce la creación a un objeto de explotación y al ser humano a una simple pieza de un sistema impulsado hacia una eficiencia cada vez mayor”.
¿Qué significa esto en la práctica? Si los papas tienen razón, el paradigma tecnológico también influye en la manera en que se diseñan y utilizan las herramientas de IA. Uno de sus rasgos centrales es la búsqueda constante de eficiencia. La eficiencia en sí misma no es algo malo, pero es un bien «instrumental»: es decir, no es un fin en sí mismo, sino que debe estar al servicio de un bien más importante.
La preocupación es que, en el ámbito de la salud, cuando los médicos atienden a los pacientes mediante herramientas diseñadas para ahorrar tiempo y aumentar la eficiencia, pueden comenzar a considerar la consulta médica en sí misma como algo que debe resolverse rápidamente. El paciente deja de ser visto como una persona que merece tiempo y atención y pasa a ser un problema que hay que solucionar cuanto antes para poder pasar al siguiente. Así, el paciente termina convertido en una pieza más de esta maquinaria de eficiencia.
Incluso si los propios médicos no ven conscientemente a sus pacientes de esa manera, la decisión de utilizar estas herramientas puede contribuir a crear y reforzar un sistema más amplio orientado simplemente a la eficiencia. Tanto León XIV como Francisco coinciden en una preocupación que ya había planteado el papa san Juan Pablo II: la relación entre la obsesión por la eficiencia y la búsqueda de ganancias.
“La Iglesia reconoce el papel legítimo de las ganancias como una señal de que una empresa está funcionando bien”, escribió Juan Pablo II. “Pero la rentabilidad no es el único indicador de la situación de una empresa”.
Dentro de este paradigma tecnológico, las mejoras en eficiencia no necesariamente benefician a los médicos o a los pacientes, que pueden terminar siendo vistos como medios para alcanzar el objetivo de maximizar las ganancias.
Desde hace años, tanto pacientes como médicos se quejan de sentirse constantemente apurados durante las consultas y de que el sistema de salud está excesivamente orientado a las ganancias. Aunque la expansión de la IA busca mejorar la atención médica, podría terminar agravando aún más estos problemas.