LA INTELIGENCIA ARTIFICIAL EN MATERIA DE SALUD
REFLEXIONES DESDE LA ÉTICA Y LA DOCTRINA
SOCIAL DE LA IGLESIA
AUTORA: María Cristina Cortesi
a) LA IA EN LAS DECISIONES CLÍNICAS:
La IA constituye una herramienta utilizada en la práctica médica con la finalidad de mejorar la toma de decisiones clínicas, los diagnósticos y los tratamientos.
Implementarla plantea una serie de desafíos, sobre todo éticos, con la finalidad de proteger a los pacientes y sus derechos.
En todos estos procesos, necesariamente deben existir controles por humanos, en las decisiones que puedan tomarse automatizadas. Es un deber ineludible de los profesionales de la salud, garantizar esos controles en todas las decisiones que afecten a la vida humana.
Las máquinas cometen errores! Y lo peor, es que no sufren por sí mismas las consecuencias de una mala praxis. Tampoco están pensadas para evaluar si algo es ético o no, ya que se basan el algoritmos que no tienen valores propios; sólo analizan datos que no son objetivos, y dan una respuesta. Por lo tanto se necesita de seres humanos que puedan supervisarlos. Los datos pueden ser inexactos, incompletos o poseer sesgos, por lo tanto se deben utilizar en forma responsable.
El Secretario General de la ONU acaba de señalar que el destino de la humanidad no puede dejarse en manos de un algoritmo y que la IA debe ser y es una valiosa herramienta pero de apoyo.
Como sostuve más arriba, la IA en medicina ofrece oportunidades extraordinarias para el diagnóstico y tratamiento, y para mejorar la salud de las personas, pero nos enfrenta a grandes desafíos éticos y legales. Sobre todo se deben tener en cuenta los límites éticos que no pueden ser delegados por los profesionales de la salud, ya que donde está en juego la vida de las personas, debe existir un responsable humano. Y a ello, voy a referirme.
Asegurar la transparencia de cualquier proceso en el que se utiliza la IA, requiere que el paciente se encuentre informado, como así también se le debe explicar cómo se usarán sus datos. Ello requiere el consentimiento del mismo. Recordar que los conceptos y las normas de protección de datos, la calificación de los datos de salud como “sensibles”, el derecho a la autodeterminación informativa del paciente, a la confidencialidad, etc., son conceptos que se fueron desarrollando antes de la IA y han sido plasmados en las respectivas leyes que los regulan.
En materia de consentimiento informado, es imprescindible que el uso de IA conste en la redacción del mismo. Los pacientes deben reconocer que no van a perder sus derechos fundamentales por ser tratados con el apoyo de la IA y que ésta reforzará los beneficios para su salud, reduciendo errores diagnósticos, por ejemplo.
Asimismo, esta herramienta debe fortalecer la relación médico paciente y nunca debilitarla o sustituirla. El paciente tiene derecho a saber que lo diagnosticó un algoritmo y a pedir una segunda opinión humana.
Es altamente recomendable, como uno de los desafíos éticos planteados, protocolizar y estandarizar los consentimientos informados para la aplicación de IA; elaborar guias o protocolos para determinar con claridad su uso y las responsabilidades por los daños derivados; elaborar marcos legislativos basados en fundamentos éticos y bioéticos y en el respeto de los derechos humanos, siempre teniendo en cuenta que la IA no entiende lo que procesa por lo que, utilizar algoritmos en la toma de decisiones clínicas no elimina la responsabilidad ética y jurídica de los profesionales que intervienen en el proceso.
B) LA IA EN EL DESARROLLO DE MEDICAMENTOS:
La IA se utiliza actualmente como una nueva herramienta para mejorar y optimizar los procesos durante todo el ciclo de vida de un medicamento. Por ejemplo:
1.- Los algoritmos pueden acelerar la identificación de nuevas moléculas
2.- Durante los ensayos clínicos puede intervenir y acelerar la selección de pacientes que reúnan los criterios de inclusión requeridos en el diseño del protocolo de investigación clínica, y puede lograr reducir sesgos en el estudio. También puede minimizar los riesgos de fracasos en ensayos clínicos, que son bastante comunes constituyendo un gran desafío para la industria farmacéutica.
3.-Durante la etapa de farmacovigilancia, puede permitir recopilar los reportes de pacientes y detectar y evitar en forma temprana los efectos adversos que pudieran surgir durante la comercialización de fármacos.
4.- Puede permitir personalizar terapias mediante el análisis de datos genéticos.
C) REFLEXIONES DESDE LA ÉTICA Y DESDE LO QUE NOS ENSEÑA LA DOCTRINA SOCIAL DE LA IGLESIA:
Para que la IA aprenda, necesita datos. Nuestra Ley 25.326 exige anonimización de los datos de salud, entonces ¿ qué datos se usan, son fiables esos algoritmos? La realidad es que existen sesgos en datos, además de las ya probadas alucinaciones.
En nuestro país, los tres subsistemas de salud la están comenzando a utilizar, para autorización de prácticas y lecturas de Historias Clínicas ( muchas de ellas aún se confeccionan a papel por lo que la utilidad de la IA se alimenta con datos de mala calidad), existiendo una enorme zona gris legal y con un riesgo clínico concreto. Ello ocasiona que profesionales que confían demasiado en la IA corren el riesgo de basar sus diagnósticos en sesgos de automatización.
Pero el debate no es IA sí, o IA no; el debate es IA bajo qué reglas, con qué transparencia y bajo qué normas éticas. El problema es que la tecnología corre pero la regulación apenas gatea y mientras tanto Obras Sociales y Entidades de Medicina Prepaga la utilizan; y eso se observa cuando le dicen al paciente “lo rechazó el sistema”. Los modelos de autorización predictiva se entrenan con histórico de rechazos porque la IA está aprendiendo a negar prestaciones y entonces está pasando a ser, para los financiadores, el empleado perfecto: no pide aumento, no hace paros, deniega sin culpa, etc. Sería interesante saber qué dirían los jueces cuando tengan que decidir sobre un recurso de amparo del cual pudiera surgir que la denegatoria de una prestación proviene de un algoritmo.
La realidad es que sin Historia Clínica digital, sin internet estable y sin interoperatividad, la IA no puede funcionar adecuadamente. La IA no es más que una estructura matemática, un modelo de probabilidades. Ya que se basa en modelos de aprendizaje automático, considero que utilizarla en algunos ámbitos como en las escuelas, sin una regulación específica, hará que los niños no aprendan nunca a pensar, pierdan el concepto de lo que es verdadero o falso, o de lo que es correcto o incorrecto.
La Doctrina Social de la Iglesia, ofrece, a través de “Antiqua et nova (2025), el Mensaje para la Jornada Mundial de la Paz de 2024 del Papa Francisco, y las reflexiones de León XIV”. una profunda reflexión para guiar el uso responsable de la IA, es decir, para que esta tecnología sirva al hombre y no lo esclavice.
La Iglesia valora la IA por su potencial en ciencia, medicina y equidad, pero insiste en que todo avance debe servir a la dignidad humana. Así sostiene que debe respetar los principios de la Doctrina Social de la Iglesia:
1.- DIGNIDAD DE LA PERSONA HUMANA: El ser humano, creado a imagen y semejanza de Dios, no es un medio creado con fines tecnológicos o económicos, sino que es un fin en sí mismo. Así por ejemplo, en el ámbito laboral, la IA no debe reducir a los trabajadores en seres desechables.
2.- BIEN COMÚN: El Mensaje de Francisco para la Paz en 2024 destaca que «tecnologías que no mejoran la calidad de vida de toda la humanidad, sino que agravan desigualdades, no son verdadero progreso»
3.- SOLIDARIDAD: La utilización excesiva de IA suele aislar a las personas mediante “relaciones ficticias”; la IA no puede reemplazar conexiones auténticas entre los seres humanos.
4.- SUBSIDIARIEDAD: No centralizar el poder en estados o coorporaciones.
Como cierre, destaco una de las reflexiones de ANTIQUA ET NOVA Nota sobre la relación entre la inteligencia artificial y la inteligencia humana – P. 74 : “...La responsabilidad por el bienestar del paciente y las decisiones relacionadas que afectan a su vida constituyen el núcleo de la profesión sanitaria. Esta responsabilidad exige que el personal médico ejerza toda su capacidad e inteligencia para poner en práctica decisiones ponderadas y éticamente motivadas con respecto a las personas confiadas a su cuidado, respetando siempre la dignidad inviolable del paciente y el principio del consentimiento informado. En consecuencia, las decisiones relativas al tratamiento de los pacientes y la carga de responsabilidad asociada, deben permanecer siempre en manos de las personas y nunca delegarse en la IA...”
Y por último: “...aunque la IA puede simular algunos aspectos del razonamiento humano y realizar ciertas tareas con increíble rapidez y eficacia, sus capacidades computacionales representan sólo una fracción de las posibilidades más amplias de la mente humana. Por ejemplo, actualmente no puede reproducir el discernimiento moral ni la capacidad de establecer relaciones auténticas. Además, la inteligencia de una persona forma parte de una historia personal de formación intelectual y moral, que configura fundamentalmente la perspectiva de la persona individual, implicando las dimensiones físicas, emocionales, sociales, morales y espirituales de su vida. Dado que la IA no puede ofrecer esta amplitud de comprensión, los enfoques basados únicamente en esta tecnología, o que la asumen como la principal forma de interpretar el mundo, pueden conducir a perder el sentido de la totalidad, de las relaciones que existen entre las cosas, del horizonte amplio…”
Lo cierto y seguro es que la IA posee un gran potencial pero también grandes riesgos al reducir la labor humana en todos sus ámbitos a datos, afectando nuestra dignidad.
Como profesionales integrantes de la Comunidad Católica debemos participar en la búsqueda del desarrollo ético de la IA y así favorecer el dictado de normas y políticas públicas que protejan la dignidad humana.
REFERENCIAS
PÁGINAS WEB CONSULTADAS:
https://www.un.org/es/global-issues/artificial-intelligence
https://www.sciencedirect.com/science/article/pii/S0212656720301451
No hay comentarios:
Publicar un comentario