La inteligencia artificial. Ecos de un congreso

Introducción

El Observatorio de Bioética de la Universidad de Valencia, España, celebró el pasado 11 de julio el congreso ‘Humanidad y algoritmos: reflexiones bioéticas sobre la Inteligencia Artificial IA’. 

De los varios expositores que intervinieron en el evento voy a presentar en este escrito, algunas de las opiniones expresadas por Adela Cortina, catedrática emérita de Ética y Filosofía Política de la Universitat de València (UV), encargada de la conferencia inaugural titulada “Marco ético para una IA confiable”. La filosofa española, 78 años, es miembro de la Comisión Nacional de Reproducción Humana Asistida y Vocal del Comité Asesor de Ética de la Investigación Científica y Tecnológica de España. Tuve oportunidad durante mi maestría en filosofía de conocer y estudiar algunas de sus obras, entre otras: Ética Aplicada y Democracia Radical (Tecnos), El Mundo de los Valores. Ética Mínima y Educación (El Búho). Ética sin Moral (Tecnos).

Aspectos generales. La Inteligencia artificial, IA, surge como disciplina a mediados del siglo XX con la aparición de las computadoras programables. En la conferencia de Dortmund, Alemania, 1956, se presentaron los primeros programas para el procesamiento de estructuras simbólicas por parte de John McCarthy que aporta la primera definición de IA: “La ciencia y la ingeniería para fabricar máquinas inteligentes”.

La IA tiene la capacidad de ver, comprender y traducir lenguaje hablado y escrito, analizar datos, hacer recomendaciones y mucho más, inspirada en la estructura y funcionamiento del cerebro humano y el aprendizaje automático y el aprendizaje profundo.

La IA es un campo amplio que incluye muchas disciplinas, como la informática, análisis y estadística de datos, ingeniería de hardware y software, lingüística, neurociencia y hasta la filosofía y psicología. Especialidad médica más favorable al uso de IA es la radiología, en el análisis de las imágenes, le siguen medicina nuclear, cuidados críticos, oftalmología, neurociencias, pediatría y cirugía. Se aplica, también, para la gestión de los sistemas de salud y la investigación en salud pública.

Se especula, por fanáticos a ultranza de la tecnología y la ciencia, que en la medida que la inteligencia artificial, invada la atención y el cuidado de la salud, los médicos quedarán sin oficio, serán unos profesionales obsoletos. La verdad, siendo objetivos y razonables, la inteligencia artificial es un recurso más para mejorar las capacidades y competencias de los profesionales médicos en la prestación del servicio sanitario. Potencia la inteligencia humana en lugar de reemplazarla, al carecer de conciencia, emociones y empatía.

Un comunicado de la Academia Pontificia de Ciencias en 2016 declara que: “El esfuerzo para desarrollar máquinas inteligentes debe estar dirigido constantemente al bien mayor, reduciendo la brecha de pobreza y tratando las necesidades generales de salud, educación, felicidad y sustentabilidad. Se debe alertar a todos los gobiernos que estamos ante una revolución de gran magnitud y que debemos tomar nuevas medidas para gestionarla. Los científicos e ingenieros, en tanto diseñadores, tienen una responsabilidad fundamental en asegurar que sus tecnologías sean seguras y se usen con buenos propósitos”.

Planteamientos de Adela Cortina

La eximia profesora de la Universidad de Valencia llamó la atención, en su charla, sobre el eclipse de la razón frente al avance, cada vez en aumento, de la razón instrumental. En la práctica médica es común observar la relevancia que se le da al dato que suministra un aparato o un estudio paraclínico que, a la información obtenida por la observación clínica directa sobre el paciente tras el interrogatorio, inspección palpación etc., a la semiología que los médicos aprendimos desde estudiantes para llegar a un diagnóstico. Parece que hubiéramos decretado la “muerte de la clínica”, ante la super poderosa avalancha tecnológica. 

 Para Cortina, la razón comunicativa es importante porque es intersubjetiva, tal como detalla el filósofo y sociólogo alemán Hurguen Habermas. “La creación de la ética del diálogo sustenta la creación de acuerdos en fines comunes”. El dialogo razonable es componente esencial de una ética del cuidado cuando refiere a la responsabilidad del que cuida a una persona vulnerable por la enfermedad, que necesita atención y comprensión, que se le oiga.  

Se especula, por fanáticos a ultranza de la tecnología y la ciencia, que en la medida que la inteligencia artificial, invada la atención y el cuidado de la salud, los médicos quedarán sin oficio, serán unos profesionales obsoletos. La verdad, siendo objetivos y razonables, la inteligencia artificial es un recurso más para mejorar las capacidades y competencias de los profesionales médicos en la prestación del servicio sanitario. Potencia la inteligencia humana en lugar de reemplazarla, al carecer de conciencia, emociones y empatía.

Éticas de la IA. No sataniza, la filósofa española, la IA y considera que existen distintas éticas aplicables a este fenómeno:

 a. La ética de las superinteligencias. La superinteligencia es un concepto teórico que implica la existencia de una IA con capacidades de procesamiento superiores a las del cerebro humano.

 b.  La ética de la inteligencia general. La inteligencia humana que apela al sentido común;

 c.  La ética de la inteligencia especial.  La inteligencia instrumental centrada en temas concretos, por ejemplo: la ética robótica que debe dilucidar sobre el consiguiente desplazamiento laboral que trae consigo, la privacidad de la información, las armas autónomas (Tecnología armamentística avanzada), el estatus moral de los robots que garantice su operación de manera coherente con nuestros valores y principios fundamentales, protegiendo los derechos individuales y defendiendo las normas sociales; y el sesgo en los sistemas de IA que implica hacer un seguimiento y una evaluación  de los algoritmos de IA para garantizar que se ajusten a las directrices legales y éticas.

Con relación al desplazamiento de los puestos de trabajo y el aumento de la desigualdad económica, la maestra española propende porque se garantice una renta básica para las personas que queden desocupadas por el proceso de digitalización.

Ética o ideología. Se refiere a su último libro “¿Ética o ideología de la inteligencia artificial?”, Paidós 2024, para indicar los dilemas morales que plantea la IA, incluyendo el transhumanismo, la ética robótica, y la posibilidad de que la IA se utilice para fines ideológicos en lugar de éticos. En su parecer las nuevas tecnologías son “muy valiosas” pero deben aplicarse de manera “transparente”. “La tecnología debe buscar el bien, (Principio de Beneficencia) crear un mundo inclusivo, no perjudicar a nadie, (Principio de no Maleficencia), permitir la autonomía y la justicia”. Insiste en que cuando hablamos de autonomía habría que hablar de autonomía funcional, porque la inteligencia artificial no es autónoma. En este sentido recalca que la tecnología “debe ser explicada” a las personas que les afectan, para evitar que se tomen decisiones sobre algoritmos “opacos” y con “sesgos”, en contra de su libre decisión, de su autonomía. Es necesario instruir a la población para romper la brecha digital, agrega.

Enfoque principialista. Es claro que propone un enfoque principialista, basado en los principios de la bioética señalado por Beauchamp y Childress. Informa que en Europa ya existe un marco ético para la inteligencia artificial basada en las premisas del principalísimo, pero añade algunos otros:

Principio de explicabilidad. Sería difícil pensar en una IA justa, que no dañe a las personas, que respete la autonomía humana, si no se garantiza previamente la explicabilidad de estos sistemas.

Principio de rendición de cuentas. Se asume la responsabilidad de los resultados de los sistemas de IA. Aborda cualquier problema que surja.

Principio de protección de la naturaleza. La Inteligencia Artificial es clave para proteger el Planeta y la Crisis Ambiental.

Conclusión

Unas ideas finales de su intervención afirman que la IA es “un instrumento valiosísimo” que exige prudencia, razonabilidad y cautela para asegurar que sirva al bien humano y no lo reemplace…No cree, le parece sumamente peligroso, pensar que la IA puede solucionarlo todo: hay que evitar visiones tecnócratas que confundan innovación con panaceas”. Debe servir para mejorar la humanidad, no para deshumanizarla y llama la atención sobre el riesgo que pesa sobre la IA dominada por grandes corporaciones o países con fines geopolíticos, se vuelva injusta y excluyente.