Entrevista a Paolo Benanti

´Algor-ética para que la máquina esté al servicio del hombre´

España · G.P.T.
COMPARTIR ARTÍCULO Compartir artículo
| Me gusta 66
24 agosto 2019
La creación de inteligencias artificiales (IA) capaces de acercar cada vez más el modo de “pensar” de una máquina al humano es probablemente uno de los desafíos más complejos que esperan al hombre en los próximos años. Cuando se habla de inteligencia artificial, se habla sustancialmente de algoritmos. De la complejidad y potencia de los algoritmos y de sus secuencias deriva una inteligencia artificial más o menos evolucionada. Drones, robótica, impresión en 3D, logística, construcción y biotecnología, diagnóstico, cirugía robótica cada vez más avanzada, exoesqueletos para rehabilitación motora, automóviles con piloto autónomo, son solo algunos de los principales ámbitos de aplicación.

La creación de inteligencias artificiales (IA) capaces de acercar cada vez más el modo de “pensar” de una máquina al humano es probablemente uno de los desafíos más complejos que esperan al hombre en los próximos años. Cuando se habla de inteligencia artificial, se habla sustancialmente de algoritmos. De la complejidad y potencia de los algoritmos y de sus secuencias deriva una inteligencia artificial más o menos evolucionada. Drones, robótica, impresión en 3D, logística, construcción y biotecnología, diagnóstico, cirugía robótica cada vez más avanzada, exoesqueletos para rehabilitación motora, automóviles con piloto autónomo, son solo algunos de los principales ámbitos de aplicación.

“Una característica clave de esta nueva frontera evolutiva”, señala el padre Paolo Benanti, franciscano, profesor de teología moral y ética tecnológica en la Universidad Pontificia Gregoriana, y académico de la Pontificia Academia por la Vida, que ha pasado estos días por el Meeting de Rímini, es que “la IA no sirve para hacer algo nuevo sino que es una tecnología que cambia la manera de hacer las cosas. Como sucedió en parte con la introducción de la energía del vapor o la corriente eléctrica”. Las IA “pueden subrogar la presencia humana en ciertas acciones pero no pueden sustituir al hombre”.

El desarrollo de la IA, ¿qué impacto puede tener en la autocomprensión del hombre?

El artefacto tecnológico puede cambiar la comprensión que el hombre tiene de sí mismo y del mundo. Ya pasó en el siglo XV con la lente convexa, que dio paso al telescopio y al microscopio. En lo infinitamente lejano y lo infinitamente pequeño, la comprensión del universo y de nuestro cuerpo cambió. Hoy los ordenadores que trabajan con datos han generado un instrumento que podríamos llamar “macroscopio” y la comprensión que tenemos del mundo y de nosotros mismos está cambiando. El surgimiento de la IA ya está modificando la percepción que tenemos de nosotros, basta con pensar en las neurociencias o en los modelos de física teórica o astrofísica.

¿Qué diferencia existe entre la inteligencia humana y la de una máquina, por sofisticada que sea?

La diferencia es radical. La IA no se puede confundir con un análogo humano porque está limitada a tareas muy específicas. La relación que el hombre puede tener con la IA es la que antes tenían nuestros abuelos con los animales o la que tienen hoy los equipos de rescate con los perros de rescate.

¿Estas máquinas serán capaces alguna vez de una autodeterminación conscientemente?

No, porque la conciencia es una calidad humana y exigiría una inteligencia general y no específica, como la artificial. Exigiría que fuéramos capaces de crear no algo sino a alguien. Eso no quita que debamos llegar a tener máquinas que hagan cosas que no podamos explicar, cuyo funcionamiento complejo pudiera superar nuestra capacidad de comprensión, pero eso no las convertiría en absoluto en personas.

El Parlamento europeo planteado la cuestión de la eventual atribución de “personalidad electrónica”, es decir, derechos y responsabilidades, a los robots capaces de adoptar decisiones de forma autónoma, pero hay más de un centenar de expertos que se oponen. ¿Qué opina?

En este debate hay que distinguir tres niveles. El primero es el nivel tecnológico: llegar a entender cómo construir máquinas con un fuerte grado de imprevisibilidad. La segunda cuestión es ética: cómo gestionar dicha imprevisibilidad. Una máquina que decide por sí sola, ¿se puede equivocar? Y si se equivoca, ¿qué quiere decir hablar de responsabilidad? En el tercer nivel se sitúa la regulación jurídica que se refiere a cómo gestionar estas máquinas en la vida diaria de una sociedad que siempre estará formada por agentes humanos (personas) y agentes autónomos robotizados. El debate de la regulación europea se ha limitado al nivel jurídico, a cómo regular el uso de estas máquinas en la sociedad. Hay quien cree que atribuir personalidad jurídica a los robots no significa convertirlos en personas, pero ofrecería la posibilidad de asegurarlos y por tanto de resarcir eventuales daños provocados a personas o propiedades. Por otro lado, hay quien considera que esto eximiría a los productores de una cierta responsabilidad. La línea de fondo es que estas máquinas suponen tal novedad que las categorías tradicionales ya no bastan, hay que buscar soluciones nuevas.

¿Y por dónde empezar?

Ante todo no hay que separar la parte jurídica de la ética y la técnica. No se puede hablar de ética sin conocer los aspectos técnicos, no se puede dar una reglamentación jurídica sin principios éticos y sin un conocimiento del sustrato tecnológico. Además, hay que introducir, dentro de la relación entre la persona y el productor, entidades que emitan un certificado para el uso de estas máquinas. El segundo elemento es que estas máquinas funcionan con algoritmos, códigos que determinan cómo reaccionará la máquina. Hasta hoy, esos algoritmos son “cajas negras” protegidas con copyright. Debemos preguntarnos si es posible mantener estas cajas negras o deberíamos hacer que fueran transparentes.

En la encíclica Laudato Si’ el Papa nos pone en guardia ante el pragmatismo tecnocrático. ¿Qué tipo de ética hace falta para que esta innovación esté realmente al servicio del hombre?

No cualquier forma de progreso rima con desarrollo. Cuando hablamos de progreso tecnológico, hablamos de producción de innovación. Cuando utilizamos la palabra desarrollo, pensamos en una innovación orientada a los principios del bien común contenidos en la doctrina social de la Iglesia. La respuesta por tanto pasa por ligar el progreso al desarrollo mediante valores éticos. Un desafío especialmente complejo en el caso de la IA porque los valores sobre los que decide la máquina son valores numéricos y por tanto hay que crear nuevos paradigmas para transformar los valores éticos en algo que la máquina pueda entender.

¿De qué modo?

Mi propuesta es formular la nueva modalidad de la algor-ética.

¿Qué quiere decir?

Igual que la ética encierra en sí principios, valores y normas, del mismo modo la algor-ética deberá encerrar tablas de valores, principios y normas que traducir al lenguaje-máquina.

¿Cómo?

Un modelo puede ser el de “insinuar” dentro de la máquina una especie de incertidumbre. Desde el punto de vista algor-ético, estos significa que ante una duda la máquina interpelará al portador de la ética, es decir, al hombre, para validar sus decisiones. Esto nos lleva a crear una IA “Human Centered” (centrada en el hombre) y a desarrollar máquinas que no respondan simplemente sí o no, sino que estén integradas con el hombre y junto al hombre busquen la mejor solución.

Agencia SIR

Noticias relacionadas

El estado anímico del votante
España · Javier Folgado
A pesar de todas sus diferencias ideológicas, a María, Jesús, Daniel, Laura les preocupan más o menos las mismas cosas en su día a día....
2 julio 2021 | Me gusta 5
Un perdón real y verdadero genera memoria democrática
España · Francisco Medina
En este mundo en que vivimos, el espacio intermedio en el que cada uno de nosotros hace acto de presencia, inter-accionamos. Ejercemos nuestra posibilidad de actuar, fruto de una decisión nuestra, y podemos generar un mundo más humano… o no. Para bien o para mal, nuestras acciones pueden generar...
1 julio 2021 | Me gusta 5
Nacionalismo, Freud y principio de realidad
España · Ángel Satué
Ser español. Una identidad nacional que es premisa fundamental en mi persona. Verdadera. Compruebo que me corresponde. Como respirar y comer, como amar y soñar. ...
25 junio 2021 | Me gusta 3