Nuevos oráculos digitales

“En la relación homo + machina sapiens debemos preguntarnos cuál es el rasgo específico del hombre y el lugar de la especificidad de la máquina. Necesitamos una respuesta ética para entender qué decisiones humanas podemos delegar en la máquina y cuál es el papel de la máquina en el seno de esta decisión. La manera de indicarle a la máquina cuáles son las normas importantes para el hombre es lo que yo llamo algor-ética. El bien debe convertirse en un valor numérico que la máquina pueda computar”. Son palabras del franciscano Paolo Benanti, profesor de Teología Moral y Bioética en la Universidad Gregoriana, en el Meeting de Rímini sobre creatividad humana e inteligencia artificial, conciencia y algoritmos.

“Tenemos nuevas realidades que asociamos de un modo realmente religioso al pedirle respuestas, como si fueran oráculos que hablan de nuestra vida. El oráculo que en Delfos, según Heráclito, no habla y significa. El oráculo que en vuestro motor de búsqueda no habla ni calla, pero significa la correlación que existe entre los datos. La aproximación data-driven implica creer y por eso es de tipo religioso, y convierte a la máquina en un oráculo que ofrece verdades sobre mi propia vida. De hecho, si nos fijamos, una de las mayores bases de datos se llama Oracle”. La tesis, para los que conocen los textos de este filósofo y religiosos, es evidente, pero para los que lo oyen por primera vez suena rompedora.

Compartía mesa en el Meeting con el presidente y delegado de administración de IBM Italia, Enrico Cereda, quien señaló que “la inteligencia artificial sin duda tiene un gran impacto desde el punto de vista laboral, ético y moral”, pero que se utiliza como “inteligencia aumentada, es decir, como apoyo al hombre y a su actividad en todos sus procesos”. Que “las tecnologías exponenciales deben apoyar la acción del ser humano en todas sus actividades” y que “el quantum computing revolucionará nuestra forma de colaborar con las máquinas”, aparte de que “la IA seguramente acabará sustituyendo varios puestos de trabajo y tendrá impacto en el 100% de los empleos”.

Entre las diversas publicaciones del padre Benanti, una de las más recientes habla del homo faber, algo que resulta extraño si pensamos que el problema actual es que las máquinas cada vez controlan más todo lo que antes quedaba relegado a la actividad manual, al conocimiento, a la paciente obra artesanal que ha hecho crecer al hombre durante siglos, y a las economías de las diferentes sociedades. Pero el tema es de hecho mucho más amplio y se refiere a lo que hoy se plantea como un auténtico cambio de época. “Cuando hablamos de homo faber, hablamos de la conciencia que tenemos como especie. Nuestra mediación con la realidad viene dada por un artefacto tecnológico. Nosotros transmitimos conocimientos y competencias no con el ADN sino mediante artefactos”.

“Cuantas más técnicas tengamos con gran capacidad de predicción, menos capaces seremos de explicar el porqué de tal previsión. Parece una inconsciencia artificial, y quien produce todo eso se plantea la pregunta sobre el malestar que sentimos. Sabemos hacer pero estamos perdiendo el porqué”. Benanti explicó que los algoritmos de predicción, que para entendernos son los que proceden de los instrumentos de la IA, cuando se aplican a las decisiones de los consumidores, no solo predicen un comportamiento sino que también lo provocan, como sabe cualquier experto en marketing desde el momento en que intenta vender un producto. “Aplicados a los objetos, estos algoritmos nos dicen cuándo se romperán; aplicados a las personas, generan comportamientos”.

Un punto central del discurso de este religioso es que “en la realidad social ya no existe la persona física o jurídica sino un nuevo actos social, que es la persona algorítmica, que tiene capacidad para moverse en contextos sociales pero no está regulada por ningún dispositivo legal. Lo que pensemos dependerá también de cómo queramos normalizar la interacción social de estos algoritmos”. Benanti habla de época de malestar porque los cambios que estamos produciendo modifican nuestra concepción de nosotros mismos, de la realidad y de nuestras correlaciones sociales. “La premisa es que la realidad ya no está fundada según criterios absolutos, como antes, cuando se miraba al fin, o a las causas físicas que están detrás de diferentes cuestiones, sino que es fruto de una serie de creencias producidas por una serie de datos”. Por tanto, son los propios datos los que explican la realidad, y no al contrario.

Aquí el religioso abre una nueva página, y se limita a esto porque el tema es verdaderamente amplio y está demasiado descuidado por gran parte de la literatura contemporánea, que se trata de la diferencia entre dato e información. No todos los datos son informaciones y no todas las informaciones equivalen a datos. “Hemos producido una capacidad técnica tan fuerte que tiene unas raíces filosóficas diminutas, porque no hemos indagado en el poder de la información para modificar nuestra concepción de la realidad, que es total. Un objeto existe porque está, como un archivo mp3 existe en vuestro teléfono móvil. ¿Entonces qué significa existir en la era de la información? ¿Y para qué sirve una información? Esta manera de explicar la realidad es muy poco filosófica, y cuando la filosofía desaparece, volvemos al mito y al enfoque religioso. De modo que algunas de las preguntas más importantes de mi existencia se verán guiadas por un enfoque religioso aplicado a los sistemas informativos”. Una condición que se podría sintetizar con una frase muy oportuna: “En vez de ‘conócete a ti mismo’ hoy debemos decir ‘conoce tus datos’. Conocer tus datos te dirá la verdad de ti mismo”.

“Estamos cambiando el porqué y necesitamos una reflexión que no sea solo técnica, para hablar de este porqué necesario desde nuestra condición humana”. Hasta el punto de que, ahondando en el pensamiento racionalista de un siglo XX que, desde esta perspectiva, parece cada vez más lejano, “psicólogos evolucionistas dicen que el oráculo de la inteligencia artificial nos desvela la verdad sobre el hombre, y que entonces también las emociones podrían ser tan solo una serie de algoritmos biológicos. Pero si la máquina se humaniza, el hombre se mecaniza, y se convierte cada vez más en un proceso semi-determinista, equivalente a un código genético al que no se deja espacio para distinguir entre un acto humano y un acto mecánico. Lo que queremos hacer se tendrá que entender desde el punto de vista filosófico y antropológico, supone un desafío antropológico pero también un nuevo e inédito desafío ético para que ese bien que buscamos lo pueden realizar el hombre y estos nuevos actores sociales que son los algoritmos. De nuevo necesitamos un porqué”.