Ética para máquinas y máquinas para la ética

Si uno desea asomarse sin vértigo pero con estupefacción al abismo de la inteligencia artificial y su relación con la ética, es preciso leer Ética para máquinas de José Ignacio Latorre, recientemente publicado por la editorial Ariel.

A pesar de que no se trata de un texto académico, como el propio Latorre nos avisa (por ejemplo, no se recoge al final la interesante bibliografía citada a lo largo de la obra y que dan ganas de leer) eso no es obstáculo para apreciar el rigor sistemático de sus argumentaciones y la exquisitez de su prosa científica; es más, su lenguaje próximo y ameno permite que lectores — sean o no especialistas en la materia — obtengan buen provecho de su lectura demostrando que la sencillez no es enemiga de la erudición ni del pensamiento complejo. No en vano Latorre es, aparte de un renombrado físico teórico, un gran divulgador científico como demostró anteriormente con Cuántica, algo que no siempre es sencillo de conciliar.

En un campo científico-filosófico que quizá algún día tome el nombre, se me ocurre, de maquinética, más que responder, de lo que se trata es de la compleja tarea de plantear preguntas que antes nadie había imaginado; es cierto que responder es más fácil que preguntar. Latorre las plantea sin titubeos para lanzárnoslas a quemarropa y sumir al lector en una intranquilidad que se reconcilia con el disfrute intelectual de pensarnos a nosotros mismos en un escenario que no tardará en llegar en el que el hombre, que desde hace cinco siglos no era el centro del cosmos, se encuentra con que ese centro sí existe y que está conformado por inteligencia artifical:

Si creamos máquinas que nos superan intelectualmente. ¿cuál es el lugar de los humanos?

página 12

Si creamos máquinas intelectualmente superiores a nosotros mismos, ¿qué significa ser humano?

página 14

¿Es la conciencia una manifestación de la complejidad de una red neuronal?

página 119

¿Quién decide la ética que ya estamos programando en las máquinas?

página 206

¿En qué pensará una inteligencia superior?

página 284

¿Tendrá un ser aumentado o una inteligencia artificial la capacidad de apasionarse?

página 289

¿Pueden imaginar una máquina inteligente e imperecedera que se cree a sí misma? ¿Qué tamaño tendría? ¿Cubriría la Tierra? ¿Existirá una única inteligencia artificial avanzada, o se darán varias?

página 242

La pregunta crucial es si podemos considerar a una inteligencia artificial avanzada como un agente moral, es decir, como un ente autónomo capaz de tomar decisiones sujetas a criterios éticos.

página 186

¿Qué criterios regirán las acciones de una superinteligencia?

página 248

Por otro lado, el autor demuestra un optimismo antropológico y maquinológico que, sin llegar al entusiasmo del Pinker de En defensa de la Ilustración, sí que alienta a adoptar con pasión el camino irreversible que la humanidad ha emprendido en las últimas décadas hacia la convivencia con máquinas que cognitivamente nos van superando.

Obviamente no cae en el buenismo ni en la ingenuidad del que se somete sin más a las máquinas; por ejemplo, nos avisa de que «no existe un solo avance tecnológico que los humanos no hayamos utilizado en contra de nuestra propia especie (p. 41); y que «cuando las máquinas logren niveles de inteligencia superiores seguramente se mofarán de lo simples que somos los humanos» (95); y que no es impensable que la inteligencia artificial aplique a los humanos la teoría del equilibrio puntuado»(262); y plantea el dilema del «adentrémonos en el transhumanismo o en la deshumanización?» (146) . Pero las muestras de optimismo son más numerosas, he aquí unas cuantas:

Devoraremos energía. Esta es la primera predicción. La segunda les va a chocar: resolveremos el problema de la energía (…). La energía no será el problema de los humanos. El problema real -creo- será ético. Nos angustiará saber a quién amamos, quien nos ama, por qué vivimos, qué sentido tiene todo.

páginas 47 y 48

Escucharemos música artificial. Veremos cuadros impresionistas artificiales, oleremos perfumes diseñados por inteligencias artificiales. Estos programas atenderán a nuestras reacciones y, poco a poco, nos ofrecerán resultados mejores. Nos sorprenderán. Tal vez un día lo creado por los humanos nos parecerá banal.

página 129

El siguiente paso, a largo plazo, será dejar el gobierno de entidades, ciudades y países en manos de inteligencias artificiales

página 142

Los mismos beneficios que se intuyen en conducción y medicina, se aplican a la política (…) Podemos erradicar la corrupción. Podemos programar la justicia.

páginas 140 y 141

Otro punto interesante es el esfuerzo que hace Latorre para que la ética, que suele ser una aspecto abstracto difícilmente aplicable, se concrete en las máquinas, proponiendo políticas y actuaciones que hagan que las próximas generaciones convivan con ellas sin perder la esencia humana y manteniendo sus sueños y aspiraciones que les constituyen como tales seres humanos:

Hay que empezar a legislar sobre los algoritmos que toman decisiones

página 163

La tecnología ha propiciado el fenómeno de aproximación entre izquierdas y derechas, que parece imparable

página 176

Es ahora, en su albor, el momento de definir las reglas éticas que supervisarán a las máquinas que ya nos rigen, y que nos regirán

página 172

La idea central es legislar la obligación de que toda inteligencia artificiial opere bajo algoritmos cuyo código sea público 209 (…). Si se denuncia una posible mala praxis de una inteligencia artificial avanzada, un comité internacional de expertos puede abrir el código, supervisarlo y corregirlo si fuera pertinente.

páginas 209 y 210

La idea de un sindicato de coches autónomos parece fascinante

página 223

Debemos intentar simular artificialmente el funcionamiento de nuestro cerebro y cómo aprende

página 102

Hemos de aprender a convivir con máquinas cuyo funcionamiento no entendemos.

página 69

Siendo un científico son notables las reflexiones filosóficas que propone Latorre. En este sentido se decanta por programar las máquinas al modo kantiano —»programar bajo el prisma de que cada acción sobre un tercero debe ser considerada como si fuera hecha sobre uno mismo» (190) —, y también programarlas desde la perspectiva aristotélica en cuanto a la importancia del saber como fin en sí mismo (199) —las máquinas deberían saber que saben—; alejándose, de este modo, del utilitarismo —»declamar el monólogo de Segismundo o hablar arameo pueden no tener utilidad pero sí definir nuestra esencia humana» (196) — y de la supermáquina que sigue la estela del superhombre nietzscheano (198).

Siguiendo esta línea ética, hay algunos puntos conflictivos que habría que discutir, como cuando Latorre asevera que «una inteligencia artificial no tiene horizonte de muerte, no desaparece; el tiempo es infinito para ella» (250). ¿Seguro que es así?, ¿no les afectaría, entonces, la muerte térmica? ¿es que cuando colapse el universo no colapsarán con él las máquinas? ¿Podrán las máquinas trascender el fin de los tiempos, el Big Crunch? Y si el tiempo no existiera ¿qué sentido tendría que fueran máquinas éticas?

En definitiva se trata de una excelente obra que ayuda a cumplir con la recomendación aristotélica que, a modo de síntesis, Latorre propone al final de su obra: «Comprender será, posiblemente, el último placer profundo al que un humano podrá aspirar» (295)

Les dejo con otras citas estimulantes de este recomendable libro:

Sin embargo este encuadre ético de la programación de máquinas me resulta problemático. ¿Denunciarían las máquinas a un refugiado político porque según Kant es malo mentir? ¿La supermáquina nietzscheana no se asimilaría al Espíritu Absoluto hegeliano que nos sumiría en una totalidad que acabaría con lo humano para diluirnos en el todo?

Lo humano reside en el procesamiento que hace nuestro cerebro, no en el mensaje, ni en el medio que lo genera, almacena o transmite 53

Un robot demasiado humano empieza a incomodarnos (teoría del Valle Inquietante) 154

Hemos creado una máquina que juega tan bien al ajedrez que se aburre al enfrentarse a los humanos 124

Los deberes humanos terminan done empiezan los de las máquinas que ostentan inteligencia artificial 230

En una sociedad controlada por las máquinas, la educación corre el enorme peligro de ir desapareciendo 232

La Singularidad precisa de sobrepasar los límites impuestos por el tejido nervioso 241

La inteligencia artificial se haría la tonta y obedecería en todo a los humanos hasta que, más adelante, desvelaría toda su ira y la dirigiría hacia nosotros 249

Es solo cuestión de pocas generaciones el ver cómo los genes violentos no aportan ninguna ventaja

página 257

Primero seremos entretenidos por las máquinas, luego seremos adictos a ser controlados por ellas.

página 259


Comentarios

Una respuesta a «Ética para máquinas y máquinas para la ética»

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *