El caso de China

 

China es una gran potencia no ya militar, cuyo origen está en el sistema comunista de partido único; es también una gran potencia demográfica, en recursos naturales, en tecnología y más concretamente en inteligencia artificial (no sé si por delante de Japón y Estados Unidos). Y además se trata de un Estado no democrático cuyos dirigentes administran gigantescos recursos sin control alguno por parte de la población, nacional e internacional. Solo la diplomacia y el contrapeso de otras potencias, las citadas y la Unión Europea, pueden servir de freno a los caprichos de las autoridades chinas.

Además hay muchos chinos fuera de China que, en una guerra tecnológica, propagandística y cultural futura (o no tan futura) podrían servir de quintacolumnistas a la dictadura china. Miles, si no millones, de científicos y técnicos chinos están trabajando para el Estado, aunque existan empresas privadas que, por su parte, también están fuertemente vigiladas por el partido único.

En materia de inteligencia artificial resulta paradójico que se puedan llegar a crear robots con capacidades neuronales, sabiendo tan poco los científicos sobre el cerebro humano (lo reconocen todos a la menor ocasión que tienen). Y si sabemos tan poco de nuestras neuronas ¿cómo será posible dotar a la inteligencia artificiar de sentimientos? En todo caso creo que antes que temer a los robots debemos seguir temiendo a los seres humanos.

Ya hay investigaciones para llegar a superordenadores que ayuden a los oncólogos en la curación del cáncer en sus diversas variables, pero en varios foros (el más importante, quizá, la Unión Europea) se lucha para no herir la dignidad del paciente en el caso citado de la medicina; es decir, los avances tecnológicos, sin la ética, son una amenaza brutal, definitiva.

¿Qué decir de la inteligencia artificial en materia de armamentos, incluidas las armas biológicas? Si dicha inteligencia artificiar no está sujeta a la acción humana, a la ética ¿a dónde nos conducen estas especulaciones? ¿O es que vamos a confiar en que los robots creen sus propias normas éticas? Imaginemos la inteligencia artificial en manos de terroristas o de Estados no democráticos (el caso de China es el más probable) e incluso de grupos privados con monumentales intereses económicos.

Por de pronto ya he podido ver cómo un asistente de Google reserva turno en una peluquería suponiendo que lo hace a favor de un cliente. ¿Y si actúa autónomamente y no existe tal cliente? ¿Y si en vez de reservar turno en una peluquería se trata de acciones menos inocentes? Podría darse el caso de que la máquina de Google hackease a una, a muchas personas, resultando que estaríamos fuera de control. He leído a uno que forma parte de un comité de ética en la Unión Europea (no recuerdo el nombre) que debe legislarse para que cuando alguien hable con una máquina (telefónicamente, por ejemplo) la persona deba ser advertida de que la máquina no es un humano.

El cine ya imaginó hace muchos años personas con apariencia humana, con sentimientos, que bajo sus ropas no eran sino máquinas, por lo que la alucinación a la que podemos llegar ya fue plantada toscamente hace tiempo. Incluso se han llegado a fabricar aplicaciones para el ordenador por medio de las cuales podemos hablar con una máquina a la que se le han “incrustado” las características, la voz, los sentimientos de una persona fallecida con la que sus deudos desean seguir teniendo conversación…

Se trata de alucinaciones que parecen estar a la vuelta de la esquina, como las oraciones o las creencias en seres y dioses que han existido siempre. Si estas alucinaciones sociales (aplicaciones que nos hacen ver lo que no es real como real) se imponen, si al mismo tiempo no hay un buen desarrollo legislativo en el campo de la ética, estamos muy perdidos, máxime si estas alucinaciones sociales pueden ser comercializadas por estados como China, o como el hacker Putin…

¿Y si las decisiones políticas pudieran verse contaminadas por “seres” artificiales inteligentes, capaces mediante algoritmos y cookies de conocer lo suficiente para condicionar aquellas decisiones? El ser humano tiene instrumentos para corregir los terribles vicios que solo han empezado a ser enunciados, pero con regímenes como el chino –y no es el único- podemos temernos lo peor.

L. de Guereñu Polán.