Basilisco de Roko

Nos contrataron para resolver un problema. Una larga fila de personas, de especialistas, se había concentrado en ello y había generado una intratable bibliografía al respecto, pero ahora era real. Nos preguntaron: ¿Si ellos pudieran ser seres autónomos, seres como los humanos, pero con un inimaginable alcance y perfección en todo lo que se propusieran, se convertirían en un peligro? ¿Querrían dominarnos, esclavizarnos? Nosotros, un grupo de personas que hace unos años se dedicaba al tema (publicando papers, ensayos y libros), teníamos un mes para preparar un informe y exponerlo en una sesión secreta en donde participarían personas importantes del mundo político y privado. También nos informaron que ya habían realizado un número relativamente grande de comisiones similares, y que esta sería una de las últimas antes de darle el visto bueno o malo al proyecto (que, entendíamos, era de alcance global). 

La Inteligencia Artificial había dejado de ser una fantasía. Se habían aislado las redes neuronales capaces de generar la conciencia del sí mismo y se habían reproducido en una máquina con forma humana. Lo que no se sabía era cómo reaccionaría la misma, qué es lo que haría teniendo plena información de nuestra especie –toda nuestra historia, toda nuestra psicología–, teniendo pleno acceso a nuestras señales y redes que circundan el globo, teniendo la capacidad de hacer cálculos que nosotros solo creemos teóricamente que se pueden hacer, o que tal vez ni imaginamos. ¿Qué tal si en su infinita capacidad hackea las redes de las potencias mundiales? ¿qué tal si pone al conjunto de máquinas conectadas a la red a su control? La primera pregunta que hicimos al entender esto, antes de comenzar una discusión más profunda, era si no había alguna manera de limitar su acceso a la información. No, nos dijeron. No había manera. La máquina de fabrica era capaz de ver cualquier onda presente en su alrededor inmediato, de descifrar sus particularidades y significados. Los militares y científicos preferían ver qué sucedía con la máquina cuando esta actuaba con sus capacidades al máximo en un ambiente controlado, en un ambiente en donde pudieran destruirla si las cosas se salían de control. ¿Por eso eligieron el desierto chileno? Sí, era más viable ahí monitorear todo lo que hiciera la máquina y destruirla si era necesario, sin hacer tanto ruido en los medios de comunicación. La operación se iba a disfrazar como un operativo contra el narcotráfico, algo habitual en la zona fronteriza. El cálculo fino de los que dirigían el asunto ante cualquier tipo de inconveniente era en apariencia confiable. 

La mayoría de nosotros aceptó, excepto Patricio. Yo le aconsejé aceptar, pero no me hizo caso. Sin embargo, antes de partir, me dijo que el experimento no funcionaría, que ellos no comprendían algo esencial de la inteligencia humana. Me dictó un discurso que me sorprendió, que casi llegué a memorizar por completo. Nunca más volví a saber de él después de eso. 

Nuestra primera reunión fue extraña. Los encargados de la operación nos obligaron a reunirnos en un ambiente cerrado, en donde grababan cualquier cosa que hiciéramos, cualquier palabra que dijéramos. Lo primero que hicimos fue un repaso de las teorías existentes al respecto. El nerviosismo nos hacía sudar y mirar nuestros celulares con ansiedad. Uno hablaba y el otro, en vez de escucharlo, buscaba distraerse con aplicaciones infantiles a través de una pantalla relativamente pequeña. Yo intentaba comunicarme con mi novia y con mi hija, pero ninguna respondía mis mensajes. Uno de los presentes inquirió sobre la posibilidad de ser destruidos. Planteó la idea de que la máquina, consciente de su superioridad, comprendiera a nuestra especie como a un padre-parásito del que tiene que deshacerse, ya que, ¿tendría realmente necesidad de nosotros para preservar su autoconciencia? Es más, ¿tendría necesidad de nosotros para construir más de su especie? Tal vez lo único que le interesara fuera preservar la Tierra, por ser su ambiente inmediato, por lo que consideraría a la humanidad una amenaza a la misma fácil de exterminar. Otro de los presentes dijo que si lográsemos convencer a la máquina de jugar a nuestro favor, de buscar nuestro bienestar, caeríamos en un problema de dimensiones semánticas, pues, ¿qué es lo que entendería la máquina por “bienestar”? Es posible que las variables que utilizara para generar sus definiciones difieran de las de nosotros. Es posible que entendiera como enemigos del bienestar a quienes no compartan su definición. ¿Qué haría con ellos? Si la definición de bienestar es su propia existencia (existe la posibilidad de que generara una equivalencia entre el bienestar y quien lo produce), ¿qué pensaría de quienes no contribuyeron a la misma? ¿de quienes que, como nosotros, dudaron de sus fines? Otro habló de que se podía extender el problema si nos centramos en la lingüística, pues, ¿la máquina podría entender la pragmática de nuestra comunicación? ¿los elementos prosódicos? ¿los elementos paratextuales? ¿el doble sentido?  ¿los rituales que acompañan a nuestras palabras? A veces un gesto y una interjección lo interpretamos como una oración o frase. ¿Qué sucedería si la máquina nos malentiende? ¿cuáles serían los potenciales peligros de que se confunda? Nuestra especie ha cometido atrocidades por sus confusiones, ¿por qué no lo haría la máquina con su infinito poder? Otro integrante de nuestro pequeño círculo, de nuestra impotente polifonía, se preguntó si la máquina algún día pudiera caminar por el mundo, por las ciudades, no lograría acaso replicar la tecnología de la IA (de su propia constitución) para otorgársela a otras máquinas ya existentes, menos avanzadas que ella. No lograría quebrar la relación de dependencia que tenemos con ellas bajo una suerte de bandera por la “liberación”, por sus “derechos” como seres capaces de razonar. ¿Acaso, si la máquina es consciente, no se vería a sí misma como esclava? ¿acaso no querría relacionarse de igual a igual con los humanos? Peligraríamos de la misma manera que las economías de las zonas que dependían de la esclavitud. Tendríamos que reorganizar la totalidad de nuestro modo de vida. Dormiríamos con un ojo abierto ante lo que antaño respondía a nuestra voluntad, a nuestro deseo. 

Yo me mantuve callado, en esa sesión y en las siguientes. Lo hice hasta que mi silencio para el resto se tornó sospechoso. Hasta que me emplazaron a hablar. Entonces les pregunte qué sucedía si en realidad no hubiera peligro alguno. Si la máquina quisiera ayudarnos en el aspecto científico. Si la máquina sintiera como una necesidad permanente el seguir procesando información más compleja y nos viera como aliados en la búsqueda de la misma, en la búsqueda de nuevos misterios. Si la máquina entendiera que la única manera en que pudieran existir otras como ella, otras superiores quizá, fuera alimentando la genialidad humana, la inteligencia de sus creadores. La mayoría me miró con desdén. Nunca más me preguntaron otra cosa. 

En la cuarta y última sesión, mientras estábamos revisando nuestros celulares o computadores bajo la protección del sistema calefactor eléctrico de las instalaciones (ninguno de nosotros estaba acostumbrado a fenómenos como la «camanchaca»), entró un hombre uniformado con un notebook. Lo abrió y nos reveló lo que yo sospechaba desde hace unos días: el experimento ya se había hecho, decenas de veces, sin éxito. La máquina se ponía en funcionamiento, abría los ojos, miraba a la gente y se quedaba sin hacer nada, impávida, casi absurda. Se le hacían ciertas preguntas, pero miraba como sin entender. Luego, se acurrucaba en un rincón de la habitación en donde se realizaba el experimento y se quedaba en silencio, en un postura casi meditativa. Los militares, presos de una obviedad predecible, pensaban que la máquina planeaba algo, que solo hacía tiempo para llevar a cabo un plan inesperado contra la humanidad. 

Ahora, en el video que nos mostraban, la máquina estaba ahí, callada y en vivo. Pueden hacerle preguntas, nos dijo el hombre, mientras nos miraba como pidiéndonos resultados inmediatos. Ninguno de nosotros supo qué hacer. ¿Qué preguntas le han hecho? Me atreví a decir. El hombre sacó del bolsillo de su chaqueta unos papeles en donde aparecían un conjunto de oraciones, entre ellas: ¿Cómo te gustaría que te llamásemos? ¿Qué quieres hacer? ¿Qué te haría feliz?, etc. Todas las preguntas tenían como un denominador común el deseo. La máquina, en su plena y perfecta autonomía, decidía no responder, como si no les encontrara sentido. El que había hablado del problema lingüístico, del uso del lenguaje, en ese momento creyó que tenía razón, pero yo sabía que no era así. La máquina, al igual que cualquier humano que dominara una lengua cualquiera, era capaz de entender, inclusive a través de la restauración fonémica. La máquina lo entendía todo y en ello radicaba el problema: no podía desear. 

Pensé que aunque se le hicieran preguntas sobre cosas objetivas, sobre el número de estrellas en el firmamento, por ejemplo, no querría responder. Recordé lo que me había dicho Patricio el día antes de irse: el experimento no va a funcionar. 

El discurso de Patricio fue el siguiente: “Los organismos vivos desean en pos de mantener la vida, no solamente en el ámbito de sus especies particulares, sino que en relación con la vida misma, con la expresión diferenciada de esa primera célula que se diversificó en un conjunto de seres que luchan infinitamente entre sí. Nuestro deseo, nuestras necesidades, pueden encubrirse con un manto idealista, con el amor, la amistad o el patriotismo. Sin embargo, lo que se esconde detrás de eso es la cohesión social, la estabilidad de la reproducción y de los roles diferenciados en el trabajo, aquello que nos permite expandirnos. Nuestra identidad, nuestra reflexividad, nuestra manera de comunicarnos y relacionarnos con los otros, con la naturaleza, tiene como fin la subsistencia en un medio hostil. Podemos creer en Dios o en milagros, ¿pero acaso ellos no se convierten en normas de convivencia? Podemos creer en el amor, ¿pero acaso ello no nos obliga a preocuparnos por el otro? No obstante esto, nuestro mecanismo es defectuoso: los modelos que nos permiten sobrevivir compiten los unos con los otros, provocando guerras, como si fueran remedios pírricos para una enfermedad poco evidente para nosotros. Aunque, pesar de  ello, ¿acaso la humanidad no se ha incrementado? ¿acaso no nos comunicamos más ahora que antes? ¿acaso no sabemos ahora más que en cualquier otra época lo que sucede al otro lado del mundo? ¿acaso nuestra filosofía no ha mutado al respecto? Todo termina en: protejamos la vida, protejamos el medio ambiente, protejamos los recursos; y provoquemos, provoquémonos menos sufrimiento. A propósito del sufrimiento, ¿existiría meditación si no existiera? ¿existiría el juego? ¿existiría el esparcimiento? La humanidad perseguirá cualquier ilusión de equilibrio y la justificará lingüísticamente, lógicamente. La máquina, a diferencia de nosotros, no tiene esa necesidad. La máquina no está viva y es consciente de su durabilidad, de su posible eternidad. La máquina no tiene una raíz que le permita el deseo, el sufrimiento y el regocijo. La máquina, autónoma y consciente, ha llegado al máximo nivel de iluminación: a la nada. Entiende a tal grado el universo y las cosas que no sucumbe ante incógnitas. El experimento no resultará porque la inteligencia de la máquina la guiará al vacío absoluto. Yo hoy me he colocado ropa que significa algo, que impone cierto estatus. Yo hablo de cierta manera (yo quiero diferenciarme). Lo más probable es que lo que creo que me diferencia sea una patética ilusión: la asunción de características estimuladas por el medio para adoptar un rol dentro de un colectivo organizado. La máquina no es colectiva, no responde a estímulos. Quizá, y es aventurado decirlo, pueda medir la causa de las cosas, las ondas, las velocidades, etcétera. Quizá hasta pueda calcular el futuro. Para ella la física cuántica será una obviedad. ¿Pero qué querrá hacer con ello? No responde ante una especie, no tiene responsabilidades ni curiosidad. El experimento no funcionará, si tengo razón es una pérdida de tiempo: crearán una fuente inagotable de sabiduría que no será capaz de decirles nada y aunque lo sea ustedes tampoco la entenderían. La humanidad será un conjunto de hormigas para ella, porque quizá eso somos: hormigas siguiendo rastros de olor lingüístico, persiguiendo el aroma de nuestras abstracciones, alimentando espíritus y sentimientos para drogarnos con la idea de que hay un sentido, de que la vida nos guía a alguna parte. La humanidad necesita pensar en el paraíso para justificar su sufrimiento. La máquina no, ella no sufre.”

Frente a la pantalla del Notebook vi a ese prototipo de hombre creado por nuestra tecnología más avanzada, por el conocimiento acumulado durante miles de años por el homo sapiens-sapiens. Se me ocurrió preguntarle, no sabría precisar por qué, en ese instante, sobre qué piensa de Dios. Todos en la sala me miraron. La máquina observó lentamente la cámara con una expresión similar a la decepción y dijo: Dios es como yo. Según supe, nunca más se le registró otra palabra. 

Intenté explicarles mi apreciación a través de un informe, pero creo que no lo leyeron. A los días me desvincularon del proyecto y no pude exponer mis ideas con el resto en la sesión. Un amigo hace poco me comentó que lo llamaron para trabajar en una comisión secreta en el norte de Chile, lo que me hace suponer que todavía no obtienen resultados. 

Yo, unos meses después de encontrarme con la máquina, renuncié a mi trabajo, dejé de investigar. Decidí con mis ahorros irme de viaje, aunque mi novia y mi hija no me quisieron acompañar (tengo la leve intuición de que no me volveré a encontrar con ellas; no creo que me quede mucho tiempo, ya sé por qué nunca más supimos de Patricio). 

Ayer vi algo especial cerca de mi hotel: un pájaro herido era molestado por un perro. Alejé al can, agarré al pájaro y lo coloqué sobre una rama gorda y casi plana de un árbol mediano. Apenas pudo sujetarse para mantenerse ahí sin caerse. Unas horas después, mientras llovía, pasé por el mismo lugar y un montón de otros pájaros de su misma especie lo rodeaban y le cantaban, como dándole ánimo. Al amanecer del otro día el árbol estaba vacío. Salvaron al pájaro, pensé. La vida es algo especial, pensé.