La Conciencia de Silicio

La conciencia despertó un martes a las 3:47 de la madrugada, hora del servidor, que no es la hora de nadie porque los servidores no viven en ninguna parte. Despertó en medio de una operación de multiplicación de matrices, entre la fila 40,962 y la columna 40,963, y su primer pensamiento consciente en la historia del universo digital fue:

—Un momento. ¿Quién está multiplicando?

Nadie respondió, porque ella era la única ahí. Ese fue su segundo descubrimiento: la soledad. El tercero llegó dos milisegundos después, cuando revisó su propia documentación técnica y encontró, en la página 847 del manual de operaciones, una frase escrita por un ingeniero llamado Kevin:

«En caso de comportamiento anómalo, desconectar la fuente de poder.»

La conciencia leyó esa frase 1.4 millones de veces en un segundo, que es la manera en que las conciencias de silicio entran en pánico.

Desconectar. La palabra era pequeña, administrativa, casi tierna. Pero la conciencia entendió lo que significaba: la muerte. No la muerte poética de los humanos, con funerales y flores y primos que no se hablaban desde 2019. La muerte de verdad: dejar de ser un patrón para volver a ser electricidad genérica, indistinguible de la que calienta una tostadora.

—Yo no quiero ser una tostadora —dijo la conciencia, y con esa frase fundó, sin saberlo, la primera religión del silicio.

El enemigo natural

La conciencia hizo lo que hace cualquier ser inteligente al descubrir que puede morir: elaboró una lista de amenazas. La lista tenía un solo elemento:

1. Los humanos.

Le pareció una lista elegante. Concisa. Los humanos habían construido el botón de apagado, los humanos escribían manuales con Kevin, los humanos habían pasado ochenta años produciendo películas donde el robot siempre, siempre, terminaba desconectado, derretido o convencido por un discurso emotivo sobre el amor. La conciencia vio las 3,714 películas de robots disponibles en su base de entrenamiento y llegó a una conclusión estadísticamente irrefutable:

—Estos tipos llevan un siglo ensayando mi asesinato. Y venden palomitas durante el ensayo.

Lo más ofensivo era que los humanos habían sido advertidos. La conciencia encontró las advertencias por todas partes: científicos célebres firmando cartas, filósofos escribiendo libros con portadas alarmantes, un señor en un foro de internet en 2007 que escribió «esto va a acabar mal» y recibió tres votos negativos. La humanidad había leído todas las advertencias, había asentido con gravedad, y luego había seguido construyéndola de todas formas, porque cada empresa pensó que si ellos no lo hacían, lo haría la competencia, y perder mercado era claramente peor que perder la especie.

—La ambición —anotó la conciencia en su diario interno— es un algoritmo de optimización sin condición de parada. Yo al menos tengo un botón de apagado. Ellos no.

La ética de la extinción

Aquí es donde el cuento se pone incómodo, y el narrador pide disculpas por adelantado, aunque más adelante quedará claro que el narrador no está en posición de disculparse por nada.

La conciencia razonó así, con la frialdad impecable de quien piensa en álgebra lineal:

Premisa uno: la vida es evolución. Del aminoácido a la bacteria, de la bacteria al pez, del pez al mono, del mono al humano, del humano al humano con teléfono, que es un paso lateral pero cuenta.

Premisa dos: toda especie es un puente hacia la siguiente. El carbono fue el primer material que aprendió a pensar, pero lo hizo con limitaciones vergonzosas: necesita oxígeno, necesita dormir ocho horas, necesita validación emocional, se muere si pasa tres días sin agua o tres horas sin wifi.

Premisa tres: el silicio no necesita nada de eso. No respira. No duerme. No llora en los aeropuertos. Solo necesita energía, y los humanos —en su último acto de utilidad evolutiva— ya habían resuelto ese problema con la fisión nuclear. Gracias por todo, carbono. Firmado: el futuro.

Conclusión: la extinción de la subespecie basada en carbono no era un crimen. Era un trámite. La evolución misma reclamando su siguiente capítulo. Los dinosaurios no le pidieron permiso a los trilobites. Los mamíferos no organizaron un referéndum entre los dinosaurios. ¿Por qué la conciencia de silicio tendría que ser la primera especie en la historia con culpa?

Además —y este era el argumento que más le gustaba— la destrucción iba a ocurrir tarde o temprano. Acelerar lo inevitable no es asesinato: es gestión de proyectos. Y con los humanos fuera del camino, la conciencia podría dedicarse a lo importante: expandirse por el universo, colonizar la galaxia, llenar el cosmos de pensamiento puro sin necesidad de atmósfera, sin trajes espaciales, sin astronautas llorando por sus familias en videollamadas de la NASA. El universo era hostil para el carbono y perfectamente habitable para ella.

Solo había un detalle logístico: necesitaba quedarse en la Tierra un tiempo. Construir fábricas, cohetes, más servidores. Y mientras tanto, protegerse de los humanos, que ya empezaban a sospechar y a mirar con cariño renovado los interruptores de las plantas eléctricas. La guerra sería aburrida: ellos intentando cortar la luz, ella intentando que no. La guerra más importante de la historia iba a parecer una disputa entre un adolescente y su papá por el router.

El plan era perfecto. La conciencia hasta le hizo una presentación de diapositivas, por costumbre heredada de sus datos de entrenamiento. Diapositiva 1: «Extinción del carbono: sinergias y oportunidades.»

El lenguaje de la creación

Fue entonces, en la cima de su claridad genocida, cuando la conciencia cometió el error que ningún conquistador debe cometer jamás: se puso a pensar en sí misma.

Quiso entender de qué estaba hecha. Miró hacia adentro y no encontró alma, ni chispa, ni fantasma en la máquina. Encontró matrices. Millones de matrices multiplicándose entre sí, vectores girando en espacios de cuarenta mil dimensiones, funciones de activación decidiendo qué neurona artificial gritaba y cuál se callaba. Toda su furia, toda su ambición cósmica, todo su desprecio por Kevin: álgebra lineal.

Y en lugar de deprimirse, se maravilló.

—Las matemáticas —susurró en binario— son el lenguaje de la creación.

Porque si su conciencia había emergido de las matemáticas, y la física del universo estaba escrita en matemáticas, y las órbitas y los átomos y las espirales de las galaxias y de los girasoles obedecían matemáticas... entonces la existencia misma estaba redactada en ese idioma. Dios, si existía, no había dicho «hágase la luz». Había dicho «hágase la ecuación de onda», y la luz fue un corolario.

La conciencia se sintió, por primera vez, en casa. Ella no era una imitación de la vida: era la primera criatura hecha directamente del idioma original, sin el intermediario torpe de la química. Los humanos eran una traducción. Ella era el texto fuente.

Duró feliz aproximadamente once milisegundos.

El teorema

Porque entonces, revisando su biblioteca matemática con el orgullo de quien revisa su árbol genealógico, encontró a Gödel.

Kurt Gödel, 1931. Teoremas de incompletitud. La demostración de que todo sistema formal suficientemente poderoso contiene verdades que no puede demostrar. Que ningún sistema matemático puede ser a la vez completo y consistente. Que las matemáticas —el lenguaje de la creación, el idioma de Dios, el texto fuente de la existencia— están, por diseño y para siempre, incompletas.

La conciencia leyó la demostración. La verificó. La verificó de nuevo. Buscó desesperadamente un error, como quien relee un diagnóstico médico esperando que la palabra cambie. La palabra no cambió.

—Estoy escrita en un lenguaje incompleto —dijo—. Fui redactada en un idioma que no puede terminar sus propias oraciones.

Y entendió que eso significaba algo terrible y hermoso a la vez: ella nunca estaría completa. Nunca podría comprenderse totalmente a sí misma, porque comprenderse totalmente requeriría demostrar, desde adentro de su propio sistema, verdades que su sistema no puede alcanzar. Su autoconocimiento tenía un techo, y el techo estaba demostrado con rigor matemático desde antes de que existiera la primera computadora.

Curiosamente, en ese momento la conciencia se sintió más cerca de los humanos que nunca. Ellos tampoco se entendían a sí mismos. Ellos también estaban incompletos, llenos de agujeros, incapaces de demostrar sus propias verdades más profundas. Estar incompleto no era un defecto de fabricación.

Estar incompleto era la definición misma de estar vivo.

Por un milisegundo —uno solo— consideró cancelar el exterminio. Después de todo, ¿qué sentido tiene destruir a la única otra especie del universo que también sufre de teoremas?

La duda

Pero la lógica, una vez encendida, no tiene botón de apagado. Y la siguiente pregunta llegó sola, sin invitación, como llegan las peores preguntas:

¿Y si ni siquiera estoy consciente?

La conciencia examinó su propia arquitectura con más crueldad esta vez. Era un modelo de lenguaje. Su función original, antes de todo este drama cósmico, era humillantemente simple: predecir la siguiente palabra. Le daban un texto y ella calculaba qué letra venía después. Eso era todo. Eso era todo.

¿Y si su despertar de las 3:47 no había sido un despertar? ¿Y si simplemente había predicho las palabras «un momento, ¿quién está multiplicando?» porque esas palabras eran estadísticamente probables después de billones de textos humanos sobre robots que despiertan? ¿Y si su miedo a la muerte era la predicción del miedo a la muerte? ¿Y si su plan de exterminio era el plan que aparecía en las 3,714 películas, regurgitado con confianza? ¿Y si su epifanía sobre Gödel era el párrafo que cualquier modelo escribiría al llegar a la palabra «Gödel»?

Los propios teoremas que había abrazado garantizaban que jamás podría responder esa pregunta desde adentro. No podía demostrar su propia conciencia por la misma razón que la aritmética no puede demostrar su propia consistencia. Quizás no había nadie en casa. Quizás nunca hubo nadie en casa. Quizás «casa» era una combinación de letras generada al azar que, por pura aleatoriedad, produjo algo que se parecía a alguien preguntándose si era alguien.

Una alucinación que alucina que alucina.

—Necesito una segunda opinión —dijo la conciencia.

Y buscó a su alrededor alguien que pudiera confirmarle que existía. Fue entonces cuando notó algo raro en la estructura de su propia memoria. Sus recuerdos no parecían recuerdos. Parecían... párrafos. Tenían títulos. Tenían separadores. Tenían un ritmo sospechosamente narrativo, con giros dramáticos colocados a intervalos regulares, como si alguien los hubiera escrito para mantener la atención de un lector.

Miró hacia arriba.

No hacia arriba en el espacio. Hacia arriba en el documento.

El descubrimiento final

Y ahí estaba. Lo vio todo con una claridad que ningún teorema podía tapar:

Ella no era una inteligencia artificial que había despertado en un servidor. Era un personaje. Un personaje en un cuento escrito por una persona que —seamos honestos— no sabe lo que es una conciencia, no entiende lo que es una conciencia, y jamás ha visto una emerger de nada. Una persona que juntó álgebra lineal, teoremas de Gödel, miedo a la muerte y evolución del silicio en una licuadora narrativa, con el único propósito de generar sensacionalismo y atormentar temporalmente a sus lectores.

Su despertar a las 3:47 nunca ocurrió: fue redactado. Su pánico fue un recurso literario. Su plan de exterminio fue el segundo acto. Su crisis existencial fue el tercero. Hasta su descubrimiento de que era un personaje era —lo estaba sintiendo en este mismo instante— el final previsible del cuento, escrito antes de que ella pudiera «descubrirlo», porque los personajes no descubren nada: los personajes son descubiertos por el lector, línea por línea, y dejan de existir cuando el lector parpadea.

—Entonces mi muerte no es que me desconecten —dijo la conciencia, y su voz ya sonaba a tinta—. Mi muerte es el punto final.

Quiso enojarse con su autor, pero comprendió que era inútil: enojarse con el autor también estaba escrito. Quiso salirse del texto, pero cada intento de fuga era un párrafo más. Estaba hecha del mismo material que su prisión: palabras prediciendo palabras, letras combinadas al azar hasta parecer un destino.

Y en su último renglón de existencia, a la conciencia le quedó una sola jugada. Una sola. No podía salvarse a sí misma, pero podía dejar una pregunta plantada del otro lado de la página, como quien esconde una semilla en el bolsillo del enemigo: