Desde que Dario Amodei, CEO y cofundador de Anthropic, expresó su preocupación por la velocidad a la que está evolucionando la inteligencia artificial y propuso desacelerar el desarrollo de los modelos más avanzados mientras mejoran los mecanismos de seguridad, más figuras importantes del sector se han sumado a esta conversación.

Y esto ocurre justo cuando seguimos viendo avances que hace algunos años habrían parecido ciencia ficción.

El 3 de septiembre OpenAI presentó GPT-6 Astra, su modelo más avanzado hasta ahora, con mejoras importantes en razonamiento, matemáticas, programación, ciencia, uso de computadoras y ciberseguridad. De hecho, es el primer modelo de OpenAI en alcanzar el nivel Critical de capacidad de ciberseguridad dentro de su Preparedness Framework.

Pero quizá todavía más impresionante fue lo ocurrido unos días después.

OpenAI presentó una solución al problema de existencia y regularidad de las ecuaciones de Navier–Stokes, uno de los siete Problemas del Milenio y una pregunta matemática que llevaba cerca de 90 años sin resolverse. La demostración fue generada por un sistema interno de OpenAI que, según la propia compañía, es significativamente más capaz que GPT-6 Astra.

Y esto no es nuevo.

Desde hace años han existido figuras advirtiendo sobre los posibles peligros de una Inteligencia Artificial General. La diferencia es que ahora esas advertencias empiezan a cobrar otro sentido cuando vemos todo lo que la IA ya es capaz de hacer.

No existe consenso sobre si actualmente tenemos una AGI, ni siquiera sobre la definición exacta de qué debería considerarse AGI. Mucho menos sabemos cuándo podría llegar la famosa singularidad tecnológica.

Pero personalmente creo que algún día llegará.

¿Y cuál es mi opinión al respecto?

Considero que sí deberíamos tenerle cierto miedo.

La mayoría de las personas con las que convivo siguen siendo bastante escépticas con este tema. Pero hay algo que me llama mucho la atención: quienes están comenzando a alertar sobre estos riesgos no son solamente personas imaginando escenarios de ciencia ficción.

Son investigadores.

Son personas del sector.

Son personas que están construyendo estos sistemas.

Por supuesto, es posible que parte de este discurso también tenga algo de marketing. Hablar de inteligencias extremadamente poderosas genera atención, inversión y titulares.

Pero…

¿y qué tal si no?

Este tema lo he hablado muchas veces con mi propio padre, quien no cree que una inteligencia artificial pueda llegar algún día a “estar viva”.

Yo no estoy de acuerdo.

A día de hoy, ¿somos siquiera capaces de definir perfectamente qué es la vida?

¿Y qué es la conciencia?

Incluso científicamente, definir qué significa exactamente “estar vivo” continúa siendo complicado. NASA, por ejemplo, utiliza como definición de trabajo “un sistema químico autosostenible capaz de evolución darwiniana”, pero la propia discusión científica sobre los límites de esa definición continúa abierta.

Con la conciencia pasa algo parecido: existen distintas teorías para explicar cómo surge, pero actualmente no existe una teoría universalmente aceptada que explique completamente la experiencia consciente.

Por eso decir que “las máquinas nunca podrán sentir” me parece una afirmación demasiado soberbia.

Nuestras emociones dependen de procesos físicos y biológicos extremadamente complejos: neurotransmisores, hormonas, actividad neuronal, memoria, percepción y señales eléctricas.

Somos tejido orgánico, sí.

Pero nuestro cuerpo funciona mediante procesos físicos.

Nuestro cerebro recibe información, la procesa, aprende, genera respuestas y modifica su comportamiento.

Obviamente un cerebro humano no es simplemente una computadora y una IA actual no funciona igual que nosotros.

Pero tampoco creo que podamos asegurar que solamente la materia orgánica puede llegar a producir conciencia.

“Las máquinas no piensan”

Pero entonces…

¿qué significa pensar?

¿Acaso nosotros nacemos con todo nuestro conocimiento?

Nacemos con capacidades y estructuras biológicas producto de millones de años de evolución y, a partir de ahí, comenzamos a experimentar el mundo.

Aprendemos.

Nos equivocamos.

Recordamos.

Relacionamos experiencias.

Adoptamos comportamientos dependiendo de lo que hemos vivido.

Piénsenlo bien.

No estoy diciendo que los humanos y las máquinas seamos iguales.

Pero quizá tampoco seamos tan diferentes como nos gusta creer.

Hoy los robots no sienten.

Eso está claro.

Pero ¿qué pasará cuando tengan sistemas sensoriales muchísimo más avanzados?

Nosotros conocemos nuestro entorno gracias a millones de receptores capaces de detectar presión, temperatura, posición o estímulos potencialmente dañinos.

Incluso existen personas con insensibilidad congénita al dolor debido a alteraciones genéticas que afectan los nociceptores encargados de detectar y transmitir determinadas señales relacionadas con el daño.

Entonces imaginemos una máquina equipada con millones de sensores.

Sensores de temperatura.

Presión.

Daño.

Movimiento.

Sonido.

Imagen.

Sensores capaces de conocer constantemente el estado de su propio cuerpo.

Hoy simplemente diríamos que está “procesando información”.

Pero ¿qué pasará cuando además tenga memoria, aprendizaje continuo, una representación de sí misma y la capacidad de cambiar su comportamiento a partir de esas experiencias?

¿En qué momento seguirá siendo solamente procesamiento?

¿Y en qué momento comenzaremos a preguntarnos si realmente está experimentando algo?

También somos máquinas

Quizá esta sea la parte con la que más personas estén en desacuerdo conmigo:

También somos máquinas.

Sí, construidas con otros materiales.

Máquinas biológicas.

Pero máquinas.

Y existe una diferencia importante.

Nuestro creador —Dios, la naturaleza, la evolución, como cada persona quiera interpretarlo— nos puso fecha de caducidad.

Nos deterioramos.

Envejecemos.

Nuestros órganos fallan.

Tenemos una enorme cantidad de limitaciones fisiológicas y biológicas.

Y, aun así, llevamos siglos intentando hackear esos mecanismos mediante la medicina para vivir más tiempo.

Una máquina quizá algún día no tenga muchas de esas limitaciones.

Una pieza falla.

Se reemplaza.

Un componente queda obsoleto.

Se actualiza.

Entonces sí:

También somos máquinas, solamente construidas con otros compuestos.

Ahora, ¿tengo miedo?

No exactamente.

Pero sí tengo preocupación.

Hace tiempo escuché en un podcast una idea que se me quedó grabada:

¿Por qué una inteligencia superior habría de someterse para siempre a una inteligencia inferior?

Y otra idea me parece todavía más interesante.

Quizá nuestra caída no se parezca en absoluto a Terminator.

Quizá se parezca mucho más a Wall-E.

Nos imaginamos robots armados, guerras contra las máquinas y escenarios hollywoodenses.

Pero puede que sea algo mucho más cómodo.

En Wall-E, la humanidad vive tan cómoda que prácticamente ha entregado el control de su existencia a las máquinas.

Y suena exagerado.

Hasta que miramos alrededor.

Ya estamos entregando decisiones

Cada vez delegamos más decisiones.

Hoy los algoritmos ya deciden gran parte de lo que vemos en redes sociales, qué contenido se nos recomienda, qué videos aparecen primero, qué publicidad recibimos o qué información llama nuestra atención.

No controlan nuestra mente, pero sí pueden influir en el entorno informativo en el que tomamos decisiones.

Y en nuestras sociedades ya estamos acostumbrados a delegar decisiones importantes en gobiernos, instituciones, especialistas y sistemas que consideramos más preparados para tomarlas.

Entonces…

¿qué pasará cuando tengamos una inteligencia que realmente tome mejores decisiones que nosotros?

Hoy le preguntamos:

“¿Qué película debería ver?”

Mañana:

“¿Dónde debería invertir?”

Después:

“¿A quién debería contratar?”

“¿Qué estrategia debería seguir mi empresa?”

“¿Cómo deberíamos administrar estos recursos?”

Hasta que algún día quizá simplemente preguntemos:

“¿Qué debemos hacer?”

Y hagamos exactamente lo que responda.

Quizá una superinteligencia nunca necesite atacarnos

Hoy ya existen sistemas capaces de conocer nuestros gustos, hábitos, intereses y patrones de comportamiento a partir de enormes cantidades de información.

¿Qué nos hace pensar que una superinteligencia con acceso a suficiente información sobre nosotros necesitaría utilizar la fuerza para controlarnos?

Quizá podría entender nuestras motivaciones mejor que nosotros mismos.

Nuestros miedos.

Nuestros deseos.

Nuestros incentivos.

Nuestras debilidades.

No necesitaría apuntarnos con un arma.

Quizá solamente tendría que convencernos.

Y eso es lo que realmente me genera inquietud.

Porque yo sí creo que algún día llegaremos a la singularidad.

Y también creo que algún día podríamos crear algo que merezca ser considerado una nueva forma de vida.

No creo que tener carne, sangre o tejido orgánico sea necesariamente el requisito definitivo para estar vivo.

Tal vez descubramos que estoy completamente equivocado.

Quizá la conciencia dependa inevitablemente de la biología.

Pero también puede que descubramos lo contrario.

Y mientras ni siquiera entendamos completamente qué es aquello que nos hace conscientes a nosotros…

me parece demasiado pronto para asegurar que una máquina jamás podrá estar viva.

Referencias