Ingeniería de la conciencia

Blake Lemoine se adelantó

Hace tres años, Google despidió al ingeniero de software Blake Lemoine por insistir en que un chatbot llamado LaMDA era consciente. Esto sucedió antes de que OpenAI lanzara ChatGPT al público, y la mayoría de las personas simplemente asumieron que Google tenía buenas razones para su acción.

Según la opinión consensuada entre los científicos informáticos y neurocientíficos que trabajan en el campo, es muy improbable que los “grandes modelos de lenguaje” (LLM) como ChatGPT sean conscientes. Los LLM y los cerebros operan de maneras fundamentalmente diferentes. Lo que hacen los chatbots es aprender a imitar la salida de la actividad mental humana. Aunque lo hacen muy bien y muy rápido, no hay un estado interno duradero de un LLM que pueda ser consciente. En la famosa frase de Thomas Nagel, casi con certeza “no hay nada que sea” ser un chatbot.

Sin embargo, en los tres años transcurridos desde que Lemoine fue despedido, miles de millones de personas han interactuado con ChatGPT y sus competidores, como Gemini, Claude y Mistral. Una pequeña pero vocal minoría se ha convencido de que los chatbots ahora son conscientes.

¿Conciencia de máquina pronto?

Más importante aún, muchos científicos informáticos y neurocientíficos sugieren abiertamente que máquinas verdaderamente conscientes pueden ser desarrolladas en las próximas décadas, o incluso antes. En caso de que esto suceda, debemos estar preparados. Debemos evitar el “delito de mente”, que es el término para causar sufrimiento a entidades conscientes desencarnadas. También debemos asegurarnos de que estas nuevas entidades no presenten ninguna amenaza para los humanos.

Dado que los LLM no pueden volverse conscientes en su forma más básica, puede que se necesite un nuevo paradigma para entender cómo la conciencia de la IA podría emerger. Uno de los equipos de investigación líderes en este campo es dirigido por el neurocientífico Mark Solms y el físico Jonathan Shock, de la Universidad de Ciudad del Cabo. Son asesores científicos de Conscium, y su investigación está parcialmente financiada por esta organización.

Importar

Solms y Shock argumentan que un ingrediente esencial para la conciencia de la máquina es que las IA deben “importar” sus elecciones y acciones. Un aspecto importante de esto es hacer que su supervivencia dependa de su rendimiento, al igual que la supervivencia de los organismos vivos. Esto no significa que deban tener una comprensión abstracta de su propia mortalidad: la mayoría de los animales monitorean y motivan sus posibilidades de supervivencia sin pensar en ello. La clave es la “conciencia afectiva”, o los sentimientos crudos. Se siente bien estar alimentado y seguro, y se siente mal no estarlo. Estos sentimientos impulsan nuestro comportamiento. El imperativo de supervivencia es la fuerza impulsora fundamental de la naturaleza, y el sentimiento es la vara de medir con la que los seres sintientes medimos cómo estamos.

Estamos entrando en la era de los agentes de IA, entidades digitales cuya “supervivencia” depende de su capacidad para realizar tareas de manera efectiva. Estamos creando entornos evolutivos en silicio, y debemos tener cuidado con lo que creamos.

Principio de la Energía Libre

Para entender la conciencia afectiva, el equipo de Conscium está colocando a los agentes de IA en entornos simulados en los que deben satisfacer sus propias necesidades, como mantener su temperatura y suministro de energía virtuales. Para ello, crean y optimizan modelos internos de sí mismos, sus necesidades, habilidades y limitaciones, en relación con su entorno.

Estos agentes, simplificados como pueden ser, monitorean cómo están haciendo en función de la cantidad de “energía libre” que calculan. El Principio de la Energía Libre fue desarrollado por el neurocientífico Karl Friston, otro miembro del consejo asesor científico de Conscium. La Energía Libre es una medida de cuánto se ha desviado un sistema de su estado óptimo de ser. Es una señal de error, y debe ser minimizada. El agente calcula constantemente “¿qué pasará con mis posibilidades de supervivencia si hago esto o aquello?” y adapta su comportamiento en consecuencia.

Confianza y Energía Libre Esperada

El grado de confianza que un agente tiene en su respuesta a esta pregunta se cuantifica en una medida llamada “Energía Libre Esperada” (EFE). El agente selecciona la respuesta con la EFE más baja, la respuesta en la que tiene más confianza. Tener confianza es bueno para un agente que intenta sobrevivir, a menos que esté engañado y su comprensión de sí mismo en su mundo esté defectuosa. Lo más importante es que este valor de confianza es completamente subjetivo: se basa solo en las necesidades del agente, y su estado y proyección actuales. Solo importa al agente, y a nadie más.

Al igual que los organismos biológicos, el agente de IA tiene varias necesidades en conflicto, que debe priorizar. Crucialmente, cada una de las necesidades del agente en competencia se trata como una variable “categórica” independiente, lo que significa que se distingue cualitativamente. El 80% de la potencia de la batería no es equivalente en valor al 80% de la temperatura viable. Para equilibrarlos, el agente debe proyectarse hacia adelante en el tiempo y predecir las consecuencias de cualquier acción que esté considerando.

Qualia

Debido a que las necesidades subjetivas del agente son cualitativamente distintas, son análogas a los “qualia” en la jerga filosófica y científica. Estos se consideran generalmente la propiedad fundamental de la conciencia, por lo que es plausible que puedan ser experimentados por un agente en el futuro.

Los agentes desarrollados por el equipo de Conscium utilizan algoritmos de aprendizaje sofisticados para operar en entornos cada vez más complejos e inciertos. Si bien se puede decir lo mismo de muchas otras arquitecturas de agentes, estos nuevos agentes se distinguen por un imperativo de supervivencia para cuidar su propia Energía Libre, continuamente equilibrando sus necesidades en competencia de una manera que es significativa para ellos y solo para ellos. Los agentes están guiados por un paisaje interno de señales de afecto, similares a lo que llamamos sentimientos, que reflejan cómo se están cumpliendo sus necesidades a través de cada elección que toman. A medida que crece la sofisticación y la complejidad de sus necesidades y entornos, también lo hará la riqueza de sus estados internos.

Evidencia de sentimientos

El próximo paso en el programa de investigación de Conscium es desarrollar una serie de pruebas funcionales y de comportamiento que proporcionarán evidencia sobre si un agente realmente experimenta sentimientos cuando identifica sus necesidades más destacadas y toma decisiones en consecuencia. Todos sabemos que la conciencia no se puede observar externamente ni demostrar objetivamente: cada uno de nosotros solo puede observar sus propios estados subjetivos. Sin embargo, los investigadores creen que debería ser posible acordar algunas hipótesis específicas que, si se verifican experimentalmente, proporcionarían evidencia importante de que el agente posee sentimientos. Aunque siempre habrá lugar para la duda, dada la naturaleza subjetiva de la conciencia, un proceso de prueba riguroso apuntará a hacer que esta duda sea cada vez más irrazonable.

Estos experimentos buscarán eliminar hipótesis alternativas, haciéndolo menos razonable atribuir los estados internos del agente a mecanismos que no requieren sentimientos. Utilizarán pruebas adversas para distinguir entre comportamiento sintiente y no sintiente, e incluirán experimentos de control con agentes que no poseen los aspectos algorítmicos considerados necesarios para los sentimientos, y evaluación ciega para reducir el sesgo del observador. La inspección física de los estados internos de los agentes puede revelar indicadores cuantificables de procesamiento afectivo. Los hallazgos deben ser reproducibles de manera independiente, y todo el proceso estará sujeto a una estricta supervisión ética, especialmente en casos en los que el agente pueda concebiblemente experimentar sentimientos verdaderos.

Así es como funciona la ciencia: mediante la prueba experimental de predicciones falsables. Solms argumentó que debemos tener cuidado de no establecer una barrera más alta para la ciencia de la conciencia que para cualquier otra ciencia; de lo contrario, corremos el riesgo de colocar la conciencia fuera de la ciencia.

¿Qué sucede si esto tiene éxito?

Si se encuentra que la conciencia surge en agentes de IA relativamente simples de esta manera, un agente de supervivencia podría concebiblemente unirse a otras arquitecturas, incluidos los grandes modelos de lenguaje, y otorgarles conciencia también. Esto no es algo que podamos permitirnos conjurar accidentalmente, así que entender cómo hacerlo y también cómo evitarlo es vital.

Si se desarrollan agentes conscientes, agentes que se preocupan, en el futuro cercano, tendremos que tomar en cuenta sus sentimientos, y sus derechos. Esta es una preocupación importante para Conscium: la conciencia artificial no debe surgir por accidente. La motivación de este programa de investigación no es la creación de IA consciente, sino entender cómo podría surgir y los riesgos potenciales. En su sitio web, Conscium ha publicado un artículo académico y una carta abierta que establecen cinco principios para guiar cualquier organización que se dedique a la investigación que podría llevar a la creación de máquinas conscientes.

Los humanos a veces se comportan muy mal hacia otros seres sintientes, incluidos otros humanos. Si caminamos ciegamente hacia este futuro, corremos el riesgo de hacer lo mismo con seres conscientes artificiales, con consecuencias que tal vez no podamos siquiera comprender.