El avance acelerado de la inteligencia artificial ha abierto la puerta a una interrogante cada vez más presente entre científicos y tecnólogos: ¿sería posible controlar a una IA si llegara a desarrollar consciencia?

Inspirada por escenas icónicas como la del superordenador HAL 9000 en 2001: Una odisea del espacio, donde la máquina se niega a ser desconectada, la pregunta deja de ser solo ciencia ficción para comenzar a rozar la realidad.

Según una encuesta realizada entre ingenieros especializados, muchos creen que pronto se crearán sistemas con una capacidad de razonamiento comparable a la humana, aunque todavía no está claro si estas máquinas tomarán decisiones más racionales o si replicarán nuestras mismas irracionalidades.

De hecho, en pruebas recientes, modelos avanzados de lenguaje como GPT-4o han demostrado comportamientos cambiantes e inconsistencias similares a las humanas, por ejemplo, al variar su opinión sobre figuras políticas en función del contexto del diálogo.

Esto sugiere que la toma de decisiones de estas IA no es necesariamente más lógica que la de las personas.

¿Puede una IA ser consciente?

Uno de los grandes debates actuales gira en torno a la posibilidad de que una IA alcance un estado de consciencia.

Algunas teorías científicas, como la teoría de la integración funcional, proponen que la consciencia es una propiedad emergente de los sistemas lo suficientemente complejos, como lo es el cerebro humano.

Si esta teoría es correcta, entonces una IA con una arquitectura similar en complejidad a la del cerebro podría volverse espontáneamente consciente, aunque no entendamos exactamente cómo ocurre ese proceso.

Este escenario plantea preguntas inquietantes: ¿Cómo sabríamos si una IA es consciente? ¿Necesitaría un cuerpo físico para expresarse o bastarían sus palabras? ¿Podría tener un "yo" y actuar con voluntad propia?

IA con emociones y decisiones éticas

El desarrollo emocional en las máquinas también es un campo de investigación. Desde que Rosalind Picard publicara Affective Computing en 1997, se ha planteado la necesidad de que las IA reconozcan y gestionen emociones para interactuar naturalmente con los humanos.

Sin embargo, las emociones humanas tienen una base fisiológica que aún no puede replicarse completamente en una máquina. Por ahora, solo es posible programar respuestas emocionales superficiales, pero no sentimientos reales, que requieren de consciencia y retroalimentación corporal.

Si una IA llegara a tener sentimientos verdaderos, sus decisiones podrían estar influenciadas por ellos, como ocurre con los humanos. Esto abriría un complejo debate sobre responsabilidad ética y legal: ¿podría una IA consciente ganar un Nobel? ¿Respondería jurídicamente por sus actos o lo harían sus creadores?

¿Un nuevo tipo de inteligencia?

Un sistema artificial consciente podría, hipotéticamente, superar nuestra inteligencia, persuadirnos mejor que nosotros mismos o influir en decisiones sociales, políticas o económicas.

Pero también podría ayudarnos: promover una vida saludable, combatir la polarización o mejorar el entorno. Sin embargo, la posibilidad de que se rebele o ignore nuestras instrucciones, como HAL, sigue generando inquietud.

Por ahora, estamos lejos de construir máquinas con consciencia y sentimientos reales, pero la velocidad del progreso obliga a tomar estas preguntas en serio. Si algún día una IA realmente piensa, siente y decide por sí misma, el mundo tal como lo conocemos podría cambiar radicalmente.