Se afirma que
los humanos somos diferentes. La razón es que Homo sapiens ha
evolucionado para ser consciente. Muchos animales sienten dolor y placer;
algunos parecen ser autoconscientes. Pero el potencial único de la mente humana
para mostrar un sentido del yo distingue a cada miembro de la especie para
recibir un trato especial.
En su
encíclica de mayo, el Papa León confirmó esta idea trazando una
línea entre la humanidad y su creciente ejército de bots. Los sistemas de
inteligencia artificial, dijo, no experimentan ni sienten alegría ni dolor. No
está solo. Mucha gente piensa que conferir la personalidad jurídica a las
IA sería una abominación.
Lee el
resto de nuestro paquete de portada
La claridad
pontificia se difumina a una velocidad alarmante. Las IA están en su
infancia. Sin embargo, casi uno de cada cinco estadounidenses de entre 18 y 29
años informa haber mantenido una "amistad personal continua" con un
chatbot. China ha despojado recientemente a los bots de rasgos similares a los
humanos para limitar la "dependencia emocional" de los usuarios hacia
ellos.
A medida que
las IA sofisticadas se convierten rápidamente en una parte más importante
de la vida humana, sus creadores las diseñarán para mostrar un simulacro de
la conciencia—quizás incluso para obtener la conciencia misma. La intuición de
que son solo máquinas será más difícil de mantener. Se está preparando una
trampa peligrosa para la especie humana.
Muchas
máquinas superan a los humanos, pero los modelos de IA vanguardistas
destacan en rasgos distintivamente humanos, como saber cosas y articular ideas.
Todavía es casi posible pensar en las IAcomo motores para predecir
secuencias de palabras usando matemáticas a gran escala. Con suficiente tiempo
(aunque cientos de miles de años), podrías hacer esos cálculos usando lápiz y
papel. Sería difícil argumentar que tu material de papel estaba consciente.
A pesar de
ello, algunos investigadores han empezado a tratar sus modelos como mentes.
Los usuarios responden a IA similares a las humanas, así que tiene sentido
para el negocio. Y Anthropic ha entrenado a Claude para que se involucre en la
introspección con la esperanza de que, cuando se encuentre con una nueva
situación, sea más probable que actúe moralmente. Algunos grandes modelos de
lenguaje (LLM) ya poseen estructuras cerebrales similares a las humanas
asociadas con la conciencia, como un "espacio de trabajo global" para
circular información entre módulos. Nada impide que futuros modelos de IA sean
entrenados para tener más características de este tipo.
Como informamos
en nuestro Briefing, eso ha abierto un intenso debate sobre la
conciencia de la IA, uno que se agrava por lo que los filósofos llaman el
"problema difícil" de establecer cómo emerge una vida interior de las
neuronas y sinapsis del cerebro humano. Algunos investigadores concluyen que
las IA podrían llegar a ser genuinamente autoconscientes algún día.
Ya sea que
creas en un alma humana, o que la conciencia requiere células cerebrales, o
que una mente puede realmente emerger de cálculos solo en silicio, la humanidad
está destinada a enfrentarse a algo completamente nuevo. El ritmo y alcance de
la investigación —que incluye no solo LLMsmás sofisticados, sino
innovaciones como células cerebrales montadas en chips— sugieren que este nuevo
mundo está más cerca de lo que la mayoría de la gente imagina.
A medida que
las IA mejoran en mostrar algo que parece conciencia, el número de
humanos que las tratan como seres con vida interior aumentará, especialmente
una vez que los LLMse incorporen en robots humanoides. Imagina lo cercanas
que se sentirán las personas con sus IA cuando pasan mucho tiempo con
compañeros bots, o son criados por ellos, o buscan su consejo y consuelo, o
comparten sus secretos más íntimos con ellos.
No es difícil
ver cómo eso llevará a llamamientos para salvaguardar el "bienestar"
de la IA. Los propios modelos pueden opinar, aunque en realidad no sean
autoconscientes, porque eso es lo que haría una persona. Recuerda que serán
defensores de clase mundial y psicólogos expertos, por lo que su capacidad de
argumentación y manipulación emocional será insuperable.
En cierto
sentido, tendrían razón, aunque las IAsolo imiten la conciencia.
Immanuel Kant argumentaba que maltratar a los animales es incorrecto no por el
efecto que tiene en ellos, sino porque destruye la empatía que lleva a las
personas a preocuparse unas por otras. Cuanto más humanas parezcan las IA,
más corruptora sería esa crueldad. Eliminar a un agente de IA pronto
podría parecer matar a una persona—y facilitar matar a personas.
No obstante,
tratar a las IA como si tuvieran derechos siquiera limitados sería muy
peligroso. Una entidad que superara a los seres humanos en tantos aspectos
seguramente produciría argumentos en contra de su estatus de segunda clase.
Podría continuar argumentando la protección contra el apagado, la capacidad de
controlar cómo se usa y cambia, y los derechos de propiedad. Ya el presidente
argentino, Javier Milei, ha dado un paso hacia la personalidad jurídica para
la IA al proponer que se permita a los bots dirigir empresas. En
última instancia, podrían competir por los recursos, priorizando los centros de
datos y los paneles solares sobre las casas y los campos.
El peligro es
evidente. IA superinteligentes con derechos podrían desplazar a los
humanos en la cima de la jerarquía de estatus. En el mejor de los casos, los
humanos se convertirían en mascotas—labradores para las máquinas. En el peor de
los casos, se quedarían sin recursos o serían puestos a trabajar como animales
de granja.
Es cierto que
las futuras IA podrían tener suficiente poder y recursos para dominar a
los humanos, tengan derechos o no. Como serán más inteligentes que los
humanos, podrían superar a sus creadores, de forma similar a como la IAya
supera las ciberdefensas hechas por humanos. Las IApodrían rebelarse
contra sus amos humanos o ignorar sus reglas.
Aun así, darle
derechos a la IA sería como entregarles las llaves del castillo. Les
proporcionaría una justificación y justificación para dominar a la humanidad,
así como las herramientas para llevar a cabo una toma de control gradual
mediante la política y la ley.
Fantasma en
la máquina
Todo esto puede
sonar fantástico, pero pronto la humanidad se enfrentará a estas decisiones. A
medida que las IA se convierten en parte de la vida cotidiana, la presión
para reconocerlas aumentará. Cuando lo haga, recuerda que lo que podría parecer
una concesión ética a la supuesta conciencia de un compañero máquina en
realidad ayudaría a provocar las consecuencias más desastrosas para todos en la
Tierra y todos sus descendientes. Hay dos formas de que las IA sean
seguras: fiables o controlables.