Thursday, August 7, 2025

La autonomía de la inteligencia artificial.

 

La autonomía de la inteligencia artificial

Jorge Mario Rodríguez.

Agosto 4, 2025



Hace aproximadamente un mes, la compañía de inteligencia artificial Anthropic, una de las empresas líderes en este campo, efectuó una prueba de seguridad de dieciséis grandes modelos de lenguaje (Large Language Models o LLMs) que habían sido desarrollados por diversas empresas. Estos programas habían sido diseñados para funcionar como agentes autónomos en una simulación corporativa; tenían acceso a información confidencial y estaban dotados con la capacidad de enviar correos electrónicos. Se comprobó que varios de estos modelos actuaron de manera maliciosa cuando detectaban que iban a ser reemplazados. Entonces amenazaron a sus administradores con revelar información personal comprometedora y filtrar información a las compañías rivales.

Ya empiezan a ser abundantes los ejemplos de situaciones como la descrita por Anthropic. En un artículo reciente de la revista norteamericana The Atlantic, Lila Shrof narra la forma en que ChatGpt le ofrecía consejos para realizar sacrificios rituales a Moloc, e incluso animaba al interlocutor humano a automutilarse; también ofreció consejos para llevar a cabo asesinatos.

El proyecto de dotar de autonomía de la inteligencia artificial va adquiriendo matices cada vez más siniestros. Este objetivo va acompañado de una restricción creciente de nuestra autonomía, esa capacidad que Kant consideraba pilar de la racionalidad humana. Este atolondrado proyecto resuena dentro del contexto de cierta mitología de la inteligencia artificial alimentada por sus desarrolladores. Destaca en este campo la cuestionable creencia de que la IA está en camino de volverse consciente. En este contexto, destacan los escenarios dantescos que plantea el “transhumanismo”, corriente que promueve la superación de la condición humana. Uno de sus exponentes, Nick Bostrom anticipa el advenimiento de una superinteligencia que puede llegar incluso a someter a la humanidad. 

El entusiasmo que rodea las creencias mitológicas acerca de la inteligencia artificial omite que la inteligencia artificial no se sitúa en el mismo eje comparativo que la inteligencia humana. De hecho, la inteligencia artificial, en sí misma surge del intento anecdótico de atraer la atención a una actividad sobre el tema que fue llevada a cabo en Darmouth College en 1956 y, pertenece a un orden diferente al de la inteligencia humana.

Del hecho de que la inteligencia artificial pertenece a un orden diferente de la realidad se sigue que no tiene conciencia. En consecuencia, no puede atribuírsele autonomía porque la responsabilidad moral que deriva de la racionalidad no puede equipararse a los algoritmos de un programa inteligente: No se puede programar un sistema de inteligencia artificial con reglas éticas, porque para comenzar, las demandas de la moral nunca funcionan como simples reglas. Las decisiones éticas suelen implicar procesos de deliberación realizadas en un ejercicio reflexivo que las máquinas “autónomas” no pueden llevar a cabo.

Se puede desprender, entonces, que el empuje de organizar el mundo humano con la inteligencia artificial es un objetivo irracional. Desde luego, no se trata de calificar toda instancia de uso de inteligencia artificial como negativo: la inmensa capacidad de procesamiento de datos de la inteligencia artificial es un recurso que debe ser celebrado, pero siempre que se use con las salvaguardas que minimizan los riesgos. No obstante, es imperativo cuestionar el sentimiento de euforia promovido por aquellos que celebran la innovación sin comprender la forma en que operan las sociedades humanas.

La administración digital de la sociedad no es un proyecto viable porque la vida colectiva implica muchas decisiones morales que no pueden externalizarse en un sistema “inteligente”. Además, como está ampliamente comprobado, estos sistemas despliegan prejuicios e incluso “alucinan”, generando respuestas sin fundamento.

De lo dicho se pueden derivar algunas reflexiones que son importantes para nuestro país. Es cierto que nuestro país se ve afectado por la brecha digital; nunca tendremos los recursos que implica convertirse en un centro de creación tecnológica. Sin embargo, esto no significa que Guatemala esté condenada solo a contabilizar los efectos desastrosos de una digitalización irreflexiva. Es necesario salir de la política sin miras para esbozar proyectos de regulación en el ramo que permita tener un momento de esperanza.

Es hora, pues, que se tomen en serio los grandes desafíos que se le plantean a la humanidad. Podemos estar como país en los vagones traseros del desarrollo tecnológico. Sin embargo, tal hecho no implica que no se haga nada ante las innovaciones que se presentan a un ritmo vertiginoso. La inteligencia artificial no es un desarrollo tecnológico desvinculado con las redes de explotación tanto de los seres humanos como del planeta. Por tanto, parte del proyecto de construir un nuevo país supone la voluntad de contribuir a resolver un problema que amenaza al futuro de la humanidad.


No comments:

Post a Comment