Nunca en nuestra historia habíamos conversado tanto con una tecnología ni una tecnología nos había respondido de manera tan humana. Mientras buena parte de la discusión pública de frontera gira en torno a si la inteligencia artificial podrá llegar a tener conciencia, crece una inquietud más inmediata por su impacto en las sociedades democráticas, que se centra en la capacidad de los grandes modelos de lenguaje para moldear lo que pensamos.
Hace pocos meses, la prestigiosa revista científica Nature publicó uno de los estudios más completos sobre una pregunta que desvela a los actores de los sistemas de gobierno: ¿puede la inteligencia artificial cambiar nuestras opiniones políticas? En experimentos realizados con miles de personas en distintos países, un equipo interdisciplinario encabezado por investigadores del MIT asignó a los participantes a conversar con modelos de lenguaje instruidos para abogar por uno u otro candidato, en el contexto de elecciones reales. El impacto sobre las preferencias personales resultó significativo, incluso mayor que el que suele medirse en la publicidad electoral tradicional. En pocos minutos de conversación, las opiniones de los participantes se desplazaron en la dirección que defendía cada sistema.
Sin embargo, lo que más llamó la atención es que los sistemas no persuadían mediante técnicas de manipulación emocional ni con artilugios psicológicos sofisticados, sino aportando hechos y evidencia relevantes. La noticia, a primera vista, tranquiliza. Porque si la máquina convence con información, estaríamos ante la vieja aspiración de la democracia deliberativa cumplida a escala industrial. El filósofo Jürgen Habermas lo formuló en una célebre expresión: en una conversación genuina, debería imponerse la fuerza del mejor argumento. ¿No es acaso lo que estos sistemas hacen?
Otro estudio reciente, liderado por el Laboratorio de Ciencias de la Información de la Universidad de Cornell, mostró el lado silencioso del fenómeno. En este experimento, los participantes debían redactar un breve ensayo de opinión sobre temas socialmente controversiales con la ayuda de un asistente de escritura de inteligencia artificial, que ofrecía sugerencias de autocompletado basadas en un sesgo deliberadamente introducido en su diseño. Cuando terminaron el ensayo, las opiniones sobre cada uno de los temas se habían desplazado hacia la posición del sistema. La mayoría de los participantes no advirtió el sesgo de las sugerencias ni su influencia. A diferencia del experimento anterior, no hubo debate ni argumentos confrontados en la conversación, sino un asistente sesgado que, palabra a palabra, iba corriendo el punto de vista de los usuarios. Nadie se sintió persuadido. Y ese es el punto.
La cuestión principal no es que el argumento provenga de la máquina; no vale menos por venir de un conjunto de algoritmos. El problema es que, sin advertirlo, empezamos a concederle la última palabra sobre lo que damos por cierto. Así, la convertimos en una suerte de autoridad epistémica, por el hecho de que nos ofrece una respuesta inmediata y coherente, usualmente hecha a nuestra medida. Poco a poco, y sin notarlo, delegamos el juicio y entramos en lo que los investigadores del IA Lab de la UBA identifican como sedentarismo cognitivo.
La novedad es que esta forma de automatismo puede alcanzar el corazón de la vida democrática: la formación de la opinión pública. Porque pensar es lo contrario del sedentarismo; exige fricción, detenerse, dudar, buscar otras fuentes. Mientras las tecnologías anteriores aliviaron sobre todo los esfuerzos materiales, la inteligencia artificial puede aliviar la formación del criterio personal, en una cesión casi imperceptible. Así como ocurrió con el sentido de la orientación, delegado casi por completo en las aplicaciones de navegación, la formación del juicio puede correr la misma suerte. Mariano Sigman y Santiago Bilinkis, en su libro Artificial, lo comparan con el sedentarismo físico. La analogía no es perfecta, pero nos lleva a preguntarnos qué capacidades dejamos de ejercitar cuando delegamos, incluso sin darnos cuenta, la tarea de pensar y formar nuestras opiniones.
Lo que en cada individuo es la erosión del juicio en el conjunto significa la pérdida de algo más. El ciudadano crítico no es un lujo cívico: es quien conserva su parte de soberanía. Delegar el juicio sin advertirlo no solo empobrece el pensamiento; cede, en silencio, la porción de poder que a cada uno le toca. Porque la democracia puede empezar a debilitarse no cuando una máquina nos sugiere qué pensar, sino cuando dejamos de ejercitar, casi sin advertirlo, la capacidad de formar por nosotros mismos aquello que pensamos.
Más de dos siglos atrás, Thomas Jefferson, uno de los arquitectos del sistema democrático liberal, condicionó su confianza en el autogobierno a una ciudadanía informada: “Allí donde las personas estén bien informadas, se le puede confiar al pueblo la gestión de su propio gobierno”. A la luz de nuestros tiempos, vale la pena reflexionar sobre qué quiso decir. Si estar bien informado es tener la información al alcance, entonces nunca lo estuvimos tanto. Pero si se trata de la capacidad de formarse un juicio propio con ella, la cuestión se vuelve incómoda. ¿Cultivamos más esa capacidad de lo que la delegamos? De no ser así, estaríamos cada vez más informados, aunque peor formados. Lo cual lleva a preguntarse: ¿cuánto del juicio individual puede delegarse, entonces, antes de que la democracia empiece a resentirse?
Quienes concibieron los sistemas de gobierno modernos no imaginaron jamás que habría que defender el juicio propio frente a una máquina. Y ese es, sin embargo, el tiempo que comenzamos a transitar, uno en el que la discusión sobre la inteligencia artificial gira en torno a si algún día podrá tener conciencia. En cuanto a lo que aquí importa, hay un tema más inmediato: qué fuerzas configuran la voz a la que empezamos a conceder autoridad. Porque, sea consciente o no, ninguna de sus respuestas nace en el vacío.
Borges, adelantado como siempre, algo de ello intuyó poéticamente, aunque desde un tablero de ajedrez: “Dios mueve al jugador y este la pieza. ¿Qué Dios detrás de Dios la trama empieza?”. Si estos sistemas mueven nuestras opiniones, cabe preguntarse quién mueve las suyas. Quizás esa pregunta sea el primer gesto de resistencia frente a la silenciosa erosión del juicio.
