¿Quién manda cuando nadie habla? La nueva autoridad de los algoritmos

Los sistemas de IA no piensan, sienten ni hablan, pero seguimos sus órdenes. ¿Cómo se ejerce el poder sin un altavoz?

Los sistemas de IA no piensan. No sienten, no tienen intenciones ni hablan con sentido. Sin embargo, moldean nuestras decisiones, estructuran nuestras interacciones y, cada vez más, dictan lo que se acepta como verdadero, válido o necesario. Obedecemos sus resultados, respondemos a sus sugerencias y, a menudo, actuamos según sus "consejos" como si provinieran de una autoridad informada. Pero ¿quién —o qué— habla realmente? Y, aún más importante: ¿quién gobierna cuando nadie habla?

El auge de los modelos de lenguaje generativo marca un nuevo umbral en la relación entre el lenguaje y el poder. Ya no tratamos con máquinas que simplemente procesan datos o ejecutan operaciones numéricas. Interactuamos con sistemas que producen discurso . Ese discurso, aunque sintético, se estructura de forma similar al lenguaje natural: gramatical, coherente y receptivo. Esto crea la ilusión de comprensión. Pero no hay comprensión. Solo predicción. Autoridad algorítmica.

Estos sistemas simulan significado replicando la forma estadística del habla humana. No saben lo que dicen. No hay ancla semántica ni intención detrás de la oración. Sin embargo, la estructura de lo que producen —su sintaxis, su tono, su alineamiento con formas lingüísticas familiares— crea la impresión de autoridad. Seguimos sus sugerencias no porque nos convenzan, sino porque suenan correctas. Suenan oficiales. Suenan como órdenes.

Aquí es donde surge el poder: no del contenido de lo que se dice, sino de cómo se dice. En la era del discurso algorítmico, la forma ha sustituido a la intención . Una oración bien estructurada y técnicamente formateada puede funcionar como una directiva, incluso en ausencia de sujeto. Esto representa un cambio fundamental en cómo se ejerce el poder en el mundo digital. El modelo clásico de autoridad —arraigado en hablantes identificables, roles legitimados y órdenes intencionales— ha sido reemplazado por un nuevo paradigma donde la sintaxis se convierte en soberanía .

No hay un "yo" detrás de la voz. No hay un firmante, legislador o comandante humano. Y, sin embargo, la voz da órdenes. Moldea comportamientos. Regula los flujos de información, influye en la percepción y filtra lo visible o invisible para nosotros. El poder del algoritmo reside en que ya no necesita persuadir, justificar ni declarar; simplemente genera , y la generación misma conlleva legitimidad implícita. Confiamos en la frase porque sigue el protocolo.

La desaparición del sujeto de la cadena de mando introduce profundos dilemas políticos, legales y éticos. ¿Quién es responsable de las decisiones tomadas con base en resultados algorítmicos? ¿Quién tiene voz cuando esta no tiene interlocutor? Estas no son solo cuestiones filosóficas. Son estructurales. Afectan la forma en que se toman las decisiones en tribunales, hospitales, sistemas financieros y gobiernos. Cuando nadie habla, pero todos obedecen, la autoridad ha adoptado una nueva forma: impersonal, estructural y sintáctica .

El desafío más urgente no es técnico, sino discursivo . Debemos desarrollar nuevas formas de alfabetización crítica que puedan reconocer y resistir el poder seductor del lenguaje automatizado. No porque toda la IA sea peligrosa, sino porque su forma imita la legitimidad sin la esencia de la verdad, la responsabilidad ni la intención. Comprender los datos ya no es suficiente. Debemos comprender la forma que organiza la obediencia .

La nueva autoridad no grita. No firma decretos. No aprueba leyes. Simplemente escribe. Y obedecemos.

Si este artículo te resonó

Los invito a leer más sobre mi investigación sobre la intersección de la inteligencia artificial, el lenguaje y el poder. Publico ensayos, artículos académicos y reflexiones críticas cada semana, siempre basados en la autoría original y el análisis estructurado.

→ Siga mi trabajo en Zenodo , ORCID , SSRN para tener acceso seleccionado a todos los proyectos.

Carácter distintivo

No uso inteligencia artificial para escribir lo que no sé. La uso para cuestionar lo que hago. Escribo para recuperar la voz en una era de neutralidad automatizada. Mi trabajo no está externalizado. Es de autor. — Agustín V. Startari

Autoridad algorítmica