INTELIGENCIA ARTIFICIAL, SOCIEDAD Y PODER
Hemos confundido la fluidez verbal de las máquinas con inteligencia. Ahora llegan la factura eléctrica, la inquietud laboral, el rechazo político y una creciente desconfianza hacia sistemas cuya seguridad al hablar supera con frecuencia su capacidad para comprender.
The Economist ha dedicado su edición del 27 de junio de 2026 a este cambio de clima político. La oposición a la construcción de nuevos centros de datos constituye su manifestación más visible. Las comunidades ven aparecer enormes edificios cerrados, con un apetito voraz de electricidad, agua y capacidad de red. Detrás de las protestas por el consumo energético se esconde una inquietud mucho más amplia sobre el empleo, la educación, la privacidad, las relaciones personales y la velocidad con la que unas pocas empresas están modificando la vida social.
Demócratas y republicanos han encontrado razones distintas para llegar a una conclusión semejante.
Unos observan concentración empresarial, desplazamiento laboral y costes medioambientales. Otros perciben interferencia cultural, sesgo ideológico y máquinas entrando en el espacio familiar. Ambos sospechan que se están tomando decisiones de enorme trascendencia por otras personas (no votadas ni electas)… decisiones a gran velocidad y por parte de organizaciones que no han elegido ni controlan.
La temperatura política no debería sorprendernos.
La industria de la inteligencia artificial lleva más de tres años hablando de razonamiento, de inteligencia general y superinteligencia mientras pide a la sociedad que financie, directa o indirectamente, la infraestructura física necesaria para sostener esas promesas.
Se anunció una catedral de la cognición y empezaron construyendo centrales eléctricas.
El coste físico de una inteligencia supuestamente inmaterial
Una parte importante de la narrativa sobre la inteligencia artificial ha presentado la tecnología como algo casi incorpóreo. Hablamos de modelos, nubes, agentes y asistentes como si funcionasen en una esfera abstracta.
Pero la inteligencia artificial pesa.
Y ese “peso” se traduce en centros de datos, líneas de alta tensión, sistemas de refrigeración, consumo de agua, chips, minerales y terrenos industriales. Cuanto mayores son los modelos y más frecuente es su uso, mayor es la infraestructura necesaria para mantenerlos operativos. Y los usamos hasta para retocar fotos familiares….
Ya traté esta cuestión en mi Substack en marzo del año pasado The Energy Conundrum of Home AI, donde señalaba la contradicción entre el deseo de llevar inteligencia artificial a todos los dispositivos y el coste energético que se produce al hacerlo.
La Agencia Internacional de la Energía calcula que el consumo eléctrico mundial de los centros de datos podría superar los 945 teravatios/hora en 2030, más del doble del nivel registrado en 2024. La inteligencia artificial es el principal responsable (o culpable) de ese incremento. En Estados Unidos, los centros de datos podrían concentrar cerca de la mitad del crecimiento de la demanda eléctrica hasta el final de la década.
La eficiencia tecnológica puede reducir el consumo necesario para cada operación. Sin embargo, la historia económica recuerda que las mejoras de eficiencia no siempre reducen el consumo total. El conocido efecto Jevons describe precisamente esta paradoja: cuando una tecnología se abarata, su utilización puede crecer con tal rapidez que el consumo agregado termina aumentando.
Generar una respuesta puede requerir menos energía que hace dos años, pero hoy en día se ha masificado el uso de apps de IA y se generan miles de millones de respuestas adicionales.
Los centros de datos se han convertido así en el rostro de hormigón de un miedo abstracto.
Aun así, culpar únicamente a los edificios sería como responsabilizar a las estaciones de ferrocarril de las burbujas especulativas del siglo XIX. El problema más profundo se encuentra en las promesas que hicieron parecer inevitable y urgente semejante expansión.
Confundimos fluidez lingüística con cognición
Desde comienzos de 2023 he insistido en un error fundamental: los grandes modelos de lenguaje producen una experiencia cognitiva sin poseer necesariamente una cognición comparable a la humana.
Lo señalé en marzo de 2023, cuando escribí en el blog de Pangeanic que ChatGPT debía entenderse ante todo como un gran modelo de lenguaje. El entusiasmo inicial estaba borrando demasiado pronto la diferencia entre producir lenguaje y comprender el mundo al que ese lenguaje se refiere.
Inicialmente, ChatGPT puso a disposición de millones de personas algo que la humanidad nunca había experimentado de manera masiva: una conversación fluida, sostenida y aparentemente intencional con una máquina.
El software anterior a él mostraba con bastante claridad su naturaleza mecánica. Una calculadora calculaba. Un buscador ofrecía enlaces. Un videojuego funcionaba dentro de reglas visibles. Los primeros chatbots tardaban muy poco en revelar el guion que había detrás de sus respuestas.
Los grandes modelos de lenguaje cruzaron una frontera psicológica porque el lenguaje es nuestra principal prueba de que existe otra mente.
No podemos observar directamente la conciencia de otra persona. La inferimos a través de sus palabras, su conducta, su memoria y su relación con nosotros. Cuando una máquina escribe con sensibilidad, adapta el tono, recuerda el contexto inmediato y ofrece explicaciones articuladas, nuestros mecanismos intuitivos realizan la misma inferencia.
La máquina habla y, por tanto, algo parece estar pensando.
Esta ha sido la primera experiencia cognitiva generalizada entre seres humanos y software. Llegamos a ella sin defensas culturales, sin vocabulario preciso y sin una educación suficiente para distinguir la simulación de comprensión de la comprensión misma.
La fluidez se convirtió en un certificado falso de inteligencia.
La industria agravó la confusión mediante el lenguaje elegido para describir sus sistemas. Los modelos comenzaron a “razonar”, “entender”, “reflexionar”, “planificar” e incluso “saber”.
Procesos estadísticos de predicción, búsqueda y optimización fueron presentados utilizando el vocabulario de la vida mental humana.
Los resultados eran impresionantes, pero la interpretación de esos resultados se volvió desmesurada.
Un modelo podía resolver una pregunta compleja y fracasar ante una variación sencilla. Podía resumir con brillantez un libro inexistente. Podía redactar un análisis filosófico convincente y atribuirlo a un autor inventado. Podía superar una prueba especializada y perderse ante una instrucción elemental introducida a mitad del ejercicio.
La superficie era coherente. El interior seguía siendo irregular.
La carrera por los modelos de razonamiento multiplicó la ilusión
La aparición de los llamados modelos de razonamiento intensificó la confusión.
Estos sistemas dedican más tiempo de cálculo a cada problema. Generan pasos intermedios en una “cadena de pensamiento”, exploran posibles soluciones, comprueban resultados y utilizan técnicas de aprendizaje por refuerzo para mejorar su rendimiento en tareas donde la respuesta puede verificarse.
Los avances en matemáticas, programación y resolución estructurada de problemas son reales. Ahora bien, interpretación grandilocuente de esos avances merece más cautela.
Utilizar más cálculo antes de responder puede mejorar la búsqueda dentro de un espacio de soluciones. No garantiza una representación estable del mundo, juicio humano ni capacidad de comprender las consecuencias sociales de una decisión.
Explorar más caminos aumenta la probabilidad de encontrar una respuesta correcta. No convierte al sistema en una mente: Una carretilla elevadora puede levantar más peso que una persona sin comprender la logística de un almacén. De manera semejante, un modelo puede examinar más alternativas que un ser humano sin adquirir una concepción humana de verdad, responsabilidad o propósito.
La investigación de Apple titulada The Illusion of Thinking observó precisamente algunos de estos límites. Los modelos estudiados mejoraban en problemas de complejidad moderada, pero su rendimiento podía desplomarse al superar determinados umbrales. También mostraban dificultades para ejecutar de forma consistente algoritmos explícitos.
La conclusión razonable no invalida los modelos de razonamiento. Los devuelve al terreno de la ingeniería, donde las capacidades deben medirse junto con sus condiciones de fallo.
La carrera comercial produjo, sin embargo, una nueva avalancha de predicciones…. Los modelos sustituirían pronto a programadores, traductores, abogados, analistas, investigadores y profesores. Los agentes autónomos gestionarían empresas completas. La inteligencia artificial general dejó de presentarse como una hipótesis filosófica para aparecer como una fecha aproximada en las presentaciones de inversores.
Cada mejora en un benchmark se convirtió en una señal de que la llegada estaba próxima, aunque nadie hubiera definido con rigor el destino.
Las expectativas falsas crecieron más deprisa que las capacidades operativas.
Muchas empresas lo descubrieron mediante costosos proyectos piloto. Una demostración fluida en una reunión controlada no se transformaba automáticamente en un sistema fiable capaz de procesar miles de documentos, datos que varían, uso de varios idiomas, casos adversos y decisiones con consecuencias jurídicas.
La demostración sabía impresionar a un comité, pero la puesta en producción exigía procedencia de los datos, controles de acceso, conjuntos de evaluación, gestión de excepciones, supervisión humana, trazabilidad y registros. Y eso era harina de otro costal.
Gran parte de la decepción actual vive en la distancia entre ambos escenarios.
Las promesas se hicieron políticas
La irritación social aumenta cuando se pide a los ciudadanos que acepten costes inmediatos a cambio de beneficios todavía hipotéticos: Los centros de datos son visibles, pero la productividad que se ha prometido resulta más difícil de identificar.
La población observa nuevas demandas de electricidad, subvenciones públicas, ampliaciones de red y predicciones de pérdida de empleo. Al mismo tiempo, ve a muchas organizaciones incapaces de encontrar retornos claros en sus proyectos de inteligencia artificial.
Se crea así un contrato social muy inestable.
Una encuesta de Pew Research Center encontró una amplia diferencia entre la visión de los especialistas y la del público estadounidense. Una mayoría de ciudadanos esperaba que la inteligencia artificial redujese el número de empleos durante las siguientes dos décadas, mientras que los expertos mostraban una expectativa considerablemente menos negativa.
La ciudadanía escucha a CEOs de grandes tecnológicas anunciar sistemas que podrían superar y asumir las tareas que desempeña una gran parte de sus trabajadores. Después, esos mismos directivos se sorprenden cuando el temor al desempleo se convierte en una cuestión política.
La evidencia disponible sobre el mercado laboral sigue teniendo muchos matices.
La inteligencia artificial está cambiando algunas tareas y modificando la composición de determinados puestos. Sin embargo, los efectos agregados sobre el empleo y salarios todavía resultan difíciles de medir. Las economías se adaptan mediante nuevas funciones, cambios organizativos, inversión y respuestas humanas que los pronósticos tecnológicos suelen omitir.
La población reacciona menos a los datos laborales que a la retórica del propio sector.
Durante varios años, las empresas compitieron por describir la rapidez con la que sus sistemas sustituirían el trabajo cognitivo. Ahora parecen sorprendidas de que empleados, familias, profesores y votantes las hayan creído.
Una sociedad tiene derecho a examinar tecnologías capaces de alterar el trabajo, la educación y las relaciones personales.
La revisión se vuelve especialmente urgente cuando quienes desarrollan esas tecnologías hablan al mismo tiempo de riesgo catastrófico, superinteligencia y obsolescencia humana.
Una parte de la rebelión contra la inteligencia artificial ha sido fabricada por sus defensores más entusiastas.
Los valores de los modelos proceden de los datos y de quienes los alinean
The Economist también señala que los valores expresados por algunos modelos se alejan de los valores de buena parte de la población.
Conviene abordar esta cuestión con precisión.
Un modelo de lenguaje no posee convicciones personales escondidas detrás de la interfaz. Sus respuestas reflejan los datos de entrenamiento, los criterios de selección, las instrucciones, las preferencias de los evaluadores, las políticas de seguridad y las decisiones institucionales tomadas durante su desarrollo.
Aquello que interpretamos como el carácter moral o político de un modelo surge de una larga cadena de decisiones humanas. Los modelos entrenados y alineados en jurisdicciones diferentes se comportarán de forma distinta.
Los sistemas estadounidenses reflejan y reflejarán determinadas preferencias culturales y corporativas. Los sistemas chinos operarán bajo otro marco político y regulatorio. Una administración pública europea puede necesitar comportamientos que no coincidan con ninguno de los dos.
La contratación de filósofos por parte de grandes laboratorios de inteligencia artificial resulta interesante. La filosofía ayuda a precisar conceptos, detectar contradicciones y mejorar la calidad de las preguntas.
Pero un grupo de filósofos dentro de una empresa no puede representar la pluralidad moral de miles de millones de personas.
La sabiduría o la empatía humana no entra en un modelo mediante una campaña de contratación.
La alineación requiere datos: ejemplos cuidadosamente seleccionados, juicios expertos, pruebas adversas, diversidad cultural y lingüística, datos de preferencias, contraejemplos y conjuntos de evaluación. Y mucha ingeniería.
También requiere instituciones capaces de decidir qué valores son legítimos en cada contexto.
Un asistente médico, un tutor infantil, una aplicación militar y un servicio de información municipal no deberían compartir un régimen idéntico de alineación. Cada uno opera dentro de un ámbito distinto de autoridad, riesgo y responsabilidad.
Además, el multilingüismo añade otra capa de complejidad.
Los valores no pueden traducirse como si fuesen instrucciones de una lavadora. Palabras como justicia, dignidad, daño, privacidad, consentimiento, familia o autoridad poseen historias distintas en cada lengua y cada comunidad.
Una alineación realizada casi por completo en inglés puede exportar un determinado marco cultural. Por eso siguen comprándose datos para entrenar la IA, pero de culturas e idiomas minoritarios o de pocos recursos. El trabajo decisivo se encuentra en los datos y en la evaluación.
¿Quién seleccionó los ejemplos? ¿Qué idiomas estaban representados? ¿Quién clasificó las respuestas? ¿Qué desacuerdos quedaron ocultos bajo una puntuación media? ¿Cómo se comporta el modelo ante dialectos minoritarios, conceptos jurídicos locales o referencias culturales que no encuentran correspondencia directa en otra lengua?
Pangeanic explica esta dimensión operacional en su análisis sobre qué es la alineación de modelos y en sus servicios de alineación multilingüe y datos de preferencia humana.
Para lograr una alineación cultural, necesitamos menos metafísica y mejores operaciones de datos.
Regular sistemas, no palabras de moda
La reacción social terminará generando regulación. Queda por decidir si será inteligente.
Las normas mal diseñadas pueden consolidar el poder de las empresas más grandes, ya que solo ellas podrán asumir determinados costes de cumplimiento. Las restricciones generales sobre investigación podrían debilitar el desarrollo abierto europeo mientras dejan intactos los sistemas cerrados de otras jurisdicciones.
Regular mediante números de parámetros o etiquetas comerciales produciría leyes obsoletas antes de entrar plenamente en vigor.
Los gobiernos deberían concentrarse en los sistemas desplegados, sus usos y sus riesgos medibles.
Un modelo utilizado para redactar una invitación interna presenta un riesgo muy distinto al mismo modelo conectado a historiales médicos o autorizado para recomendar la concesión de una prestación pública.
La capacidad del modelo es relevante. El contexto determina la consecuencia.
El enfoque basado en riesgos del Reglamento Europeo de Inteligencia Artificial apunta en esta dirección, aunque su aplicación deberá evitar que el cumplimiento formal sustituya a la evaluación real del sistema.
Evaluar el riesgo en el lugar donde se utiliza
El modelo constituye una pieza dentro de un sistema más amplio formado por datos, herramientas, permisos, usuarios, interfaces y procedimientos.
Auditar únicamente el modelo equivale a inspeccionar el motor de un vehículo ignorando el conductor, los frenos y la carretera.
Exigir pruebas para las afirmaciones importantes
Quien afirme que un sistema razona, es seguro, autónomo o muy preciso debería explicar cómo ha medido esas cualidades, bajo qué condiciones y dónde aparecen los fallos.
Una puntuación en un benchmark no puede funcionar como un pagaré universal aplicable a cualquier proceso empresarial.
Hacer visible el consumo energético
Los grandes proyectos de infraestructura deberían ofrecer información creíble sobre demanda eléctrica, agua, impacto en la red y eficiencia.
Las comunidades afectadas merecen algo más que promesas de productividad futura.
Mantener supervisión humana y derecho de recurso
Cuando la inteligencia artificial influye en derechos, empleo, salud, crédito, educación o acceso a servicios, las personas necesitan una vía comprensible para cuestionar la decisión.
La supervisión humana no puede consistir en una firma ceremonial colocada después de una conclusión automática.
Exigir procedencia y evaluación
Las organizaciones deberían conocer qué datos sostienen sus sistemas, cómo se mide el rendimiento, qué idiomas y colectivos están representados y cómo se detectan los cambios de comportamiento.
Los datos de entrenamiento, evaluación y alineación, junto con referencias de calidad verificadas por expertos, funcionan como equipos de seguridad para la maquinaria cognitiva.
Proteger la pluralidad tecnológica
Los modelos abiertos, especializados, europeos y desplegados en las propias instalaciones deben seguir siendo viables.
Un mercado dominado por unas pocas interfaces remotas concentraría poder económico y reduciría las opciones culturales e institucionales disponibles.
Mantener control organizativo
Las instituciones sensibles necesitan poder operar modelos localmente, desconectarlos de redes externas, definir sus propias políticas de conservación y adaptarlos a sus normas.
La soberanía comienza cuando una organización puede seguir funcionando aunque su proveedor cambie precios, condiciones o acceso.
Los modelos pequeños y especializados ofrecen una salida más creíble
La reacción contra la inteligencia artificial podría conducir a prohibiciones torpes. También podría empujar al sector hacia una arquitectura más sensata.
El futuro no tiene por qué estar compuesto por un número cada vez menor de modelos cada vez mayores, ejecutados desde centros de datos lejanos y utilizados para cualquier tarea imaginable.
Los modelos pequeños y especializados ofrecen otra trayectoria.
Pueden entrenarse o adaptarse para funciones delimitadas, evaluarse con datos representativos y desplegarse dentro de infraestructuras controladas. Su alcance más reducido facilita la predicción de errores, disminuye los costes de inferencia y permite analizar con mayor claridad sus límites.
Un modelo especializado en clasificar documentos de seguros no necesita comentar poesía medieval.
Un sistema de traducción empresarial no necesita una personalidad entretenida ni conocimiento especulativo sobre todo internet.
Un modelo de anonimización para una administración pública necesita reconocer entidades, trabajar en varios idiomas y proteger la privacidad de manera consistente.
La limitación puede convertirse en una ventaja técnica.
La predicción refleja una realidad económica que ya se aprecia en las compras empresariales.
Las organizaciones han superado la fase de curiosidad. Quieren sistemas que puedan presupuestarse, evaluarse, gobernarse y operar bajo control.
Pangeanic trabaja precisamente en la personalización de pequeños modelos de lenguaje y en la construcción de sistemas soberanos de inteligencia artificial para tareas específicas.
Como escribí en No one is buying AI anymore. They are buying control, las solicitudes serias giran cada vez más alrededor de redes cerradas, procesamiento por lotes, rendimiento multilingüe, trazabilidad, despliegue privado e interfaces que puedan utilizar empleados corrientes.
El control se está convirtiendo en el lenguaje comercial de la inteligencia artificial porque también representa la principal ausencia en el debate social.
Las comunidades quieren controlar las decisiones sobre infraestructuras.
Los trabajadores quieren conservar alguna capacidad de decisión sobre los cambios en su empleo.
Los gobiernos quieren jurisdicción sobre tecnologías estratégicas.
Las empresas quieren controlar sus datos, sus costes y sus resultados.
Los ciudadanos quieren saber cuándo hablan con una máquina y cómo pueden cuestionar una decisión.
La rebelión social y el desplazamiento empresarial hacia sistemas pequeños, especializados y soberanos son dos expresiones de la misma demanda.
Europa debe evitar tanto el pánico como el vasallaje
The Economist advierte de que una regulación excesiva podría frenar a Occidente mientras China avanza.
La preocupación geopolítica es legítima. Sin embargo, presentar la elección como una disyuntiva entre desregulación y dominio chino constituye una simplificación peligrosa.
Europa puede construir una tercera vía: inteligencia artificial capaz, límites institucionales, investigación abierta, modelos eficientes, datos multilingües e infraestructuras controlables.
Europa no logrará autonomía tecnológica importando todos sus modelos, alquilando cada token y regulando después la dependencia resultante.
Tampoco avanzará escribiendo normas mientras descuida la capacidad de cálculo, los datos, la ingeniería y el despliegue.
La soberanía requiere capacidad.
Esa capacidad incluye datos obtenidos de forma legal y ética, conjuntos de evaluación, recursos lingüísticos, conocimiento sectorial, operaciones de alineación, infraestructura segura y profesionales capaces de convertir modelos en sistemas fiables.
Europa posee fortalezas considerables en investigación, industria, instituciones públicas y diversidad lingüística.
Su debilidad ha consistido con frecuencia en no conectar esos elementos a escala operativa.
La colaboración de Pangeanic con el Barcelona Supercomputing Center en datos de entrenamiento y alineación para modelos españoles y catalanes ofrece un ejemplo de esta capa frecuentemente invisible. Los modelos necesitan corpus preparados, instrucciones, anotación experta, evaluación humana y datos que representen adecuadamente la lengua y el contexto donde serán utilizados.
La obsesión por el tamaño de los modelos apartó la atención de esta capa esencial.
Los modelos reciben los titulares. Las operaciones de datos determinan si funcionan en un hospital, una fábrica, un ministerio o un servicio multilingüe de atención al cliente.
La alineación determina si su conducta encaja con la tarea y con la jurisdicción.
La evaluación permite saber si el sistema ha funcionado o simplemente ha producido un error con excelente sintaxis.
La carrera que merece la pena ganar consiste en construir capacidad útil, no en representar teatralmente la proximidad de una superinteligencia.
Una promesa más pequeña y una base más sólida
La reacción contra la inteligencia artificial no resulta inexplicable ni puramente tecnófoba.
Es una respuesta a la distancia entre lo que se prometió y lo que se pidió a la sociedad que aportara.
Se anunció la llegada de máquinas capaces de razonar. Los ciudadanos vieron llegar centros de datos.
Se prometió productividad mientras se hablaba de desempleo masivo.
Se ofreció asistencia personalizada y apareció la incertidumbre sobre la privacidad.
Las personas encontraron una fluidez extraordinaria y después descubrieron la frecuencia con la que esos sistemas podían inventar.
La corrección política era inevitable.
La solución exige continuar el desarrollo tecnológico con mayor rigor, atender la preocupación pública y abandonar la costumbre de convertir cada mejora técnica en una afirmación metafísica.
La industria debe moderar sus promesas y mejorar su ingeniería.
Los gobiernos deben regular los daños reales sin levantar una muralla que proteja a las empresas dominantes.
Las organizaciones deben abandonar la idea de que contratar acceso a un gran modelo equivale a disponer de una estrategia de inteligencia artificial.
La siguiente etapa dependerá de modelos diseñados para trabajos concretos, datos cuya procedencia y calidad puedan examinarse, alineación multilingüe realizada con competencia cultural, evaluación rigurosa, supervisión humana e infraestructuras que puedan poseerse y controlarse.
La historia de la tecnología lingüística nos ha enseñado una lección importante.
La fluidez representa el comienzo de la evaluación, nunca su conclusión.
Una traducción puede resultar elegante y estar equivocada.
Un chatbot puede parecer reflexivo sin poseer una concepción estable del asunto.
Una cadena de razonamiento puede ofrecer una apariencia metódica mientras oculta un proceso frágil de búsqueda.
El lenguaje ofrece a las máquinas una superficie extraordinariamente persuasiva.
La sociedad ha comenzado finalmente a mirar debajo.
Puede parecer una rebelión contra la inteligencia artificial.
Quizá sea el comienzo de una relación más adulta con ella.
Discover more from Manolito.info – Manuel Herranz en primera persona
Subscribe to get the latest posts sent to your email.