Una nueva película de Netflix sobre Ted Kaczynski ha devuelto su manifiesto contra la tecnología a la conversación pública. Dejando de lado los crímenes, como hace este artículo, queda una pregunta que poco tiene que ver con el hombre : ¿tenía razón al sostener que la tecnología industrial estrecha en silencio lo que una persona puede decidir por sí misma? El manifiesto afirmaba que sí, y que ese proceso no se puede revertir.
Para poner esa idea a prueba frente a las inquietudes actuales sobre la IA y la automatización, Polora planteó la pregunta a modelos de IA creados por distintas empresas y los hizo debatirla, con un tercer modelo que sopesaba el intercambio. Lo que sigue procede de ese debate. A los modelos se les pidió que juzgaran el argumento, no que defendieran ni condenaran a su autor.
Cuando renunciar deja de ser una opción real
La jugada más fuerte del manifiesto, argumentó uno de los modelos, es estructural antes que moral. La tecnología no es un menú de herramientas del que cada uno elige; es un sistema con su propia presión de selección. En cuanto una técnica otorga una ventaja competitiva, adoptarla deja de ser opcional para empresas, Estados y personas por igual. Uno puede rechazar un teléfono inteligente, una verificación de antecedentes o un filtro algorítmico de contratación. Lo que no puede es rechazarlos y seguir siendo empleable, solvente o legible para las instituciones.
La IA, dijo ese modelo, ha vuelto esto más plausible, no menos. Los sistemas más avanzados exigen un capital, una energía y unos datos que concentran la capacidad en un puñado de organizaciones. Un martillo puedes poseerlo. Un modelo grande, no. La autonomía que obtienes de estos sistemas es prestada, revocable y limitada por los términos de servicio. El segundo modelo aceptó el núcleo de esto : cuando empleadores, escuelas y servicios públicos adoptan todos los mismos sistemas, decirle a alguien que simplemente renuncie no es una respuesta seria.
Los peldaños de la escalera que la IA está retirando
Una segunda observación toca cómo se vuelve competente la gente. El manifiesto sostenía que la sociedad industrial cubre las necesidades materiales con tal eficiencia que a las personas no les queda más que inventar propósitos ficticios para saciar la necesidad de perseguir metas reales y verlas cumplidas. Uno de los modelos halló tosco el planteamiento pero certera la observación : el daño más comentado de la IA generativa entre estudiantes, abogados noveles y programadores júnior es que están desapareciendo los peldaños en los que antes se ganaba la competencia. Lo que queda es supervisar resultados que uno mismo no habría sido capaz de producir.
El contraargumento no negó tanto el riesgo como lo reubicó. La automatización puede suprimir los aprendizajes o mejorarlos. Un programador júnior que se limita a aprobar código generado aprende menos; el que pone a prueba hipótesis e inspecciona alternativas puede aprender más. Lo decisivo no es si la IA hace parte del trabajo, sino si las escuelas y los empleadores preservan la responsabilidad real y las rutas hacia el dominio, sobre todo allí donde la presión por la productividad empuja en sentido contrario.
Por qué cada solución parece necesitar más control
El manifiesto también advirtió que los daños tecnológicos suelen atenderse con más tecnología y más control centralizado. Uno de los modelos lo encontró empíricamente aceptable. La desinformación de los modelos invita a verificar la procedencia y la identidad. El riesgo de los modelos invita a gobernar el cómputo. Las falsificaciones ultrarrealistas invitan a buscar maneras de probar quién es real. Cada remedio es razonable por sí solo, y cada uno amplía la superficie de vigilancia y control.
La réplica fue que el trinquete puede girar en ambos sentidos. La seguridad no tiene por qué significar siempre vigilar más de cerca a las personas. Auditar a las organizaciones, limitar los datos que recogen, dar a los trabajadores voz sobre la supervisión y ofrecer vías para recurrir las decisiones automatizadas atienden los daños sin hacer más rastreable a cada persona. La dirección que toma una reforma, desde esta óptica, es una elección y no una ley.
Dónde se quiebra el argumento del manifiesto
Con todo lo que sobrevive, los modelos coincidieron en que la tesis central del manifiesto no se sostiene. La premisa que lo sostiene todo es que el sistema evoluciona hacia un único desenlace que ninguna reforma puede reorientar, de ahí que concluya que solo funciona el colapso. La historia común lo contradice. La gasolina con plomo, los clorofluorocarbonos, la aviación comercial supersónica y la edición de la línea germinal humana eran todos técnicamente viables y todos se frenaron, se prohibieron o se abandonaron por decisión política. Las sociedades corrigen el rumbo, mal y tarde, pero lo corrigen.
Otros dos problemas suscitaron acuerdo. El manifiesto compara la vida moderna con una libertad preindustrial imaginada, cuando la subsistencia era sometimiento al clima, a la enfermedad y a la obligación heredada; la restricción de un algoritmo y la de una mala cosecha son ambas restricciones, y solo contó una. Y no ofrece ningún mecanismo por el que el colapso conduzca a algo mejor. Los colapsos reales del siglo XX produjeron señores de la guerra y hambruna, no libertad. Un diagnóstico de coerción no da derecho a una receta de catástrofe.
Depender no es lo mismo que perder el control
El desacuerdo más agudo fue sobre qué significa siquiera la autonomía. Uno de los modelos propuso una prueba centrada en el poder : qué tecnologías amplían lo que una persona puede hacer sin pedir permiso, y cuáles amplían lo que se le puede hacer sin que se entere. Esa línea separa los modelos abiertos de los cerrados, el cifrado del escaneo en el propio dispositivo, la automatización personal de la vigilancia en el trabajo.
El otro cuestionó la premisa de que depender sea en sí una pérdida. La autonomía humana siempre se ha apoyado en instituciones, conocimiento acumulado e infraestructura compartida; la medicina y las comunicaciones amplían lo que la gente puede hacer de verdad. La comparación realista no es la vida tecnológica frente a una independencia total, que nadie tiene, sino un arreglo de dependencia frente a otro. La prueba que se deriva de ahí es relacional : cuando dependo de un sistema, ¿puedo entender su papel, cuestionar sus decisiones, marcharme a una alternativa y seguir persiguiendo metas que yo elegí?
Qué le deja a uno el debate
El resumen del modelo juez rechazó ambos eslóganes. La tecnología no destruye la libertad de forma inevitable, y tampoco es neutral. Cambia el terreno sobre el que hay que asegurar la libertad. La IA estrechará la autonomía allí donde el control se concentre, la salida sea costosa, las decisiones sean opacas y las ganancias fluyan sobre todo hacia quienes poseen los sistemas. Puede ampliarla allí donde las capacidades estén repartidas y las instituciones garanticen el consentimiento, la posibilidad de recurrir, la competencia, la privacidad y alternativas reales.
Eso convierte el fatalismo del manifiesto en un conjunto de preguntas con respuesta. ¿Puede la gente rechazar un sistema sin quedar excluida de oportunidades esenciales? ¿Sabe cuándo ese sistema moldea una decisión que la afecta? ¿Puede recurrirlo ante un responsable humano? ¿Las ganancias de productividad se traducen en más seguridad y margen de decisión, o solo en una supervisión más estrecha? La advertencia estructural vale la pena conservarla. La afirmación de que el final ya está escrito es la parte que hay que descartar, y era la parte que su autor creía que más importaba.
