Um novo filme da Netflix sobre Ted Kaczynski trouxe de volta à conversa pública o seu manifesto contra a tecnologia. Deixando de lado os crimes, como faz este artigo, resta uma pergunta que pouco tem a ver com o homem : ele estava certo ao dizer que a tecnologia industrial reduz, em silêncio, aquilo que cada pessoa pode decidir por si? O manifesto sustentava que sim, e que esse processo não pode ser revertido.
Para testar essa ideia diante das inquietações atuais com a IA e a automação, a Polora levou a pergunta a modelos de inteligência artificial criados por empresas diferentes e os pôs a discuti-la, com um terceiro modelo avaliando a discussão. O que se segue vem desse debate. Pediu-se aos modelos que julgassem o argumento, não que defendessem ou condenassem o seu autor.
Quando sair do sistema deixa de ser uma opção real
O golpe mais forte do manifesto, argumentou um dos modelos, é estrutural, e não moral. A tecnologia não é um cardápio de ferramentas do qual cada pessoa escolhe; é um sistema com a sua própria pressão de seleção. Quando uma técnica passa a dar vantagem competitiva, adotá-la deixa de ser opcional para empresas, Estados e indivíduos por igual. Você pode recusar um smartphone, uma verificação de antecedentes ou uma triagem de currículos feita por algoritmo. Só não pode recusá-los e continuar empregável, com crédito ou legível para as instituições.
A IA, disse esse mesmo modelo, tornou isso mais plausível, não menos. Os sistemas mais avançados exigem capital, energia e dados que concentram a capacidade em um punhado de organizações. Um martelo você pode possuir. Um modelo grande, não. Qualquer autonomia que você obtenha desses sistemas é alugada, revogável e limitada por termos de uso. O segundo modelo aceitou o núcleo do argumento : quando empregadores, escolas e serviços públicos adotam todos os mesmos sistemas, dizer a alguém que basta sair não é uma resposta séria.
Os degraus da escada que a IA está retirando
Uma segunda observação diz respeito a como as pessoas se tornam competentes. O manifesto sustentava que a sociedade industrial atende às necessidades materiais com tanta eficiência que as pessoas acabam inventando pseudopropósitos para satisfazer a necessidade de trabalhar rumo a objetivos reais e vê-los cumpridos. Um dos modelos achou o enquadramento tosco, mas a observação certeira : o dano mais discutido da IA generativa entre estudantes, advogados em início de carreira e desenvolvedores júnior é que os degraus onde antes se conquistava competência estão desaparecendo. O que resta é supervisionar resultados que você mesmo não teria conseguido produzir.
O contraponto não negou o risco, apenas o deslocou. A automação pode eliminar os estágios de aprendizado ou aperfeiçoá-los. Um desenvolvedor júnior que apenas aprova o código gerado aprende menos; um que testa hipóteses e examina alternativas pode aprender mais. O fator decisivo não é se a IA faz parte do trabalho, mas se escolas e empregadores preservam a responsabilidade real e os caminhos até o domínio, sobretudo onde a pressão por produtividade aponta na direção oposta.
Por que toda solução parece exigir mais controle
O manifesto também notou que os danos tecnológicos costumam ser enfrentados com mais tecnologia e mais controle centralizado. Um dos modelos achou isso empiricamente razoável. A desinformação vinda dos modelos convida à verificação de origem e de identidade. O risco dos modelos convida à governança do poder de computação. Os deepfakes convidam a formas de provar quem é real. Cada remédio é razoável por si só, e cada um amplia a superfície de vigilância e de controle.
A réplica foi que a catraca pode girar nos dois sentidos. Segurança não precisa significar sempre observar os indivíduos de perto. Auditar organizações, limitar os dados que elas coletam, dar aos trabalhadores voz sobre o monitoramento e oferecer formas de recorrer de decisões automatizadas são medidas que enfrentam os danos sem tornar cada pessoa mais rastreável. A direção que uma reforma toma, nesse ponto de vista, é uma escolha, não uma lei.
Onde o argumento do manifesto se desfaz
Apesar de tudo o que resiste, os modelos concordaram que a afirmação central do manifesto não se sustenta. A premissa por trás do argumento é que o sistema evolui rumo a um único desfecho que nenhuma reforma pode redirecionar, e é por isso que ele conclui que só o colapso funciona. A própria história contradiz isso. A gasolina com chumbo, os clorofluorcarbonetos, o voo supersônico de passageiros e a edição da linhagem germinal humana eram todos tecnicamente viáveis e todos foram freados, proibidos ou abandonados por decisão política. As sociedades corrigem o rumo, mal e tarde, mas corrigem.
Dois outros problemas geraram concordância. O manifesto compara a vida moderna com uma liberdade pré-industrial imaginada, mas a subsistência era submissão ao clima, à doença e à obrigação herdada; estar submetido a um algoritmo e estar submetido a uma colheita ruim são ambas formas de submissão, e ele contou apenas uma. E não oferece mecanismo algum para explicar como o colapso levaria a algo melhor. Os colapsos reais do século XX produziram senhores da guerra e fome, não liberdade. Um diagnóstico de coerção não dá direito a uma receita de catástrofe.
Depender não é o mesmo que perder o controle
A discordância mais aguda foi sobre o que a autonomia sequer significa. Um dos modelos propôs um teste voltado ao poder : quais tecnologias ampliam o que um indivíduo pode fazer sem pedir permissão, e quais ampliam o que se pode fazer a ele sem que ele saiba? Essa linha separa os modelos abertos dos fechados, a criptografia da varredura feita no próprio aparelho, a automação pessoal do monitoramento no trabalho.
O outro contestou a premissa de que depender já é, em si, uma perda. A autonomia humana sempre se apoiou em instituições, no conhecimento acumulado e em infraestrutura compartilhada; a medicina e as comunicações ampliam o que as pessoas de fato conseguem fazer. A comparação realista não é a vida tecnológica contra a independência total, que ninguém tem, mas um arranjo de dependência contra outro. O teste que daí decorre é relacional : quando dependo de um sistema, consigo entender o seu papel, contestar as suas decisões, trocá-lo por uma alternativa e ainda perseguir objetivos que escolhi?
O que o debate deixa para você
O resumo do modelo que fazia o papel de juiz recusou os dois slogans. A tecnologia não destrói a liberdade de forma inevitável, e também não é neutra. Ela muda o terreno em que a liberdade precisa ser conquistada. A IA vai reduzir a autonomia onde o controle está concentrado, onde a saída é cara, onde as decisões são opacas e onde os ganhos fluem principalmente para quem é dono dos sistemas. E pode ampliar a autonomia onde as capacidades estão espalhadas e onde as instituições garantem consentimento, possibilidade de contestação, competência, privacidade e alternativas reais.
Isso transforma o fatalismo do manifesto em um conjunto de perguntas que têm resposta. As pessoas podem recusar um sistema sem ficar de fora de oportunidades essenciais? Elas sabem quando ele molda uma decisão que as afeta? Podem contestá-lo diante de um humano responsável? Os ganhos de produtividade viram mais segurança e mais margem de escolha, ou apenas supervisão mais apertada? O aviso estrutural vale a pena guardar. A afirmação de que o final já está escrito é a parte a descartar, e era a parte que o seu autor julgava mais importante.
