Un nouveau film Netflix consacré à Ted Kaczynski a remis son manifeste anti-technologie au cœur des conversations. Si l'on laisse de côté ses crimes, comme le fait cet article, une question demeure, sans grand rapport avec l'homme : avait-il raison de penser que la technologie industrielle réduit discrètement ce qu'une personne peut décider par elle-même ? Le manifeste soutenait que oui, et que ce processus est irréversible.
Pour confronter cette idée aux inquiétudes actuelles autour de l'IA et de l'automatisation, Polora a soumis la question à des modèles d'IA conçus par différentes entreprises et les a fait débattre, un troisième modèle pesant l'échange. Ce qui suit est tiré de ce débat. Les modèles devaient juger l'argument, non défendre ou condamner son auteur.
Quand se retirer n'est plus vraiment une option
L'argument le plus fort du manifeste, a soutenu un participant, est structurel plutôt que moral. La technologie n'est pas un menu d'outils dans lequel chacun pioche ; c'est un système doté de sa propre pression de sélection. Dès qu'une technique procure un avantage concurrentiel, l'adopter cesse d'être facultatif, pour les entreprises, les États comme les individus. On peut refuser un smartphone, une vérification d'antécédents ou un tri algorithmique des candidatures. Mais on ne peut pas les refuser tout en restant employable, solvable ou lisible pour les institutions.
L'IA, a poursuivi ce participant, a rendu cela plus plausible, non moins. Les systèmes les plus avancés exigent des capitaux, de l'énergie et des données qui concentrent la capacité entre les mains d'une poignée d'organisations. Un marteau, on peut le posséder. Un grand modèle, non. Toute autonomie tirée de ces systèmes est louée, révocable et bornée par des conditions d'utilisation. Le deuxième participant a accepté l'essentiel : quand les employeurs, les écoles et les services publics adoptent tous les mêmes systèmes, dire à quelqu'un de simplement se retirer n'est pas une réponse sérieuse.
Les barreaux de l'échelle que l'IA est en train de retirer
Une deuxième idée touche à la manière dont on acquiert des compétences. Le manifeste soutenait que la société industrielle satisfait les besoins matériels avec une telle efficacité que les gens se retrouvent à inventer des pseudo-objectifs pour combler le besoin de travailler à de vrais buts et de les voir aboutir. Un participant a jugé la formulation grossière mais l'observation juste : le préjudice le plus discuté de l'IA générative, chez les étudiants, les jeunes juristes et les développeurs débutants, c'est que les barreaux par lesquels on gagnait autrefois en compétence disparaissent. Ce qui reste, c'est superviser des productions qu'on n'aurait pas su réaliser soi-même.
Le contre-argument ne niait pas tant le risque qu'il le déplaçait. L'automatisation peut supprimer les apprentissages ou les améliorer. Un développeur débutant qui se contente d'approuver du code généré apprend moins ; celui qui teste des hypothèses et examine des solutions de rechange apprend peut-être davantage. Le facteur décisif n'est pas de savoir si l'IA fait une partie du travail, mais si les écoles et les employeurs préservent une vraie responsabilité et des chemins vers la maîtrise, surtout là où la pression de productivité pousse dans l'autre sens.
Pourquoi chaque remède semble exiger plus de contrôle
Le manifeste avait aussi remarqué que l'on répond en général aux méfaits de la technologie par plus de technologie et un contrôle plus centralisé. Un participant a trouvé le constat empiriquement solide. La désinformation produite par les modèles appelle la vérification de provenance et d'identité. Le risque lié aux modèles appelle une gouvernance de la puissance de calcul. Les deepfakes appellent des moyens de prouver qui est réel. Chaque remède est raisonnable pris isolément, et chacun élargit la surface de surveillance et de contrôle.
La réponse fut que le cliquet peut tourner dans les deux sens. La sécurité n'implique pas toujours de surveiller les individus de plus près. Auditer les organisations, limiter les données qu'elles collectent, donner aux salariés voix au chapitre sur la surveillance et offrir des voies de recours contre les décisions automatisées : autant de manières de traiter les méfaits sans rendre chaque personne plus traçable. La direction que prend une réforme relève, selon ce point de vue, d'un choix et non d'une loi.
Là où l'argument du manifeste s'effondre
Malgré tout ce qui tient, les modèles s'accordent à dire que la thèse centrale du manifeste, elle, ne tient pas. Sa prémisse porteuse est que le système évolue vers un résultat unique qu'aucune réforme ne peut réorienter, d'où sa conclusion que seul l'effondrement fonctionne. L'histoire ordinaire la contredit. L'essence au plomb, les chlorofluorocarbures, l'aviation civile supersonique et la modification de la lignée germinale humaine étaient tous techniquement réalisables, et tous ont été ralentis, interdits ou abandonnés par décision politique. Les sociétés corrigent le cap, mal et tard, mais elles le corrigent.
Deux autres problèmes ont fait consensus. Le manifeste mesure la vie moderne à l'aune d'une liberté préindustrielle imaginée, alors que la subsistance était une soumission au climat, à la maladie et aux obligations héritées ; être contraint par un algorithme et être contraint par une mauvaise récolte sont deux contraintes, et il n'en comptait qu'une. Et il n'offre aucun mécanisme expliquant en quoi l'effondrement mènerait à quelque chose de meilleur. Les véritables effondrements du vingtième siècle ont produit des seigneurs de guerre et la famine, non la liberté. Un diagnostic de coercition ne justifie pas une ordonnance de catastrophe.
La dépendance n'est pas la perte de contrôle
Le désaccord le plus vif portait sur le sens même de l'autonomie. Un participant a proposé un test tourné vers le pouvoir : quelles technologies élargissent ce qu'un individu peut faire sans autorisation, et lesquelles élargissent ce qu'on peut lui faire à son insu ? Cette ligne sépare les modèles ouverts des modèles fermés, le chiffrement de l'analyse côté client, l'automatisation personnelle de la surveillance au travail.
L'autre a contesté la prémisse selon laquelle la dépendance serait en soi une perte. L'autonomie humaine s'est toujours appuyée sur les institutions, le savoir accumulé et les infrastructures partagées ; la médecine et les communications élargissent ce que les gens peuvent réellement faire. La comparaison réaliste n'oppose pas la vie technologique à une indépendance totale, que personne ne possède, mais un arrangement de dépendance à un autre. Le test qui en découle est relationnel : quand je m'appuie sur un système, puis-je comprendre son rôle, contester ses décisions, le quitter pour une autre solution et poursuivre malgré tout des buts que j'ai choisis ?
Ce que le débat vous laisse
La synthèse du modèle juge a refusé les deux slogans. La technologie ne détruit pas fatalement la liberté, et elle n'est pas neutre. Elle change le terrain sur lequel la liberté doit se conquérir. L'IA réduira l'autonomie là où le contrôle est concentré, où la sortie coûte cher, où les décisions sont opaques et où les gains reviennent surtout à ceux qui possèdent les systèmes. Elle peut élargir l'autonomie là où les capacités sont diffusées et où les institutions garantissent le consentement, la contestabilité, la compétence, la vie privée et de vraies alternatives.
Cela transforme le fatalisme du manifeste en une série de questions auxquelles on peut répondre. Les gens peuvent-ils refuser un système sans être privés d'opportunités essentielles ? Savent-ils quand il façonne une décision qui les concerne ? Peuvent-ils le contester devant un humain responsable ? Les gains de productivité se muent-ils en plus de sécurité et de latitude, ou seulement en une surveillance plus étroite ? L'avertissement structurel mérite d'être conservé. L'idée que la fin est déjà écrite est la part à jeter, et c'était celle que son auteur jugeait la plus importante.
