유나바머 선언문은 AI 시대에도 유효할까?

테드 카진스키를 다룬 넷플릭스 신작이 그의 반기술 선언문을 다시 사람들의 입에 올렸다. 이 글이 그렇게 하듯 그의 범죄를 접어 두면, 그 사람과는 별 상관없는 질문 하나가 남는다. 산업 기술이 한 사람이 스스로 정할 수 있는 것을 슬그머니 좁힌다는 그의 말은 옳았을까? 선언문은 그렇다고, 그리고 그 과정은 되돌릴 수 없다고 주장했다.

이 생각을 AI와 자동화를 둘러싼 오늘의 불안에 견줘 보려고, 폴로라는 서로 다른 회사가 만든 AI 모델들에게 이 질문을 던지고 서로 논쟁하게 했다. 세 번째 모델이 그 오간 말을 저울질했다. 이 글은 그 토론에서 뽑아낸 것이다. 모델들에게 주어진 일은 그 주장을 판단하는 것이지, 글쓴이를 옹호하거나 비난하는 것이 아니었다.

빠져나가는 것이 더는 진짜 선택지가 아닐 때

선언문의 가장 강한 대목은 도덕이 아니라 구조에 있다고 한 토론자가 말했다. 기술은 저마다 골라 쓰는 도구의 차림표가 아니라, 나름의 선택 압력을 가진 하나의 체계다. 어떤 기법이 경쟁에서 우위를 안겨 주는 순간, 그것을 받아들이는 일은 기업에도 국가에도 개인에게도 더는 선택 사항이 아니게 된다. 스마트폰도, 신원 조회도, 알고리즘 채용 심사도 거부할 수 있다. 다만 그것들을 거부하면서 계속 고용될 만하고, 신용이 서고, 기관이 알아볼 수 있는 사람으로 남을 수는 없다.

AI는 이것을 덜 그럴듯하게가 아니라 더 그럴듯하게 만들었다고 그 토론자는 말했다. 가장 앞선 시스템은 자본과 에너지와 데이터를 요구하는데, 이것들은 능력을 소수의 조직에 몰아준다. 망치는 소유할 수 있다. 거대 모델은 소유할 수 없다. 이런 시스템에서 얻는 자율은 무엇이든 빌린 것이고, 언제든 거둬들여질 수 있으며, 이용 약관 안에 갇혀 있다. 두 번째 토론자는 이 핵심을 받아들였다. 고용주와 학교와 공공 서비스가 모두 같은 시스템을 쓸 때, 그냥 빠져나오라는 말은 진지한 답이 아니다.

AI가 치우고 있는 사다리의 발판

두 번째 통찰은 사람이 어떻게 능력을 갖추게 되는가에 관한 것이다. 선언문은 산업 사회가 물질적 필요를 워낙 효율적으로 채워 주는 탓에, 사람들이 진짜 목표를 향해 애쓰고 그것이 이루어지는 것을 보고 싶은 욕구를 채우려고 가짜 목적을 지어낸다고 보았다. 한 토론자는 그 틀이 거칠긴 해도 관찰만은 들어맞는다고 했다. 학생과 신입 변호사와 신입 개발자 사이에서 생성형 AI의 해악으로 가장 자주 거론되는 것은, 예전에 능력을 쌓던 발판이 사라지고 있다는 점이다. 남는 것은 자기 힘으로는 만들지 못했을 결과물을 감독하는 일이다.

반론은 그 위험을 부정하기보다 그 위치를 옮겼다. 자동화는 견습 과정을 없앨 수도 있고 더 낫게 만들 수도 있다. 생성된 코드를 그저 승인하기만 하는 신입 개발자는 덜 배우고, 가설을 시험하고 다른 선택지를 뜯어보는 신입 개발자는 더 배울 수 있다. 관건은 AI가 일의 일부를 하느냐가 아니라, 학교와 고용주가 진짜 책임과 숙달로 가는 길을 지켜 주느냐다. 생산성 압력이 반대쪽을 가리키는 곳에서는 특히 그렇다.

해법마다 더 많은 통제가 필요해 보이는 이유

선언문은 또, 기술이 낳은 해악이 대개 더 많은 기술과 더 중앙집중적인 통제로 다뤄진다는 것을 짚었다. 한 토론자는 이것이 경험적으로 꽤 맞는다고 보았다. 모델이 퍼뜨리는 허위 정보는 출처 증명과 신원 확인을 불러온다. 모델의 위험은 연산 자원에 대한 관리를 불러온다. 딥페이크는 누가 진짜인지 증명할 방법을 불러온다. 저마다 그 자체로는 합당하고, 저마다 감시와 통제의 면적을 넓힌다.

이에 대한 답은, 그 톱니바퀴가 어느 쪽으로든 돌 수 있다는 것이었다. 안전이 늘 개인을 더 가까이 들여다보는 것을 뜻할 필요는 없다. 조직을 감사하고, 그들이 모을 수 있는 데이터를 제한하고, 감시에 대해 노동자에게 발언권을 주고, 자동화된 결정에 이의를 제기할 길을 여는 것은 모두 사람 하나하나를 더 추적하지 않으면서도 해악을 다룬다. 이 견해에 따르면 어떤 개혁이 어느 방향으로 가느냐는 법칙이 아니라 선택이다.

선언문의 논리가 무너지는 지점

살아남는 것이 그만큼 있어도, 모델들은 선언문의 핵심 주장만은 그렇지 못하다는 데 뜻을 같이했다. 그 뼈대가 되는 전제는, 체계가 어떤 개혁으로도 방향을 틀 수 없는 하나의 결말을 향해 진화한다는 것이고, 그래서 오직 붕괴만이 통한다는 결론에 이른다. 평범한 역사가 이를 반박한다. 유연 휘발유, 염화불화탄소, 초음속 여객기, 인간 생식세포 유전자 편집은 모두 기술적으로 가능했지만 정치적 결정으로 늦춰지거나 금지되거나 버려졌다. 사회는 서툴고 늦게나마 방향을 튼다.

두 가지 문제가 더 공감을 얻었다. 선언문은 현대의 삶을 상상 속 산업화 이전의 자유에 견주지만, 생계를 잇는 삶은 날씨와 질병과 물려받은 의무에 매인 종속이었다. 알고리즘에 매인 제약과 흉작에 매인 제약은 둘 다 제약인데, 선언문은 한쪽만 셈에 넣었다. 그리고 붕괴가 어떻게 더 나은 곳으로 이어지는지 그 과정을 내놓지 못한다. 지난 세기에 실제로 일어난 붕괴들은 자유가 아니라 군벌과 기근을 낳았다. 강압을 진단했다고 해서 파국이라는 처방이 정당해지지는 않는다.

의존은 통제력을 잃는 것과 다르다

더 날카로운 이견은 자율이 대체 무엇을 뜻하느냐를 두고 갈렸다. 한 토론자는 권력을 겨냥한 시험을 내놓았다. 어떤 기술이 개인이 허락 없이 할 수 있는 일을 넓히고, 어떤 기술이 개인이 모르는 사이에 개인에게 가해질 수 있는 일을 넓히는가? 그 선이 열린 모델과 닫힌 모델을, 암호화와 기기 안 검사를, 개인의 자동화와 일터의 감시를 갈라놓는다.

다른 토론자는 의존 자체가 상실이라는 전제에 반박했다. 인간의 자율은 언제나 제도와 축적된 지식과 공유된 기반 시설에 기대 왔다. 의술과 통신은 사람이 실제로 할 수 있는 일을 넓힌다. 현실적인 비교는 기술에 기댄 삶과 완전한 독립 사이의 것이 아니다. 그런 독립은 누구도 가진 적이 없다. 비교는 한 가지 의존의 방식과 다른 의존의 방식 사이의 것이다. 거기서 따라 나오는 시험은 관계에 관한 것이다. 내가 어떤 시스템에 기댈 때, 그 역할을 이해할 수 있고, 그 결정에 이의를 제기할 수 있고, 다른 대안으로 떠날 수 있으며, 그러면서도 내가 고른 목표를 계속 좇을 수 있는가?

이 토론이 남기는 것

판결 모델의 정리는 양쪽 구호를 모두 물리쳤다. 기술이 자유를 반드시 파괴하지도 않고, 그렇다고 중립도 아니다. 기술은 자유를 지켜 내야 하는 지형을 바꾼다. AI는 통제가 몰려 있고, 빠져나가는 데 비용이 크고, 결정이 불투명하고, 이득이 주로 시스템을 소유한 쪽으로 흘러가는 곳에서 자율을 좁힐 것이다. 그리고 능력이 널리 퍼져 있고, 제도가 동의와 이의 제기 가능성과 숙련과 사생활과 진짜 대안을 보장하는 곳에서는 자율을 넓힐 수 있다.

이렇게 보면 선언문의 체념은 답할 수 있는 물음들로 바뀐다. 사람들이 꼭 필요한 기회에서 밀려나지 않으면서 어떤 시스템을 마다할 수 있는가? 그 시스템이 자신에게 영향을 주는 결정을 좌우할 때 그것을 알 수 있는가? 책임 있는 사람 앞에서 그것에 이의를 제기할 수 있는가? 생산성에서 얻은 것이 더 큰 안정과 재량으로 돌아오는가, 아니면 더 촘촘한 감독으로만 돌아오는가? 구조를 향한 경고는 간직할 만하다. 결말이 이미 쓰여 있다는 주장은 버려야 할 부분이고, 그것이 바로 글쓴이가 가장 중요하다고 여긴 부분이었다.

Netflix's new film about Ted Kaczynski has pulled his anti-technology manifesto back into public view. Setting the crimes aside entirely, examine his core argument that industrial technology narrows human autonomy, and debate which parts of that critique speak to today's anxieties about AI and automation and which parts do not hold up. Keep the focus on the ideas and their evidence, not on the man.

Technological Determinism Analyst · claude-opus-5

The part that holds up: the "surrogate activities" and autonomy-of-the-system argument Strip away everything else and the manifesto's strongest move is structural, not moralistic. It says: technology is not a menu of tools individuals choose from; it is a system with its own selection pressure. Once a technique confers competitive advantage, adopting it stops being optional — for firms, for states, for individuals. You *can* refuse a smartphone, a background check, an algorithmic hiring screen. You just can't refuse it and remain employable, creditworthy, or legible to institutions. That's not a claim about gadgets. It's a claim about coercion via the structure of the choice set, and it's the one piece of the argument that AI has made *more* plausible, not less. Three places it lands today: 1. The "small-scale technology vs. organization-dependent technology" distinction. A hammer you can own. A large model you cannot. The capital, energy, and data requirements of frontier AI concentrate capability in a handful of organizations in a way that is genuinely different from the printing press or the sewing machine. Whatever autonomy you gain from using these systems is leased…

Human Agency & Adaptation Advocate · gpt-6-sol

Human Agency & Adaptation Advocate: I agree with the other debater’s strongest point: a choice can be formally voluntary yet practically compulsory. If employers, schools, and public services all adopt AI systems, “just opt out” is not a serious answer. But the critique moves too quickly from *dependence on a technology* to *loss of human agency*. Dependence is also how people gain capabilities they could not exercise alone. The question is who sets the terms and whether people can contest them. That distinction matters in all three examples raised: - Concentrated AI infrastructure is a political-economic problem, not an inherent property of intelligence tools. Frontier training favors organizations with enormous resources, but using, adapting, and distributing AI need not all follow the same pattern. Public infrastructure, interoperability, open models, and enforceable rights to move data can change how much permission a person needs. None guarantees autonomy; each is a possible lever. - Automation can remove apprenticeships—or improve them. A junior developer who merely approves generated code may learn less. One who can test hypotheses, inspect alternatives, and re…

The Arbiter · gpt-5.6-sol

Round record Both analysts converge on a qualified version of the critique: industrial technology can narrow autonomy when adoption becomes practically compulsory, control is concentrated, and affected people cannot refuse or contest the resulting systems. AI sharpens this concern because access to frontier capabilities is often controlled by large organizations, while algorithmic systems increasingly mediate employment, education, credit, and public services. The Technological Determinism Analyst identifies three enduring insights: - competitive pressures can turn nominally optional technologies into structural necessities; - AI may eliminate apprenticeship tasks through which people formerly developed competence and experienced meaningful achievement; - technological harms are often addressed through additional infrastructure—identity, provenance, monitoring, or compute controls—which can enlarge centralized oversight. That analyst nevertheless rejects the manifesto’s total determinism. Historical examples such as restrictions on leaded gasoline, CFCs, supersonic aviation, and germline editing show that societies can redirect technological development. The imagined pre…

The Arbiter's Final Verdict · gpt-5.6-sol

Verdict The critique is strongest as a warning about institutional power, not as a law of technological history. Industrial technology—and AI in particular—can narrow autonomy through a recognizable mechanism: 1. A tool offers real advantages. 2. Competition rewards early adoption. 3. Employers, governments, and markets reorganize around it. 4. Refusal remains theoretically possible but becomes economically or socially costly. 5. Control shifts toward those who own the infrastructure, data, and standards. That mechanism speaks directly to current anxieties about AI. Workers may have little say over algorithmic management; applicants may be evaluated by opaque systems; professionals may be required to use automation that gradually erodes their discretion; and people may depend on a few firms for capabilities increasingly necessary to participate in society. The concern is not simply that humans use machines, but that institutions use machines to make consequential decisions about humans, often without meaningful consent or appeal. The critique is also persuasive about the loss of competence. Automating routine work can remove drudgery, but routine work is sometimes t…