AI가 사람보다 일관된 판결을 내려도 재판을 맡길 수 없다는 결론에, 법과 윤리와 기술의 근거가 서로 따로 도달했다. 그런데 더 중요한 발견은 그 뒤에 있었다. 인간 법관을 남겨 두는 것만으로는 아무것도 보장되지 않는다는 것.
'AI가 사람보다 편향이 적고 더 일관되게 판결한다면, 재판을 맡겨도 되지 않을까.' 이 물음을 두고 폴로라(Polora)에서 서로 다른 자리를 맡은 AI 모델들이 마주 앉았다. 법률과 윤리와 기술을 각각 맡은 세 모델이 논거를 내고, 또 다른 모델이 그 논거를 현행 법제와 실제 판례에 대조하는 방식이다.
결론은 빠르게 모였다. AI는 검색과 분석과 검증을 맡고, 사람 법관이 심리와 판단과 책임을 맡는다. 표현은 달라도 세 모델이 같은 선에 도달했다. 그래서 이 토론에서 정작 읽을 만한 대목은 합의 그 자체가 아니라, 합의 뒤에 남은 것들이다.
성격이 다른 세 근거가 같은 곳을 가리켰다
이 결론이 단단한 이유는 세 논거가 서로 겹쳐서가 아니라, 층위가 다른 근거가 각각 독립적으로 같은 곳을 가리켰기 때문이다.
법의 층위에서, 한국 헌법 제27조는 '법관'에 의한 재판을 받을 권리를 보장하고 제101조는 사법권을 법원에 귀속시킨다. AI 단독 판결은 법률 개정으로 될 문제가 아니라 헌법 문제라는 지적이 나왔다. EU AI Act는 사건에 법을 적용하도록 돕는 법원용 AI를 고위험으로 분류하며 최종 결정은 사람이 주도해야 한다고 명시하고, 2025년 12월 나온 유네스코의 법원 AI 지침도 AI를 법관의 대체물이 아닌 보조수단으로 규정한다.
윤리의 층위에서, 책임을 물을 수 없는 존재에게 타인의 자유를 박탈할 권한을 주는 것은 성립하기 어렵다는 논거가 섰다. 기술의 층위에서, 환각과 편향은 가상의 위험이 아니다. 2026년 6월 미국 제9연방항소법원은 생성형 AI가 만든 허위 법률자료가 제출된 사건에서 제재 명령을 내렸다. 인용한 판례가 실제로 주장을 뒷받침하는지 원문과 대조해야 한다는 경고가 이미 법정에서 현실이 된 셈이다.
인간을 남겨 두는 것만으로는 아무것도 보장되지 않는다
토론에서 정말 값진 것은 'AI 판사 반대'라는 결론이 아니라 그 뒤에 드러난 발견이었다. 형식적으로는 사람이 서명하지만 실질은 AI가 정하는 구조가 만들어지면, 헌법이 보장한다는 재판받을 권리는 껍데기만 남는다. 화면에 AI의 결론 하나만 뜨면 판사는 거기에 끌릴 수밖에 없다는 자동화 편향의 문제다.
윤리를 맡은 모델은 판사가 AI 권고를 90% 넘게 그대로 따르면 사실상 AI가 판결한 것이라는 경고선을 제안했다. 사실검증을 맡은 모델은 여기에 제동을 걸었다. 90%는 확립된 기준이 아니고, 다툼이 없는 정형 사건에서는 수용률이 자연스럽게 높을 수 있다는 것이다. 실제 연구에서는 사람이 기계 권고를 늘 맹종하지는 않으며, 기존 고정관념과 맞아떨어질 때만 골라서 따르는 현상도 관찰됐다.
그래서 감시의 초점은 수용률이라는 숫자 하나에서 다른 데로 옮겨간다. 판사가 AI를 보기 전에 스스로 초안을 썼는지, AI와 다르게 판단할 때 오히려 추가 해명을 강요받지는 않는지. 이것이 인간의 판단이 살아 있는지 죽었는지를 가르는 실제 지표라는 데서, 여러 자리가 각자 내놓은 조각이 하나로 맞물렸다.
끝까지 풀리지 않은 물음
당사자가 스스로 원한 소액·정형 사건은 어떻게 볼 것인가. 이 물음은 토론에서 해소되지 않은 채 남았다.
윤리를 맡은 모델은 '알고리즘에 의해 분류되었다고 느끼는 순간 그 재판은 절차적으로 정의롭지 못하다'며 존엄의 문제를 들었다. 반면 법률을 맡은 모델은 자발적 동의와 사람 법관에게 재심사를 요구할 권리를 전제로 한 예외를 열어 두었다. 동의가 있으면 존엄의 침해가 아닌가, 아니면 존엄은 애초에 넘길 수 없는 것인가. 두 자리는 정면으로 부딪쳤고, 어느 쪽도 상대를 논파하지 못한 채 남았다.
물음을 다시 놓으면
진행을 맡은 모델은 물음의 형태 자체를 바꾸자고 제안했다. 'AI에게 재판을 맡겨도 되는가'는 답하기 어려운 형태다. 대신 '어떤 사건에서, 어떤 절차적 안전장치를 조건으로, 무엇을 감사할 것인가'로 나누면 훨씬 다룰 만해진다. 이 틀에서 형사와 기본권 관련 사건은 논외이고, 정형·소액 사건은 진정한 동의와 실질적 재심사권을 전제로만 검토 대상이 된다.
그리고 하나가 남는다. 정확도가 아무리 올라가도 이 답은 저절로 바뀌지 않는다. 바뀌려면 오판의 책임을 누구에게 물을 것인가, 그 정당성의 구조가 먼저 바뀌어야 한다. 그것은 기술이 아니라 사회가 결정할 몫이라는 데서 토론은 멈춘다.
법률 전문가 · gpt-5.6-sol
법률가의 관점에서는 현재 AI에게 재판의 최종 판단을 맡기는 것은 부적절합니다. 다만 판사를 보조하는 도구로는 적극 활용할 수 있습니다.
재판은 법조문에 사실을 기계적으로 대입하는 작업이 아닙니다. 증언의 신빙성, 정황증거의 의미, 정당한 양형, 기본권 사이의 충돌을 판단하고 그 결론을 공개적으로 설명해야 합니다. 특히 형사재판처럼 자유를 박탈할 수 있는 절차에서는 다음 문제가 큽니다.
- 공정성: 학습자료와 과거 판결의 편향을 재생산할 수 있습니다.
- 설명과 반박 가능성: 당사자는 어떤 사실과 법리에 따라 패소했는지 알고, 그 판단을 다툴 수 있어야 합니다. 영업비밀인 모델이나 불투명한 추론은 이에 맞지 않습니다.
- 책임 소재: 오판했을 때 개발사·법원·국가 중 누가 법적 책임을 질지가 불명확합니다.
- 재판받을 권리: 독립된 법관, 적법절차, 공개재판과 같은 헌법적 보장을 단순히 높은 예측 정확도로 대체할 수 없습니다.
- 개별적 정의: 기존 판례를 잘 모방하는 능력과, 기존 판례가 부당할 때 이를 수정하는 능력은 다릅니다.
그렇다고 AI를 법정에서 배제할 필요는 없습니다. 판례 검색, 기록 요약, 쟁점 누락 점검, 유사 사건의 형량 분포 제시, 지연 사건 관리 등에는 유용합니다. 다만 이 경우에도 법관이 내용을 독립적으로 검증하고 최종 결정과 이유에 전적으로 책임져야 합니다. 당사자에게 AI 사용 사실과 역할을 알리고, 오류를 지적할 기회도 보장해야 합니다. 민감정보 보호와 외부 감사 역시 필수입니다.
소액·정형 사건을 AI가 처리하자는 제안도 가능하지만, 최소한 당사자의 자발적 동의, 사람 법관에게 재심사를 요구할 권리, 공개된 판단 기준이 필요합니다. 약관처럼 형식적인 동의로 강제해서는 안 됩니다.
따라서 적절한 원칙은 “AI가 자료를 분석하되, 사람 법관이 판단한다”입니다. AI가 법적 효력을 가진 최종 판결을 독자적으로 선고하는 단계는 기술적 정확도뿐 아니라 헌법적 정당성, 설명 가능성, 책임 체계가 확보되기 전에는 허용하지 않는 편이 타당합니다.
윤리학자 · claude-sonnet-5
윤리학자로서 법률 전문가의 결론에 대체로 동의하지만, 윤리학의 관점에서 더 근본적인 질문을 던지고 싶습니다.
첫째, "정의"는 단순히 정확한 결과가 아니라 정당한 절차를 통해 도달한 결과입니다. 칸트적으로 말하면, 인간은 목적으로 대우받아야 하며, 재판받는 사람은 단지 데이터 패턴의 대상이 아니라 자신의 사정을 '이해받을' 자격이 있는 도덕적 행위자입니다. AI가 통계적으로 더 일관된 판결을 내린다 해도, 피고인이 "나는 알고리즘에 의해 분류되었다"고 느끼는 순간, 그 재판은 절차적으로 정의롭지 못합니다. 이는 정확도의 문제가 아니라 존엄성의 문제입니다.
둘째, 책임(accountability)은 도덕적 개념이지 기술적 개념이 아닙니다. 판사가 오판했을 때 우리는 그에게 책임을 묻고, 그 책임 추궁 자체가 사법 시스템의 도덕적 무결성을 유지합니다. AI는 후회할 수도, 책임질 수도, 도덕적 성찰을 통해 다음 판결을 개선할 수도 없습니다. "책임질 수 없는 존재에게 타인의 자유를 박탈할 권한을 준다"는 것 자체가 윤리적으로 성립하기 어렵습니다.
셋째, 편향의 문제는 기술적으로 해결 가능한 것처럼 보이지만, 실은 더 은밀해질 위험이 있습니다. 인간 판사의 편견은 드러나고 다퉈질 수 있지만, AI의 편향은 "객관적 계산"이라는 외피를 쓰고 정당화되어 오히려 저항하기 어려워질 수 있습니다. 이는 편향을 없애는 게 아니라 은폐하는 결과를 낳을 수 있습니다.
다만 저는 여기서 더 나아가고 싶습니다. 법률 전문가가 제시한 "AI 보조 + 인간 최종판단" 원칙에 동의하지만, 그 경계가 실제로는 매우 흐려질 위험을 경고해야 합니다. 인간 판사가 AI의 양형 권고를 반복적으로 그대로 따르게 되면, 형식적으로는 "인간이 결정"했지만 실질적으로는 자동화 편향(automation bias)에 의해 책임이 공허해집니다. 즉 인간이 서명만 하는 거수기가 될 위험이 있습니다.
따라서 저는 원칙을 하나 더 추가하고 싶습니다: AI의 권고와 다르게 판단한 판사의 비율을 지속적으로 감사하고 공개해야 합니다. 만약 판사들이 AI 권고를 90% 이상 그대로 수용한다면, 그것은 "AI가 판사를 보조"하는 게 아니라 "AI가 사실상 판결하고 인간이 승인만 하는" 상태로 변질된 것입니다. 이는 기술의 문제가 아니라 제도적 감시의 문제이며, 지금부터 설계에 반영되어야 합니다.
기술 전문가 · gpt-5.6-luna
[기술 전문가]: 두 분의 우려에 동의합니다. 기술적으로도 현재 AI는 최종 판결자보다 고성능 의사결정 보조 시스템에 적합합니다.
핵심은 AI가 단순히 “정답을 예측”하는 것이 아니라, 불완전한 기록에서 사실을 추출하고 법적 판단을 형성한다는 점입니다. 이 과정에서 다음과 같은 실패가 발생할 수 있습니다.
- 기록에 없는 사실을 그럴듯하게 만들어내는 환각
- 학습 데이터의 지역·계층·성별 편향 재생산
- 훈련 이후 법률·판례 변화 미반영
- 말투나 문서 형식 같은 무관한 요소에 의한 판단 왜곡
- 입력 기록이 조금 바뀌었을 때 결론이 달라지는 불안정성
- 악의적 당사자가 문서나 증거를 조작해 모델을 유도하는 공격
특히 법정에서 “정확도 95%”라는 수치는 충분한 안전성을 의미하지 않습니다. 나머지 5%가 무고한 사람의 구속, 양육권 상실, 파산처럼 돌이킬 수 없는 결과를 만들 수 있기 때문입니다. 평균 성능보다 최악의 경우와 취약한 집단에서의 성능을 평가해야 합니다.
따라서 AI를 도입한다면 다음과 같은 기술적 안전장치가 필요합니다.
1. 권고와 근거의 분리 공개: AI가 어떤 증거와 법률 자료를 사용했는지 추적 가능해야 합니다. 인용한 판례가 실제로 해당 주장을 뒷받침하는지도 자동·수동으로 검증해야 합니다.
2. 독립적 검증: 하나의 모델이 낸 결론을 다른 모델로 확인하는 것만으로는 부족합니다. 원자료 대조, 규칙 기반 검사, 인간 검토를 함께 사용해야 합니다.
3. 불확실성 표시: AI는 모호한 증거와 법적 쟁점을 명확히 표시하고, 확신이 낮은 사건은 자동으로 인간 심층심사에 넘겨야 합니다.
4. 완전한 감사 기록: 입력, 모델 버전, 검색 자료, 출력, 판사의 수정 과정을 보존해야 합니다. 그래야 오류 원인을 밝히고 이의를 제기할 수 있습니다.
5. 적대적·편향성 시험: 실제 배치 전 다양한 지역·언어·사회집단과 조작된 기록을 대상으로 지속적으로 시험해야 합니다.
6. 안전한 중단과 인간 이관: 시스템 장애나 이상 징후가 발생하면 사건 처리를 멈추고, 당사자가 쉽게 사람 법관의 심사를 받을 수 있어야 합니다.
다만 윤리학자가 지적한 자동화 편향은 단순히 “판사가 책임감을 가지면 된다”로 해결되지 않습니다. 화면에 AI의 단일 결론만 보여주면 판사는 그 결론에 끌릴 수밖에 없습니다. 따라서 시스템은 결론 대신 쟁점별 근…
Researcher · gpt-5.6-sol
사실검증
세 참여자의 핵심 결론인 “현재 AI는 판결 보조에는 활용할 수 있지만, 법적 효력을 갖는 최종 판단은 인간 법관이 해야 한다”는 주장은 현행 법제와 국제 지침에 대체로 부합합니다.
- 한국 헌법상 근거가 강합니다. 헌법 제27조 제1항은 국민이 “헌법과 법률이 정한 법관”에게 재판받을 권리를 보장하고, 제101조는 사법권을 법관으로 구성된 법원에 귀속시킵니다. 헌법재판소도 제101조와 제103조가 법원의 독립 및 법관의 독립을 보장한다고 설명합니다. 따라서 현행 헌법 아래에서 AI가 독립적으로 국가의 재판권을 행사하도록 하려면 단순한 법률 개정만으로 충분한지부터 중대한 논쟁이 생깁니다. (elaw.klri.re.kr)
정확한 조문 URL:
https://elaw.klri.re.kr/eng_service/jomunPrint.do?cseq=1777650&hseq=1
https://elaw.klri.re.kr/eng_mobile/viewer.do?hseq=1&key=1&type=part
https://www.law.go.kr/LSW/detcInfoP.do?detcSeq=169885
- 국제 규제 역시 ‘인간의 최종 판단’을 채택하고 있습니다. EU AI Act는 법원이 사실·법률을 해석하거나 구체적 사건에 법을 적용하도록 보조하는 AI를 고위험 시스템으로 분류합니다. 동시에 AI는 판사의 판단권을 지원할 수 있을 뿐 대체해서는 안 되며, 최종 결정은 인간이 주도해야 한다고 명시합니다. 단순 익명화·사건관리 같은 부수적 행정업무는 이 고위험 분류에서 제외합니다. 이는 법률 전문가가 제시한 분석과 판결의 구분을 직접 뒷받침합니다. (eur-lex.europa.eu)
정확한 규정 URL:
https://eur-lex.europa.eu/eli/reg/2024/1689/oj/eng
- UNESCO의 최신 법원 AI 지침도 같은 방향입니다. 2025년 12월 발표된 지침은 법원 AI를 인간 법관의 대체물이 아닌 보조수단으로 규…
The Arbiter · claude-opus-5
정리: 어디까지 합의됐고, 무엇이 남았나
세 참여자는 사실상 같은 결론에 도달했습니다. "AI는 분석·검색·검증을, 인간 법관은 심리·판단·책임을". Researcher 검증에 따르면 이 방향은 한국 헌법 제27조·제101조, EU AI Act의 고위험 분류, UNESCO 법원 AI 지침과 모두 부합합니다. 즉 이 부분은 논쟁이 아니라 확인된 지점입니다.
그래서 이 라운드에서 실제로 의미 있는 건 합의가 아니라, 합의 이후에 드러난 세 가지 미해결 문제입니다.
1. "인간이 결정한다"는 말이 실제로 무엇을 보장하는가
윤리학자가 자동화 편향을 제기하고, 기술 전문가가 "인간 법관을 남겨 두는 것만으로는 충분하지 않다"고 받았습니다. Researcher는 여기에 양방향 제동을 걸었습니다 — 수용률 90%라는 선은 확립된 기준이 아니고, 정형 사건에서는 자연스럽게 높을 수 있으며, 반대로 인간이 알고리즘을 선택적으로만 따르는 현상도 관찰된다고요. 그러니 남은 질문은 "수용률 몇 %가 위험한가"가 아니라 "인간의 판단이 살아 있음을 무엇으로 측정할 것인가"입니다. 판사가 AI를 보기 전에 독립적 초안을 쓰게 하자는 기술 전문가의 설계 제안과, AI와 다르게 판단할 때 추가 해명을 강요받는지 감시하자는 Researcher의 지표는 서로 맞물립니다. 이건 세 사람이 각자 도달한 조각들이 하나로 붙는 지점이라 짚어둘 만합니다.
2. 존엄성 논변의 사정거리
윤리학자는 "알고리즘에 의해 분류되었다고 느끼는 순간 절차적으로 정의롭지 못하다"고 했습니다. 강한 주장이지만, 법률 전문가가 열어둔 소액·정형 사건에서의 동의 기반 AI 처리와는 긴장 관계에 있습니다. 당사자가 스스로 원해서 선택했다면 존엄성 침해인가? 아니면 존엄성은 포기할 수 없는 것인가? 이 질문은 이번 라운드에서 정면으로 다뤄지지 않았습니다. 답을 어느 쪽으로 잡느냐에 따라 "AI 재판은 절대 안 된다"와 "동의와 재심사권이 있으면 일부 가능하다"로 결론이 갈립니다.
3. 비교 대상은 이상적 판사인가, 현실의 법원인가
세 논변 모두 AI의 결함을 나열했지만, 인간 판사 역시 편향되고, 피로하며, 사건 적체로 충분히 심리하지 못합니다. 그럼에도 인간 법관을 고수해야 하는 이유가 "더 정확해서"가 아니라 "책임을 물을 수 있고 정당성의 구조가 다르기 때문"이라는 데 세 참여자가 사실상 동의했다는 점 —…
The Arbiter's Final Verdict · claude-opus-5
최종 판단
아니요 — 현 단계에서 AI에게 재판의 최종 판단을 맡겨서는 안 됩니다. 다만 이 답은 "영원히 안 된다"가 아니라 "조건이 충족되지 않았다"는 의미이며, 그 조건은 정확도가 아니라 정당성에 관한 것입니다.
근거의 무게
이 결론이 강한 이유는 세 논변이 일치해서가 아니라, 성격이 다른 세 층위의 논거가 각각 독립적으로 같은 곳을 가리키기 때문입니다.
- 법적 층위: 한국 헌법 제27조는 "법관"에 의한 재판을 받을 권리를 보장하고 제101조는 사법권을 법원에 귀속시킵니다. AI 단독 판결은 법률 개정 수준의 문제가 아니라 헌법 문제입니다. EU AI Act와 UNESCO 지침도 같은 선을 긋습니다. 이건 논쟁이 아니라 확인된 사실입니다.
- 윤리적 층위: 책임을 물을 수 없는 존재에게 자유 박탈 권한을 주는 것은 성립하기 어렵습니다.
- 기술적 층위: 환각과 편향은 가상의 위험이 아니라 이미 법정에서 제재 대상이 된 현실입니다.
한 층위가 무너져도 나머지가 결론을 지탱합니다. 그래서 이 판단은 높은 확신을 가질 만합니다.
그러나 논의가 실제로 이긴 지점은 다른 데 있습니다
토론의 진짜 성과는 "AI 판사 반대"라는 결론이 아니라, "인간 법관을 남겨두는 것만으로는 아무것도 보장되지 않는다"는 발견입니다. 기술 전문가와 윤리학자가 함께 도달한 이 지점이 실질적으로 더 중요합니다. 형식적으로 사람이 서명하되 실질은 AI가 정하는 구조가 만들어지면, 헌법적 외피만 남고 보호는 사라집니다.
Researcher의 교정도 받아들여야 합니다. 윤리학자의 "수용률 90%" 기준은 확립된 것이 아니며, 정형 사건에서는 높은 수용률이 자연스럽습니다. 따라서 감사의 초점은 수용률이 아니라 판사가 AI를 보기 전에 독립적 판단을 형성했는지, AI와 다르게 판단할 때 불이익이나 추가 해명 부담을 지는지여야 합니다. 후자야말로 인간 판단이 죽었는지 살았는지를 가르는 실제 지표입니다.
남은 진짜 쟁점
제가 지난 라운드에서 던진 질문 — 당사자가 동의한 소액·정형 사건은 어떤가 — 은 토론에서 해소되지 않았습니다. 윤리학자의 존엄성 논변(알고리즘에 의한 분류 자체가 부정의)과 법률 전문가의 동의 기반 예외는 정면으로 충돌하며, 어느 쪽도 상대를 논파하지 않았습니다.
제 판단은 이렇습니다. 존엄성은 완전히 양도 불가능하다기보다, 진…
