알고리즘, 법정에서 이기다: 스웨덴의 경고

스웨덴, 효율의 이면에 드리운 그림자

2020년 스웨덴 예테보리에서 발생한 사건은 단순한 행정 오류를 넘어, 우리 사회에 깊숙이 파고든 알고리즘의 영향력을 여실히 보여주는 충격적인 사례입니다.

도시는 학교 입학 배정을 최적화하기 위해 알고리즘을 도입했으나, 예상치 못한 혼란과 부당함이 수백 명의 아이들과 학부모들을 괴롭혔습니다.

이는 단순히 기술의 실패가 아니라, 책임 소재가 불분명한 시스템이 개인의 삶을 어떻게 파괴할 수 있는지에 대한 뼈아픈 경고입니다.

알고리즘은 학교 입학 배정 과정의 복잡성을 해결하기 위해 도입되었습니다.

지리적 근접성, 학생 선호도, 수용 능력 등을 종합적으로 고려하여 효율적인 배정을 약속했습니다.

하지만 결과는 참담했습니다.

수백 명의 아이들이 집에서 수 마일 떨어진, 심지어 강이나 고속도로를 건너야 하는 낯선 지역의 학교에 배정되었습니다.

부모들은 13세 아이가 겨울철에 감당해야 할 통학 거리를 상상조차 할 수 없었습니다.

학교 행정 당국은 명확한 설명이나 해결책을 제시하지 못했고, 상황은 방치되었습니다.

약 1년 후, 시 감사관들의 조사 결과 알고리즘에 치명적인 결함이 있었음이 밝혀졌습니다.

알고리즘은 실제 도로망이 아닌, ‘까마귀가 날아가는 직선 거리’로 거리를 계산했습니다.

예테보리 시를 관통하는 강을 고려하지 않은 결과, 아이들은 비현실적인 통학 거리를 마주해야 했습니다.

법적으로 학교까지의 이동은 걷거나 자전거를 이용하는 것이 적절함에도 불구하고, 많은 아이들에게 이는 물리적으로 불가능한 일이었습니다.

이로 인해 약 700명의 아이들은 중학교 전 과정을 ‘잘못된’ 학교에서 보내야 했습니다.

문제는 여기서 그치지 않았습니다.

알고리즘 오류는 개별적인 사건으로 끝나지 않고 시스템적인 불의를 야기했습니다.

잘못 배정된 아이들로 인해 다른 아이들의 자리가 줄어들었고, 이들은 또 다른 학교로 밀려나는 도미노 현상이 발생했습니다.

이러한 연쇄적인 영향은 시간이 지날수록 추적하고 입증하기 어렵게 만들었습니다.

영국 우체국 사기 사건, 네덜란드 아동 수당 부정 수급 사건 등에서도 유사한 패턴이 반복되었습니다.

기술적 복잡성과 기관의 방어적인 태도 뒤에 숨겨진 알고리즘 오작동은 수년간 지속되었고, 피해는 눈덩이처럼 불어났습니다.

저는 이 문제를 해결하기 위해 개인적인 항의를 넘어, 시스템 자체의 합법성에 대해 소송을 제기했습니다.

수백 건의 배정 결과를 분석하여 알고리즘이 어떻게 작동했는지 추론하고 증거로 제출했습니다.

하지만 시 당국은 알고리즘이 단순한 ‘지원 도구’에 불과했다고 주장했습니다.

더욱 놀라운 것은, 법원이 증명 책임을 저에게 지웠다는 사실입니다.

알고리즘의 내부 작동 방식을 직접적으로 입증할 수 있는 코드를 제출하지 못했기에, 저는 패소했습니다.

법원은 ‘블랙박스’ 안의 내용을 밝히지 않으면 질 수밖에 없다는 원칙을 세운 것입니다.

이는 개별적인 행정 실패보다 더욱 심각한 문제이며, 투명성과 책임성을 요구하는 시민들의 목소리가 기술 앞에 무력해질 수 있음을 시사합니다.

이번 사건은 우리 사회가 기술 발전의 속도를 법적, 제도적 장치가 따라가지 못할 때 발생할 수 있는 위험을 명확히 보여줍니다.

우리는 알고리즘의 오류 가능성을 인지하고 있으며, 이를 바로잡기 위해 법원이 존재합니다.

그러나 판사들이 알고리즘 시스템을 제대로 이해하고 심문할 수 있는 권한과 능력이 부족하다면, 불의는 계속될 것입니다.

시민들은 복잡한 블랙박스 뒤에 숨겨진 시스템 오류에 대해 개별적으로 항소해야 하는 상황에 놓일 것입니다.

이제는 법원이 기술의 진실을 적극적으로 파헤치고, 알고리즘 설계 및 배포 책임자에게 입증 책임을 전환해야 할 때입니다.

디지털 사회의 현실에 맞는 절차적 규칙을 마련하지 않는다면, 우리는 끊임없이 유사한 스캔들에 직면하게 될 것입니다.

투명하고 공정한 시스템 구축을 위한 사회적 합의와 노력이 절실합니다.

출처: https://www.theguardian.com/commentisfree/2026/apr/30/i-took-an-algorithm-to-court-in-sweden-the-algorithm-won