• 저자  :  싸메르 하싼(Samer Hassan)¹⁾Associate Professor, Univ. Complutense de Madrid Faculty Associate, Berkman Klein Center at Harvard University, 프리마베라 데 필리피(Primavera De Filippi)²⁾Researcher at CERSA/CNRS Faculty Associate at Berkman-Klein Center for Internet & Society
• 원문 : “The Expansion of Algorithmic Governance : From Code is Law to Law is Code” (2017.12.31) / Creative Commons Attribution 3.0 License
• 분류 : 내용 정리
• 정리자 : 정백수
• 설명 : 아래는 『오픈 에디션』(OpenEdition, journals.openedition.org)에 실린 원문의 내용을 정리한 것이다.

알고리즘 거버넌스의 확대 : ‘코드가 법이다’에서 ‘법은 코드다’로

I.

우리는 플랫폼 안에서의 상호작용에 점점 더 많은 시간을 보내고 있고, 플랫폼들의 사용자 베이스는 기존의 국민국가들을 왜소하게 만들고 있다. 페이스 북 20억, 유튜브 10억, 인스타그램 7억. 그런데 이 플랫폼들의 거버넌스는 민주주의와는 매우 거리가 멀다. 이 플랫폼들은 사용자들의 상호작용과 온라인 소통을 소스코드에 함입된 불명료한 규칙들을 통해 규제하는 소프트웨어와 알고리즘들에 의해 통치되며 소수의 개인들에 의해 만들어진다.

디지털 환경은 코드를 통해 작동하는 새로운 형태의 규제로 가는 문을 열었다. 레씩이 말했듯이 “코드가 법이다”(Lessig, 1999). 코드가 궁극적으로 인터넷의 구조이며 기술공학적 수단을 통해 개인들의 행동을 제한할 수 있다.

상호작용이 점점 더 소프트웨어에 의해 규제됨에 따라 우리는 규칙들을 직접 시행하는 수단으로서의 테크놀로지에 더 의존하게 된다. 해야 할 일과 하지 말아야 할 일을 규정하는 전통적인 법적 규칙과 달리, 기술적 규칙들은 애초에 할 수 있는 일과 할 수 없는 일을 규정한다. 이로 인해서 제3자적 위치에 있는 당국이 법을 어긴 사람을 처벌하기 위해서 사후에 개입할 필요가 없어진다. 궁극적으로 법보다도 더 자주 소프트웨어가 온라인의 특수한 환경에서 할 수 있는 일과 할 수 없는 일을 정한다.

그 상징적 사례는 디지털권리관리(DRM, digital rights management)이다. 이는 저작권법의 조항을 기술적 보호조치로 전환시켜서 저작권이 걸린 작품들의 사용을 제한한다. 이러한 형태의 규제가 가지는 장점은, 법원이나 경찰이라는 제3자에 의한 사후(ex-post) 단속에 의존하지 않고 규칙들이 사전(ex-ante)에 시행되어서 사람들이 애초에 규칙을 깨는 것이 매우 어렵게 만든다는 것이다. 본래적으로 유연하고 다의적인(모호한) 전통적인 법적 규칙들과 달리, 기술적인 규칙들은 극히 형식화되어 있고 모호성의 여지를 거의 남기지 않기에 사법적 중재의 필요가 없어진다.

코드에 의한 규제는 오늘날 민간 부문만이 아니라 공공 부문에서도 많이 채택된다. 정부들과 공공 기관들도 코드 기반의 규칙들을 정하는 데서 소프트웨어 알고리즘들과 기술공학적 도구들에 점점 더 의존하며 이 규칙들은 그 바탕에 깔린 테크놀로지에 의해 자동으로 실행(시행)된다. 예) ① 미국의 No Fly List. 이는 국가안보에의 잠재적 위협을 예측하여 평가하기 위해 데이터마이닝을 활용한다(Citron 2007). ② 사법적 의사결정과 선고형량이나 집행유예를 정하는 것을 지원하기 위해서 컴퓨터 알고리즘을 사용하기(O;’Neill 2016).

사회를 규제하는 수단으로 기술공학적 도구들이나 코드 기반의 규칙들을 활용하는 것은 법을 자동화할 수 있고 규칙과 규제를 사전에 시행할 수 있다는 점에서 장점을 가진다. 그러나 코드에 의한 규제는 법의 기본적 취지 가운데 일부를 파괴할 수 있는 중요한 단점도 가지고 있다.

① 코드 기반의 규칙들은 고정되어 있고 형식화된 코드 언어로 작성되어 있어서 자연 언어가 가지는 유연성과 다의성(ambiguity)이 주는 이익을 얻지 못한다. ② 온라인 플랫폼들의 구조적 실행은 궁극적으로 특정 유형의 행동을 증진하거나 막으려 하는 플랫폼 운영자들과 소프트웨어 엔지니어들의 특수한 선택에 의존한다. 다른 기술공학적 인공물처럼 코드도 중립적이지 않고 본래 정치적이다. 특정의 정치적 구조들을 지지하거나 다른 행동들을 누르고 특정의 행동들을 촉진할 수 있다(Winner, 1980).

II.

비트코인을 떠받치고 있는 블록체인 테크놀로지는 법을 코드로 전환시키는 새로운 많은 기회들과 함께 나온 새로운 테크놀로지이다(De Filippi & Hassan, 2016). ‘스마트 계약’—비트코인처럼 블록체인 기반의 네트워크에 깔려서 분산된 피어들의 네트워크에 의해 분산된 방식으로 실행되는 소프트웨어—의 출현과 함께 블록체인 테크놀로지는 사람들이 서로 연계하고 많은 경제적 거래들과 사회적 상호작용에 관여하는 방식을 혁신할 수 있게 되었다(Tapscott & Tapscott 2016). 법 혹은 계약 조항들을 스마트 계약으로 옮겨놓으면 “실행보장”이 이루어지는 새로운 일단의 코드 기반의 규칙들이 나올 수 있다. 이 규칙들은 바탕에 깔린 블록체인 네트워크에 의해 자동으로 실행되므로 당사자들의 의지와 무관하게 항상 계획된 대로 돌아간다.

스마트 계약은 다수의 당사자들(인간이든 기계든)이 상호작용하는 것을 가능하게 하는 방식으로 실행될 수 있다. 이 상호작용들은 블록체인 응용프로그램에 의해 매개되고 소스 코드에 삽입된 일단의 부동의 규칙들에 의해서만 통제된다. 스마트 계약은 거래와 계약을 미리 정해진 일단의 코드 기반의 규칙들(이는 자기실행적이고 자기시행적이다)로 형식화함으로써 코드에 의한 규제의 응용성을 증가시킨다. 블록체인 기반의 네트워크들과 스마트 계약은 그 어떤 중앙 서버에도 의존하지 않기 때문에 당사자들 가운데 어느 한 쪽에 의해서 일방적으로 중지될 수 없다. 코드에 딱 그렇게 정해져 있지 않다면 말이다. 이것이 코드 기반 규제의 경직성 및 형식성과 관련된 문제를 더 악화시켰다. 당사자들 가운데 어느 한 쪽이 코드를 업그레이드하는 것, 혹은 그 코드의 실행에 영향을 주는 것조차도 더 어려워지기 때문이다.

기계학습(ML, Machine learning)은 소프트웨어로 하여금 외부의 정보원(情報源)으로부터 지식을 획득하여 학습하거나 명시적으로 행하도록 프로그램되지 않은 일을 행하도록 해준다. 점점 더 증가하는 양의 데이터(‘빅 데이터’)를 얻을 가능성과 신경 네트워크와 데이터 마이닝에서 이루어진 최근의 발전으로 인해서 여러 온라인 플랫폼들에서 기계학습이 널리 채택되고 있다. 기계학습 덕택에 전통적으로 코드에 의한 규제와 연관된 한계들 가운데 일부를 피해갈 수 있다. 기계학습은 역동적이고 변화에 적응하는 코드 기반 규칙들의 도입을 허용하여 자연 언어가 가진 유연성과 다의성에 의해 특징지어지는 전통적인 법적 규칙들의 특징 가운데 일부를 복제하기 때문이다. 수집하는 데이터로부터 학습할 수 있는 만큼 이 시스템들은 적용되는 특수한 상황들에 더 잘 부합하도록 규칙들을 항상 정련함으로써 진화할 수 있다.

그러나 기계학습의 사용에도 규제의 맥락에서 단점은 있다. 데이터에 의해 추동되는 의사결정은 이미 편향을 함축하는 불공정한 것으로 입증되었다(Hardt, 2014). 말로는 ‘중립적’이라고 하는 알고리즘들이 일반화 작업을 하면서 소수자 그룹들을 구조적으로 차별하여 예를 들어 인종주의적인 혹은 성차별주의적인 것으로 분류될 수 있는 결과를 보이는 것이다(Guarino 2016).

더 나아가, 만일 법으로 실행되면 이 규칙들의 역동성이 보편성(즉 ‘모두가 법 앞에 평등하다’)과 비(非)차별성을 무너뜨릴 수 있다. 새로운 정보가 입력되는 데 따라 역동적으로 진화하는 코드 기반의 규칙들에 법이 통합되면서, 사람들이 그들의 일상적 삶에 영향을 미치는 규칙들의 정당성을 이해하는 것만이 아니라 더 나아가 문제로 삼는 것이 어려워질 수 있다. 이러한 규칙들의 점점 더 많은 수가 개별 사용자들의 프로필에 맞추어질 수 있게 되면 현재의 법적 체계를 특징짓는 보편성과 비차별성이라는 기본 원칙은 영원히 상실될 수도 있다.

♣

Bibliography

Citron, D. K. (2007). Technological due process. Wash. UL Rev., 85, 1249.

De Filippi, P., & Hassan, S. (2016). Blockchain technology as a regulatory technology: From code is law to law is code. First Monday, 21(12).

O’Neil, C. (2016). Weapons of math destruction: How big data increases inequality and threatens democracy. Crown Publishing Group (NY).

Tapscott, D., & Tapscott, A. (2016). Blockchain Revolution: How the Technology Behind Bitcoin Is Changing Money, Business, and the World. Penguin

V. Buterin, “Ethereum: A next-generation cryptocurrency and decentralized application platform,” 2014.

Langdon Winner, 1980. “Do artifacts have politics?” Daedalus, volume 109, number 1, pp. 121–136.

Lawrence Lessig, 1999. Code and other laws of cyberspace. New York: Basic Books.

Bill Rosenblatt, William Trippe and Stephen Mooney, 2002. Digital rights management: Business and technology. New York : M&T Books.

Moritz Hardt, How big data is unfair: Understanding unintended sources of unfairness in data driven decision making. Medium. 2014. https://medium.com/@mrtz/how-big-data-is-unfair-9aa544d739de

Ben Guarino. Google faulted for racial bias in image search results for black teenagers. (2016). Washington Post. https://www.washingtonpost.com/news/morning-mix/wp/2016/06/10/google-faulted-for-racial-bias-in-image-search-results-for-black-teenagers/