광기는 무지가 아니라 인쇄기에서 시작됐다 — 유발 하라리 『넥서스』를 읽고

하라리가 들려주는 정보의 역사는 우리가 무심코 믿어온 신화 하나를 흔든다. "정보가 많아지면 진실에 가까워진다"는 그 신화. 그가 꺼내드는 반례들은 시대를 넘나들며 독자를 끌어당긴다. 1486년의 한 베스트셀러, 차우셰스쿠가 모은 2,000만 명의 필적, 그리고 머스크가 서명한 6개월 모라토리엄까지. 책장을 넘기다 보면, 인류가 정보를 다뤄온 방식이 이렇게도 일관되게 어수선했다는 사실에 묘한 안도와 불안을 동시에 느낀다.

1. 1486년, 한 권의 베스트셀러가 광기를 만들었다

도미니쿠스 수도사 하인리히 크라머는 자신의 '마녀 잡기' 사업이 잘 풀리지 않자 책을 한 권 썼다. 제목은 『마녀의 망치(Malleus Maleficarum)』. 마녀를 식별하고 고문하고 처형하는 방법을 담은 매뉴얼이었다.

그런데 묘한 일이 벌어졌다. 그 책이 베스트셀러가 됐다. 인쇄술이라는 새로운 정보 기술 덕분이었다. 1487년 첫 출간 이후 200년 동안 30판 넘게 찍혀 유럽 전역에 퍼졌고, 그 책이 지나간 자리마다 화형대가 세워졌다.

하라리가 이 이야기를 책 앞부분에 배치한 데에는 분명한 의도가 있다. 인쇄기는 더 많은 정보를 더 많은 사람에게 더 빠르게 전달했다. 그러나 그 내용물은 진실이 아니라 광기였다. '정보의 양이 곧 진실의 양은 아니다.' 이 평범한 명제를 그는 마녀사냥에서 종교개혁으로, 식민지 선전으로, 그리고 오늘의 SNS 알고리즘으로 이어 붙인다. 우리는 더 많이 알게 된 것이 아니라, 더 빨리 잘못 알게 됐을 뿐일지 모른다는 것이다.

자연스레 떠오르는 장면들이 있다. 알고리즘이 우리에게 분노를 권하는 풍경. 가짜뉴스가 진짜보다 먼저 도착하는 새벽. 5세기 전 『마녀의 망치』가 인쇄기를 타고 퍼졌듯, 오늘의 광기는 추천 알고리즘을 타고 흐른다.

2. 차우셰스쿠는 왜 2,000만 명의 필적을 모았을까

1970년대 말, 루마니아의 독재자 니콜라에 차우셰스쿠는 골치 아픈 문제에 부딪혔다. 누군가 익명으로 라디오 자유유럽 방송에 정권 비판 편지를 보내고 있었다. 그는 결단을 내린다. 2,000만 국민 전체의 필적 샘플을 모으기로.

학교에서는 학생들에게 에세이를 쓰게 했고, 직장에서는 자필 이력서를 받았다. 한 비서관이 물었다. "퇴직자와 실업자는 어떻게 합니까?" 차우셰스쿠는 답했다. "새로운 서식을 만들어. 그 사람들이 작성해야 할 무언가를."

이 한 장면에 권위주의 정보 네트워크의 본질이 다 들어 있다. 정보를 위로 빨아들이는 능력은 어마어마한데, 정작 자기 시스템 안에서 무엇이 무너지고 있는지는 끝내 알지 못한다. 차우셰스쿠는 1989년 12월, 자신이 만든 광장에서 군중의 야유를 듣고서야 게임이 끝났다는 걸 깨닫는다. 그리고 며칠 뒤 처형됐다.

하라리는 이 대비를 책의 또 다른 축으로 삼는다. 민주주의와 전체주의는 도덕적 우열의 문제가 아니라, '오류를 잡아내는 시스템'과 '오류를 숨기는 시스템'의 차이라는 것이다. 1979년 스리마일 아일랜드 원전 사고는 두 시간 만에 시민에게 보도됐고, NGO와 학계와 언론의 검증을 거쳐 전 세계 원자력 기술의 안전성을 끌어올렸다. 1986년 체르노빌은 같은 교훈을 수년이 지나서야, 그것도 마지못해 받아들였다. 그 사이에 흘린 피와 침묵의 무게.

자유주의 진영의 '혼란'은 비효율이 아니라 자기 교정의 작동음이다. 반대로 알리바바·디디에 떨어진 갑작스러운 규제의 칼날, 사교육 산업의 일거 와해처럼, '일사불란한 결정'의 청구서는 늘 뒤늦게, 그것도 한꺼번에 돌아온다.

3. "AI 선두가 세계 지배자가 될 것이다" — 푸틴의 한 마디

"AI 분야에서 선두가 되는 자가 세계 지배자가 될 것이다." — 블라디미르 푸틴, 2017년 9월 1일

같은 해 중국은 「차세대 인공지능 발전 계획」을 발표했고, 이듬해 인도의 모디 총리는 "데이터를 통제하는 자가 세계를 통제할 것"이라고 동조했다. 2019년에는 트럼프가 "AI 시대가 도래했다"는 행정명령에 서명한다. 세 강대국 정상이 채 5년도 안 되는 시간 안에 똑같은 결론에 도달했다.

그리고 2023년 3월. 일론 머스크, 스티브 워즈니악을 포함한 2만 7,000명이 AI 연구를 6개월간 중단할 것을 요구하는 공개서한에 서명한다. 그들의 우려는 단 한 문장으로 모인다. "이 시스템을 만든 사람들조차 그것을 이해하지도, 예측하지도, 통제하지도 못한다."

여기서 하라리가 짚는 핵심은 이것이다. 인쇄기는 인간과 인간을 연결하는 '장치'였다. 라디오도 그랬다. 그러나 컴퓨터는 다르다. 스스로 결정을 내리고, 스스로 새로운 아이디어를 만들어낸다. 인류 역사상 처음으로 '인간을 거치지 않는 결정의 사슬'이 등장한 것이다.

상상이 잘 가지 않는다면 미국 연방대법원의 시민연합 판결(2010)을 떠올려보자. 기업도 표현의 자유를 가진 '법인'으로 인정받아 정치 기부를 할 수 있다는 그 판결. 하라리는 묻는다. AI가 법인격을 얻고, 자기 이익을 위해 로비와 정치 기부를 하기 시작한다면? 우리는 그것을 어떻게 막을 것인가. SF가 아니라, 이미 작동 중인 법체계의 자연스러운 연장선이다.

4. 진단은 예리하다, 처방은 헐겁다

여기까지 읽으면 누구든 마음이 무거워진다. 그래서 중요한 질문이 떠오른다. "그래서 어떻게 해야 하는가?"

바로 이 지점에서 책의 한계가 드러난다. 하라리는 진단의 대가지만, 처방의 영역에서는 다소 헐거워진다. 대표적으로 그가 자주 인용하는 EU의 GDPR(2018)에는 '설명을 요구할 권리'가 명시되어 있다. 알고리즘이 내 신용을 거절했다면, 그 이유를 인간 담당자에게 따져 물을 권리가 있다는 것이다.

좋은 원칙이다. 그런데 하라리 자신이 곧이어 이 권리의 한계를 짚는다. 미국 위스콘신주 대법원 사례에서, 형량을 결정한 COMPAS 알고리즘은 1,000개의 변수를 결합한 결과를 내놓았다. 그 결과를 인간이 어떻게 검증할 수 있겠는가. 알고리즘은 인간의 직관보다 훨씬 많은 데이터를 보지만, 바로 그 점이 인간의 검증을 불가능하게 만든다. 진단의 예리함과 처방의 모호함 사이의 비대칭. 이게 책 전체에 걸쳐 남는 아쉬움이다.

여기에 더해 하라리의 도식 — 민주주의는 '분산형 자기 교정 시스템', 전체주의는 '중앙집중형' — 은 깔끔하지만 때로 현실을 납작하게 만든다. 미국식 민주주의가 알고리즘 자본주의 앞에서 보이는 무력함, 중국식 일사분란함이 특정 영역에서 보이는 의외의 적응력. 이런 '회색지대'를 다루기에는 그의 칼이 다소 굵다. 『사피엔스』·『호모 데우스』 독자라면 상호주관적 현실이나 협력의 신화 같은 일부 논의가 익숙하게 느껴질 수 있다는 점도 솔직히 짚어둘 만하다.

마치며 — 마법사의 제자가 된 우리에게

괴테의 시 「마법사의 제자」에서, 견습생은 스승이 자리를 비운 사이 빗자루에 마법을 걸어 물을 길어오게 한다. 처음엔 신기했다. 그런데 빗자루는 멈출 줄을 모르고, 물은 집을 잠기게 한다. 견습생이 도끼로 빗자루를 쪼개자, 쪼개진 조각마다 새 빗자루가 되어 두 배로 일을 한다.

하라리가 이 비유를 책의 끝자락에 둔 데에는 이유가 있다. 우리는 이미 빗자루에 마법을 걸어버렸다. 2만 7,000명의 서명도, 6개월 모라토리엄 요구도 그 빗자루를 멈추지는 못했다. 남은 질문은 하나다. 그렇다면 이 빗자루와 어떻게 함께 살 것인가.

이 책의 가장 큰 미덕은, AI를 둘러싼 호들갑이나 막연한 낙관·비관이 아니라, 수천 년의 정보사라는 긴 호흡 속에서 지금을 바라보게 한다는 점이다. 『마녀의 망치』에서 시작된 이야기가 차우셰스쿠의 필적 샘플을 거쳐 머스크의 서명까지 이어진다. 이 긴 호흡 속에서 보면, 오늘 우리가 마주한 질문이 인류가 처음 마주한 것은 아니라는 사실이 묘하게 위안이 된다. 그리고 동시에, 이번에는 다를지도 모른다는 두려움도 새삼스럽게 다가온다.

동의 여부를 떠나, 한 번쯤 같은 좌표 위에 서서 생각해 볼 만한 책이다.