경찰이 AI로 '증거'를 만들어냈다 — 영국 더비셔 사건이 던진 충격

수사 기관이 쓰는 도구는 신뢰가 생명입니다. 그런데 그 도구가 AI라면 어떨까요. 영국 더비셔에서 한 경찰관이 AI를 이용해 사건 증거에 손을 댔다는 의혹이 불거지면서, 평소라면 나누지 않았을 질문이 갑자기 무거워졌습니다. 증거를 수집하는 사람이 증거를 만들어낼 수 있다면, 우리는 무엇을 믿어야 할까요.

먼저 솔직하게 말씀드릴 부분이 있습니다. 이 사안은 아직 커뮤니티나 소셜미디어에서 폭넓게 논의되고 있는 단계가 아닙니다. 최근 30일간 관련 토론이 거의 잡히지 않았는데요. 그래서 오늘 글은 떠도는 반응을 옮기기보다, 이 사건이 왜 본질적으로 위험한지를 차분히 짚어보는 쪽에 무게를 두겠습니다.

AI가 만든 ‘증거’는 왜 특별히 위험한가

증거 조작 자체는 새로운 범죄가 아닙니다. 자백을 강요하거나, 물증을 슬쩍 끼워 넣거나, 진술서를 고치는 일은 안타깝게도 사법 역사 내내 있어 왔는데요. 문제는 AI가 이 조작의 난이도와 비용을 동시에 무너뜨렸다는 점입니다.

과거에는 가짜 증거를 만들려면 기술과 시간, 그리고 흔적을 지울 정교함이 필요했습니다. 지금은 다릅니다. 텍스트 몇 줄이면 그럴듯한 진술 요약이 나오고, 이미지 생성 도구로는 현장 사진에 가까운 결과물이 나옵니다. 음성 합성으로는 특정 인물의 목소리까지 흉내 낼 수 있습니다.

핵심은 이겁니다. AI 결과물은 ‘진짜처럼 보이도록’ 최적화되어 있다는 점인데요. 사실인지 아닌지가 아니라, 그럴듯한지 아닌지를 기준으로 만들어집니다. 수사 기록에 이런 결과물이 한 줄이라도 섞이는 순간, 진짜와 가짜를 가르는 일 자체가 어려워집니다.

‘효율’이라는 이름의 함정

경찰의 AI 도입은 사실 거스를 수 없는 흐름입니다. 보고서 작성, CCTV 영상 분석, 방대한 진술 요약처럼 사람 손으로 하면 며칠 걸리는 일을 AI는 몇 분에 처리하는데요. 일선 수사관 입장에서는 거절하기 힘든 유혹입니다.

문제는 효율과 진실 사이의 경계가 모호해질 때 생깁니다. AI에게 “이 사건의 정황을 정리해줘"라고 시키는 것과, “이 용의자가 유죄로 보이게 정리해줘"라고 시키는 것은 한 끗 차이입니다. 도구는 시키는 대로 할 뿐, 그게 진실인지 판단하지 않습니다.

여기서 AI 특유의 약점이 겹칩니다. 바로 환각(hallucination)인데요. AI는 존재하지 않는 사실을 그럴듯하게 지어내는 경향이 있습니다. 악의가 없어도, 단지 AI에 일을 맡기고 검증을 게을리하는 것만으로 가짜 정보가 공식 기록에 들어갈 수 있다는 뜻입니다. 악의적 조작과 무성의한 활용, 두 길 모두 같은 절벽으로 이어집니다.

무너지는 건 한 사건이 아니다

이런 사건이 무서운 진짜 이유는 파급력에 있습니다. 한 경찰관의 AI 오용이 드러나면, 피해는 그 사건 하나에서 끝나지 않습니다.

변호인 입장에서 생각해보면 답이 나옵니다. 같은 부서, 같은 기간에 처리된 모든 사건의 증거를 의심할 명분이 생기는데요. “이 증거도 AI로 만든 것 아니냐"는 질문 한 줄이 수십, 수백 건의 재판을 흔들 수 있습니다. 실제로 과거 수사관의 비위가 드러났을 때, 관련 사건들이 줄줄이 재검토되거나 무효화된 사례가 적지 않았습니다.

여기에 입증 책임의 역전이라는 더 깊은 문제가 깔려 있습니다. 원래 증거의 진위를 입증할 책임은 이를 제출한 검찰과 경찰에 있습니다. 그런데 AI 위조가 쉬워지면, 피고인이 “이건 가짜다"를 증명해야 하는 부담을 떠안게 됩니다. 디지털 결과물의 진위를 개인이 입증하기란 거의 불가능에 가깝습니다. 무죄 추정의 원칙이 기술 앞에서 흔들리는 셈입니다.

그래서 무엇이 필요한가

해법의 방향은 분명합니다. AI를 수사에서 금지하는 건 현실적이지 않으니, 추적 가능성을 강제하는 쪽으로 가야 합니다.

가장 기본은 기록입니다. 어떤 AI 도구를, 누가, 언제, 어떤 명령어로 사용했는지 전부 로그로 남겨야 합니다. 수사 과정에 AI가 개입했다면 그 사실 자체를 증거 목록에 명시하도록 해야 합니다. 사람이 작성한 기록과 AI가 생성한 기록을 섞어두면 안 됩니다.

기술적으로는 원본 증거에 디지털 서명이나 변조 감지 장치를 다는 방안이 거론됩니다. 사진이나 영상이 촬영 시점 이후 손대졌는지 검증할 수 있게 만드는 것인데요. 다만 이 모든 장치도 결국 운영하는 사람의 윤리 위에서만 작동합니다. 도구가 정교해질수록, 그 도구를 쥔 사람에 대한 감시는 더 촘촘해져야 합니다.

이번 더비셔 사건은 아직 전모가 드러나지 않았습니다. 하지만 한 가지는 분명합니다. AI가 진실을 밝히는 도구가 될지, 진실을 묻어버리는 도구가 될지는 기술이 아니라 그것을 다루는 사람과 제도에 달려 있다는 점입니다. 여러분이 만약 법정에 섰을 때, 당신을 겨눈 증거가 AI로 만들어진 것이 아니라고 누가 보장해줄 수 있을까요.