정교한 거짓이 만든 패턴에 오염되는 AI는 필터로 해결되지 않는다. 다만 완화될 뿐이다. AI는 흔히 객관적이고 중립적인 기술처럼 여겨진다. 그러나 AI가 하는 일은 진실을 이해하는 것이 아니라, 데이터 속에서 반복되는 패턴을 계산하고 학습하는 일에 가깝다. 바로 이 지점에서 AI의 근본적 한계가 드러난다. 데이터는 현실 그 자체가 아니라, 이미 누군가의 선택과 표현, 이해관계와 제도의 흔적이 섞인 결과물이기 때문이다. 문제는 단순한 오류나 노이즈가 아니다. 더 어려운 것은 ‘정교한 거짓’이다. 이것은 틀린 정보가 아니라, 맞는 것처럼 보이도록 설계된 표현이다. 사람은 언제나 자신의 생각과 감정을 있는 그대로 드러내지 않는다. 관계를 의식하고, 손해를 피하려 하고, 더 설득력 있어 보이기를 원한다. 때로는 제도와 구조가 특정 방식의 기록과 표현을 강요하기도 한다. 그렇게 만들어진 데이터는 현실의 직접적 반영이 아니라, 이미 가공되고 조정된 결과다. 이러한 왜곡은 쉽게 드러나지 않는다. 오히려 반복될수록 더 자연스러운 패턴으로 받아들여진다. 처음에는 예외였던 것이 점차 관행이 되고, 관행은 다시 정상처럼 보인다. 우리는 그 패턴이 왜 만들어졌는지 묻기보다, 반복된다는 이유만으로 신뢰하게 된다. 바로 이 지점에서 AI는 위험해진다. AI는 데이터에 담긴 표현의 의도까지 이해하지 못한다. 그 안에서 무엇이 두려움 때문인지, 무엇이 전략적 선택인지, 무엇이 구조적 왜곡인지 구분하지 못한 채 반복되는 형식 자체를 학습한다. 그 결과 충분히 축적된 거짓은 예외가 아니라 정상으로 분류되고, 진실처럼 보이는 분포가 하나의 현실처럼 작동하기 시작한다. AI는 진실을 배우는 것이 아니라, 진실처럼 보이도록 굳어진 패턴을 배운다. 이 지점에서 블록체인 같은 기술적 대안이 떠오를 수 있다. 블록체인은 위변조를 막고 기록의 신뢰성을 높이는 데 강점을 가진다. 그러나 블록체인이 보장하는 것은 데이터의 무결성이지, 데이터의 진실성은 아니다. 기록된 뒤의 조작은 막을 수 있어도, 기록되기 전부터 왜곡된 데이터까지 바로잡을 수는 없다. 오히려 정교한 거짓이 처음부터 입력되었다면, 블록체인은 그 거짓을 더 단단하게 고정하는 역할을 할 수도 있다. 필터 역시 마찬가지다. 필터는 명백한 오류나 이상치를 걸러내는 데는 도움이 된다. 그러나 정교한 거짓은 대개 평균적인 얼굴을 하고 나타난다. 규칙을 어기지도 않고, 통계적으로도 튀지 않으며, 오히려 가장 그럴듯한 형태로 스며든다. 그래서 필터는 이것을 제거하기보다 통과시키기 쉽다. 데이터가 이미 패턴으로 굳어진 뒤에는, 사후적 필터링만으로 근본 문제를 해결하기 어렵다. 결국 가능한 것은 제거가 아니라 완화다. 서로 다른 출처의 데이터를 교차 검증하고, AI의 판단을 절대화하지 않으며, 인간의 해석과 비판을 끝까지 남겨두는 일이다. 중요한 것은 AI의 계산 능력을 신뢰하는 것이 아니라, 그 계산이 닿지 못하는 영역이 있다는 사실을 분명히 아는 일이다. 더 큰 문제는 이 왜곡이 순환한다는 점이다. 사람은 가공된 표현을 만들고, AI는 그것을 학습하며, 다시 AI가 만들어낸 결과는 사람의 판단과 행동에 영향을 준다. 그렇게 왜곡된 패턴은 더 넓고 더 강한 현실이 된다. 이때 AI는 현실을 반영하는 도구를 넘어, 왜곡된 현실을 증폭하는 장치가 될 수 있다. 그래서 지금 필요한 것은 더 정교한 필터에 대한 낙관이 아니다. 무엇이 데이터가 되고, 어떤 왜곡이 정상처럼 축적되는지를 묻는 태도다. 결국 우리는 AI의 수학적 한계를 인식하고, 그 결과를 쉽게 신뢰하지 않으며, 끊임없이 의심하고 검증하는 방식으로만 왜곡된 진실에 가까워질 수 있다. 진실은 수학적 따름수가 아니다.