AI 얼굴인식 오류로 노스다코타 범죄 혐의로 잘못 체포된 테네시 여성

테네시의 Angela Lipps(50세)가 한 번도 방문한 적 없는 노스다코타의 은행 사기 사건 용의자로 Clearview AI 시스템에 의해 잘못 식별되어 5개월 이상 구금되었다. Fargo 경찰은 AI 결과를 근거로 IP, 목격자 등 추가 조사 없이 체포를 진행했다. 커뮤니티에서는 AI 무오류 신화와 법 시스템의 검증 부재가 결합된 구조적 문제를 지적했다.

커뮤니티 의견

• @GN⁺: “누가 실제로 조사했는가가 핵심. IP, 목격자, AI 플래그 여부를 확인한 사람은 아무도 없었음. 시스템 전체를 문제 삼아야 함.”

💡 실무 포인트: AI 기반 의사결정 시스템을 도입할 때 반드시 인간 검증 단계를 포함해야 한다. AI 결과를 최종 판단이 아닌 참고 자료로 활용하는 프로세스 설계가 필수적이다.