Công nghệ nhận diện khuôn mặt vốn được quảng bá là "cánh tay nối dài" giúp lực lượng hành pháp thực thi công lý. Tuy nhiên, đằng sau những thuật toán phức tạp là những lỗ hổng chết người, có thể biến một công dân vô tội thành tội phạm truy nã chỉ trong tích tắc. Trường hợp của bà Angela Lipps là một lời cảnh tỉnh đanh thép về sự nguy hiểm khi con người quá tin tưởng vào trí tuệ nhân tạo.

Cơn ác mộng 6 tháng tù oan vì một "mã code" sai lệch

Câu chuyện bắt đầu vào tháng 7 năm ngoái tại Tennessee, bà Angela Lipps (50 tuổi) đang yên lành trông nom 4 đứa trẻ thì bị cảnh sát liên bang ập vào bắt giữ bằng súng. Tội danh: Trốn truy nã vì gian lận ngân hàng tại Bắc Dakota.

Điều trớ trêu là bà Lipps chưa từng đặt chân đến Bắc Dakota trong đời. Trong khi cảnh sát Fargo tin rằng phần mềm nhận diện khuôn mặt đã xác định chính xác bà là người phụ nữ rút trộm hàng chục nghìn đô la bằng thẻ giả, thì thực tế, vào thời điểm đó bà đang ở cách hiện trường hơn 1.200 dặm (khoảng 1.900 km).

Sự cẩu thả của các điều tra viên khi chỉ so sánh bằng mắt thường giữa ảnh bằng lái xe và ảnh camera giám sát chất lượng thấp đã khiến bà Lipps phải ngồi tù 108 ngày chờ dẫn độ. Đến khi hồ sơ ngân hàng chứng minh bà đang mua thuốc lá tại Tennessee đúng lúc vụ án xảy ra, sự thật mới được phơi bày. Tuy nhiên, cái giá phải trả là quá đắt: Bà mất nhà, mất xe, mất luôn cả thú cưng và bị bỏ mặc không tiền bạc giữa đêm Giáng sinh lạnh giá tại một tiểu bang xa lạ.

Không phải lỗi lầm duy nhất của thuật toán

Vụ việc của bà Lipps không phải là cá biệt. Năm 2020, Robert Williams tại Detroit cũng từng bị bắt oan sau khi hệ thống AI nhầm lẫn ảnh bằng lái của ông với một kẻ trộm đồng hồ. Thành phố Detroit sau đó đã phải bồi thường 300.000 USD và ra lệnh cấm bắt giữ người chỉ dựa trên kết quả của phần mềm.

Thậm chí, sự nhầm lẫn của AI còn đạt đến mức lố bịch nhưng đầy nguy hiểm: Vào tháng 10 vừa qua, một học sinh trung học đã bị cảnh sát vây ráp chỉ vì AI nhận diện nhầm... một túi bánh Doritos trên tay cậu là một khẩu súng.

Công nghệ không có lỗi, lỗi nằm ở cách con người sử dụng nó như một phán quyết cuối cùng thay vì là một công cụ tham khảo. Vụ án của bà Angela Lipps là minh chứng cho thấy một sai số nhỏ trong thuật toán có thể phá nát cả một cuộc đời. Chừng nào các cơ quan hành pháp chưa thiết lập được quy trình kiểm chứng nghiêm ngặt, chừng đó "bóng ma" của những bản án oan sai từ AI vẫn sẽ còn lẩn khuất.