Gần 18 tiếng sau vụ tấn công giết chết 49 người tại New Zealand,óthểchặnvideobạolựcnhờcôngnghệnàkèo nhà cái.de video quay lại cảnh tàn sát vẫn xuất hiện trên YouTube và Facebook. Một số chuyên gia cho rằng các hãng nên ứng dụng rộng rãi công nghệ mà họ đang sử dụng trong việc chống lại khiêu dâm trẻ em và vi phạm bản quyền để ngăn chặn phát tán các video bạo lực.

Video livestream dài 17 phút do kẻ thủ ác quay và đăng trên Facebook. Facebook cho biết đã gỡ video nhanh chóng nhưng nhiều giờ sau, các bản đăng lại vẫn tồn tại. Twitter đã chặn tài khoản đăng video và xóa các phiên bản khác trên nền tảng. YouTube sử dụng cả nguồn lực con người lẫn công nghệ để gỡ nội dung vi phạm chính sách.

Theo các chuyên gia, công nghệ “băm điện tử” (digital hashing) nên được sử dụng tốt hơn để chặn việc đăng lại các video dù không thể tóm gọn video quay trực tiếp. YouTube nói rằng họ dùng công nghệ băm để ngăn chặn việc tải lên video xả súng tại New Zealand nhưng với các video có chứa một phần trong clip gốc, họ phải dựa vào hệ thống báo cáo của người dùng.

Trong một tuyên bố, Facebook nói đã bổ sung mỗi video tìm được vào cơ sở dữ liệu nội bộ để phát hiện và tự động xóa các bản sao của video. Facebook xóa video khỏi Facebook Live và băm nó để tự động xóa video có hình ảnh tương tự ra khỏi Facebook và Instagram. Dù vậy, công ty không bình luận vì sao vài phần của video gốc vẫn còn trên nền tảng vài giờ sau.

Theo Hany Farid, giáo sư khoa học máy tính của trường cao đẳng Dartmouth, người đang dùng công nghệ hash để đối phó với khiêu dâm trẻ em, nếu Facebook sử dụng hàm băm mạnh hơn, công ty có thể tìm thấy phần lớn các bài đăng lại. Ngoài ra, bất kỳ phiên bản nào lọt lưới sau đó có thể bị băm và bổ sung vào chung cơ sở dữ liệu để ngăn chặn việc tải lên sau này.

Các mạng xã hội như Facebook đang phụ thuộc ngày càng lớn vào trí tuệ nhân tạo (AI) để báo cáo nội dung bạo lực. Tuy nhiên, quy trình không ổn định do nhiều yêu tố, chẳng hạn số lượng nội dung được tải lên hàng ngày hay AI không thể hiểu được bối cảnh mà sự việc diễn ra. Facebook, Google và Twitter dùng công nghệ băm để chống lại nội dung bất hợp pháp như khiêu dâm trẻ em, vi phạm bản quyền và video đi ngược với điều khoản dịch vụ.