Chúng ta chiến thắng cuộc chiến chống khủng bố trực tuyến?

Bởi Monika Bickert, Trưởng ban quản lý chính sách toàn cầu, và Brian Fishman, Giám đốc Chính sách chống khủng bố, Facebook

Trong những thập kỷ gần đây, khi mọi người thấy rõ rằng internet có thể được sử dụng để kết nối cả người tốt lẫn người nghèo, Facebook và các công ty truyền thông xã hội khác đã ưu tiên giảm thiểu những kẻ tội phạm có thể sử dụng công nghệ mới. Một trong những thách thức lớn nhất trong lĩnh vực này là các nhóm khủng bố đã chấp nhận Internet như là một cách để truyền bá tuyên truyền và tuyển dụng những người khác vào các ý thức hệ cực đoan của họ. Các nhóm này không hạn chế nỗ lực của họ đối với một dịch vụ truyền thông xã hội hoặc cơ chế phân phối trực tuyến. Thay vào đó, họ thử nhiều cách khác nhau để đưa thông điệp của họ ra ngoài.

Nhưng ngay cả khi các chính phủ, công ty và phi lợi nhuận đã chiến đấu chống lại việc tuyên truyền khủng bố trực tuyến, chúng tôi đã phải đối mặt với một câu hỏi phức tạp về cách tốt nhất để giải quyết một thách thức toàn cầu có thể tăng lên theo những cách khác nhau, qua các phần khác nhau của web.

Thường thì các nhà phân tích và quan sát viên sẽ yêu cầu chúng tôi tại Facebook tại sao, với các cơ sở dữ liệu rộng lớn và công nghệ tiên tiến của chúng tôi, chúng ta không thể chỉ ngăn chặn hoạt động bất chính bằng cách sử dụng công nghệ riêng lẻ. Sự thật là chúng ta không chỉ cần công nghệ mà còn cả con người để làm công việc này. Và để có thể thực sự hiệu quả trong việc ngăn chặn sự lây lan của nội dung khủng bố trên toàn bộ internet, chúng ta cần kết hợp với những người khác.

Hơn hai năm trước đây, chúng tôi bắt đầu cuộc họp với hơn một chục công ty công nghệ khác để thảo luận về cách tốt nhất để chống lại các nỗ lực của người khủng bố sử dụng dịch vụ của chúng tôi. Tất cả chúng ta đều phải đối mặt với những thách thức tương tự, bao gồm cách xác định số lượng tương đối nhỏ nội dung khủng bố trên các trang web tương đối lớn của chúng tôi và cách xem nội dung đó nhanh và chính xác qua nhiều ngôn ngữ.

Trong một bài viết về Những câu hỏi khó vào tháng 6 năm ngoái, chúng tôi mô tả cách thức chúng ta phải đối mặt với những thách thức trên Facebook. Chúng tôi đầu tư vào các nỗ lực để ngăn chặn nội dung khủng bố từ khi chạm vào trang web của chúng tôi. Nhưng khi đó, chúng tôi đang làm việc để nhanh chóng tìm thấy nó và gỡ bỏ nó khỏi nền tảng của chúng tôi. Trước đây, chúng tôi đã dựa vào người khác - người đánh giá nội dung của chúng tôi - để đánh giá nội dung vi phạm có thể và xóa nó. Nhưng như chúng ta đã mô tả vào tháng 6 năm ngoái, chúng ta đã bắt đầu sử dụng trí thông minh nhân tạo để bổ sung cho những nỗ lực này. Để tìm ra những gì hiệu quả, chúng ta phải đối mặt với những thách thức mà bất kỳ công ty nào phải đối mặt trong việc phát triển công nghệ có thể làm việc trên các loại phương tiện truyền thông khác nhau. Ví dụ: một giải pháp hoạt động cho ảnh sẽ không nhất thiết hỗ trợ video hoặc văn bản. Một giải pháp hoạt động để nhận dạng biểu tượng khủng bố trong các hình ảnh sẽ không nhất thiết phân biệt giữa một người chia sẻ khủng bố với hình ảnh đó để tuyển mộ và một tổ chức tin tức chia sẻ cùng một hình ảnh để giáo dục công chúng.

Hôm nay chúng tôi có một cập nhật về cách công việc này sẽ xảy ra. Vẫn còn sớm, nhưng kết quả hứa hẹn, và chúng tôi hy vọng AI sẽ trở thành một công cụ quan trọng hơn trong kho vũ khí của sự bảo vệ và an toàn trên Internet và trên Facebook.

Đồng thời, vì AI không phải là câu trả lời, chúng tôi tiếp tục mở rộng quan hệ hợp tác với các công ty công nghệ khác, các chính phủ và phi lợi nhuận chia sẻ mục tiêu của chúng tôi nhằm loại trừ chủ nghĩa khủng bố trên Internet.

Phát hiện và Loại bỏ Chủ nghĩa khủng bố thông qua Trí tuệ nhân tạo

Việc sử dụng AI và các hệ thống tự động khác để ngăn chặn sự lây lan của nội dung khủng bố đang cho thấy lời hứa.

Hôm nay, 99% nội dung khủng bố của ISIS và Al Qaeda mà chúng tôi loại bỏ khỏi Facebook là nội dung chúng tôi phát hiện trước khi bất cứ ai trong cộng đồng của chúng tôi gắn cờ nó với chúng tôi, và trong một số trường hợp, trước khi nó xuất hiện trên trang web. Chúng tôi làm điều này chủ yếu thông qua việc sử dụng các hệ thống tự động như kết hợp hình ảnh và video và học máy dựa trên văn bản. Khi chúng tôi nhận thức được một nội dung khủng bố, chúng tôi sẽ xóa 83% các bản sao được tải lên sau đó trong vòng 1 giờ sau khi tải lên.

Triển khai AI cho chống khủng bố không đơn giản như lật một chuyển đổi. Tùy thuộc vào kỹ thuật, bạn cần phải cẩn thận giám sát các cơ sở dữ liệu hoặc có con người mã dữ liệu để đào tạo một máy. Một hệ thống được thiết kế để tìm nội dung từ một nhóm khủng bố có thể không làm việc cho người khác vì ngôn ngữ và sự khác biệt phong cách trong tuyên truyền của họ. Do những hạn chế này, chúng tôi tập trung các kỹ thuật sáng tạo nhất của mình vào các nhóm khủng bố gây ra mối đe dọa lớn nhất trên toàn cầu, trong thế giới thực và trực tuyến. ISIS và Al Qaeda trực tiếp đáp ứng định nghĩa này, vì vậy chúng tôi ưu tiên các công cụ của chúng tôi để chống lại các tổ chức này và các chi nhánh của họ. Chúng tôi hy vọng theo thời gian rằng chúng tôi có thể phát triển có trách nhiệm và có hiệu quả việc sử dụng các hệ thống tự động để phát hiện nội dung từ các tổ chức khủng bố trong khu vực.