Facebook đang triển khai công nghệ trí tuệ nhân tạo (AI) được thiết kế để phát hiện các bài viết có ý nghĩ xấu, “chủ động phát hiện” những ý nghĩ muốn tự tử và có biện pháp can thiệp sớm nhất ngăn chặn vấn đề.
Phần mềm AI mới của Facebook có khả năng rà quét tất cả các nội dung người dùng đưa lên mạng xã hội, từ đó phát hiện những dấu hiệu hé lộ ý nghĩ muốn tự tử của người dùng. Phần mềm có thể phân tích các bài đăng và thậm chí các video trực tiếp để phát hiện ra chủ nhân của nó đang có ý nghĩ tiêu cực. Hơn nữa, nó cũng được thiết kế để đưa ra nhận xét về một bài đăng có vấn đề, chẳng hạn như “Bạn có ổn không?” khi phát hiện những chỉ số cho thấy có điều gì đó không ổn với chủ nhân bài đăng.
Về cách thức hoạt động, Facebook cho biết công ty sử dụng AI để ưu tiên thứ tự dựa trên bài đăng, video và video trực tiếp nhằm đảm bảo xác định đúng những người đang gặp khó khăn trong cuộc sống để từ đó nhanh chóng có hành động hỗ trợ. Kết hợp với đó, công cụ hỗ trợ của công ty sẽ giúp hiểu rõ người nào đang gặp khó khăn và hỏi họ có cần giúp đỡ hay không. Ngoài ra, AI có thể truy cập nhanh hơn vào liên hệ của người đăng để đưa ra những phản hồi thích hợp.
Trong các trường hợp khẩn thiết, Facebook sẽ gửi tới những tài khoản người dùng có nguy cơ cao các nguồn thông tin hỗ trợ sức khỏe tâm thần hoặc cảnh báo thông tin tới bạn bè họ hay những lực lượng hữu trách tại địa phương.
Nghiên cứu phần mềm AI phòng chống nạn tự tử mới được Facebook áp dụng cho nhiều khu vực trên thế giới, tuy nhiên Facebook xác nhận nó sẽ không có sẵn cho người dùng khu vực châu Âu, vì pháp luật của khu vực này không cho phép Facebook tiến hành việc rà quét nội dung đó.
Nghiên cứu này của Facebook cũng vấp phải nhiều ý kiến trái chiều và nghi ngại về khả năng mạng xã hội này có thể sử dụng công nghệ AI của họ vào cả những hoạt động rà quét phục vụ mục đích khác như an ninh, tội phạm, chính trị. Trong một thông báo ngắn gọn trên Twitter về vấn đề này, ông Alex Stamos, giám đốc an ninh của Facebook, khẳng định mạng xã hội này sẽ hành xử một cách có trách nhiệm trong việc sử dụng công nghệ AI.
