Meta vừa chính thức thông báo việc triển khai các hệ thống trí tuệ nhân tạo (AI) tiên tiến nhằm thay thế dần vai trò của các đơn vị đối tác thứ ba trong quy trình kiểm duyệt nội dung. Những hệ thống này được thiết kế để tự động nhận diện và gỡ bỏ các nội dung vi phạm nghiêm trọng như khủng bố, lạm dụng trẻ em, buôn bán ma túy và các hành vi lừa đảo trực tuyến. Công ty dự kiến sẽ áp dụng rộng rãi công nghệ này trên toàn bộ hệ sinh thái ứng dụng ngay khi chúng chứng minh được hiệu quả vượt trội so với các phương pháp thủ công hiện tại.

Việc chuyển dịch sang mô hình tự động hóa giúp Meta tối ưu hóa nguồn lực, tập trung vào những mảng công việc mà máy móc có lợi thế hơn con người. AI sẽ đảm nhận các tác vụ có tính chất lặp đi lặp lại hoặc các nội dung có hình ảnh gây ám ảnh tâm lý, đồng thời phản ứng linh hoạt trước những thủ đoạn giả mạo người nổi tiếng hay chiếm đoạt tài khoản đang ngày càng tinh vi. Khả năng phát hiện các tín hiệu bất thường như đăng nhập từ vị trí mới hoặc thay đổi thông tin cá nhân đột ngột sẽ giúp ngăn chặn rủi ro cho người dùng từ sớm.

Kết quả thử nghiệm ban đầu cho thấy hiệu quả khả quan khi AI có khả năng phát hiện gấp đôi các nội dung gạ gẫm tình dục người lớn so với đội ngũ kiểm duyệt truyền thống. Đáng chú ý, tỷ lệ sai sót đã giảm hơn 60%, giúp hạn chế tình trạng kiểm duyệt quá mức gây ảnh hưởng đến trải nghiệm của người dùng hợp lệ. Ngoài ra, hệ thống mới này còn có khả năng nhận diện và ngăn chặn khoảng 5.000 nỗ lực lừa đảo mỗi ngày, bảo vệ thông tin đăng nhập của người dùng trước các cuộc tấn công lừa đảo.

Mặc dù AI đóng vai trò chủ chốt, đội ngũ chuyên gia của Meta vẫn trực tiếp thiết kế, huấn luyện và giám sát toàn bộ quy trình vận hành để đảm bảo tính chính xác. Con người sẽ tiếp tục giữ trách nhiệm đưa ra các quyết định phức tạp, có tác động lớn như xử lý các khiếu nại khóa tài khoản hoặc phối hợp với các cơ quan thực thi pháp luật. Sự kết hợp này nhằm đảm bảo tính minh bạch và công bằng, đặc biệt là trong các trường hợp đòi hỏi sự thấu cảm và hiểu biết sâu sắc về văn hóa mà máy móc chưa thể thay thế hoàn toàn.

Động thái này diễn ra trong bối cảnh Meta đang đối mặt với nhiều áp lực pháp lý liên quan đến việc bảo vệ người dùng trẻ tuổi và những thay đổi về chính sách kiểm duyệt dưới thời chính quyền mới tại Mỹ. Song song với việc nâng cấp hệ thống kiểm soát, công ty cũng ra mắt trợ lý hỗ trợ Meta AI 24/7 trên Facebook và Instagram. Công cụ này cho phép người dùng tiếp cận sự hỗ trợ kỹ thuật và giải đáp thắc mắc mọi lúc mọi nơi thông qua ứng dụng di động hoặc phiên bản máy tính.

Sự chuyển dịch sang kiểm duyệt bằng AI không chỉ giúp Meta nâng cao hiệu suất vận hành mà còn tạo ra một lớp màng bảo vệ chủ động hơn cho cộng đồng người dùng. Để đảm bảo an toàn tối đa, người dùng nên chủ động tận dụng các công cụ hỗ trợ mới từ Meta AI và thường xuyên kiểm tra các thiết lập bảo mật cá nhân trên nền tảng.