Thông tin giả về COVID-19 quá đông và nguy hiểm, đã đến lúc các mạng xã hội lớn "thả" AI ra để làm việc thay con người rồi

Trí tuệ nhân tạo luôn là cách kiểm duyệt nội dung lý tưởng cho Facebook, Google và Twitter, tuy vậy để đưa vào thực tế thì vẫn cần có thêm thời gian, bởi hệ thống này vẫn chưa đủ thông minh để thay thế hoàn toàn cho con người, thế nhưng COVID-19 đang bắt các công cụ học máy phải đi vào hoạt động sớm hơn, trước khi nó kịp chuẩn bị sẵn sàng.

Hãy nói về những người làm việc tại Facebook và Google trong đại dịch, là những người kiểm duyệt nội dung, người giữ cho trang web hoạt động hàng ngày. Giống như hầu hết các câu chuyện về người điều hành nội dung, đây là câu chuyện về một quyết định khó khăn của họ. Và những hành động được Facebook và YouTube thực hiện trong vài ngày qua sẽ có ý nghĩa quan trọng đối với tương lai của công ty.

Nhìn lại vài năm trước khi AI chưa phổ biến, con người chính là “cỗ máy” kiểm duyệt nội dung

Lúc đầu, kiểm duyệt nội dung trên các mạng xã hội là một vấn đề lớn về mặt kinh doanh, nếu như để ảnh khỏa thân hay ảnh Nazi (Đức quốc xã) xuất hiện, cả cộng đồng sẽ sụp đổ. Sau đó thì liên quan cả đến pháp luật, các công ty có nghĩa vụ pháp lý để loại bỏ tuyên truyền khủng bố, hình ảnh lạm dụng trẻ em và các nội dung tương tự. 

Khi các dịch vụ như YouTube và Facebook tăng số lượng người dùng lên tới hàng tỷ, việc kiểm duyệt nội dung trở thành vấn đề mang tính toàn cầu, lúc này câu hỏi đặt ra cho họ là: “Làm thế nào để xem xét được hàng triệu bài đăng mỗi ngày bị báo cáo, vì vi phạm chính sách hoạt động của bạn?”.

Có một giải pháp xuất hiện, đó là thuê các công ty lớn chuyên để làm những việc này. Tới năm 2016, trước khi Mỹ tổ chức cuộc bầu cử tổng thống đời thứ 58, vẫn là sự thiếu hụt của người điều hành nội dung ở tất cả các mạng xã hội lớn, các công ty công nghệ đã thuê hàng chục ngàn người trên khắp thế giới thông qua các công ty bao gồm Accenture, Cognizant và Genpact. Điều này lại vô tình tạo ra một vấn đề mới, tính bảo mật của dữ liệu. 

Hãy cùng đặt vấn đề, khi người kiểm duyệt làm việc độc lập, bạn có thể áp dụng các công cụ theo dõi nghiêm ngặt cho máy tính của họ, để kiểm soát giới hạn quyền truy cập của họ với dữ liệu người dùng. Nhưng khi họ làm việc cho bên thứ ba, dữ liệu người dùng đó có nguy cơ rò rỉ ra thế giới bên ngoài cao hơn nhiều.

Bên trong các công ty công nghệ lớn, nỗi lo về rò rỉ dữ liệu đã tăng mạnh. Đối với Facebook nói riêng, những phản ứng dữ dội của mọi người từ sau kết quả cuộc bầu cử năm 2016, đã nảy sinh một phần những lo ngại về quyền riêng tư và bảo mật. Mọi chuyện đã dần tệ hơn khi lộ thông tin Cambridge Analytica lấy cắp thông tin từ hơn 87 triệu người dùng Facebook kể từ 2014, sự tin tưởng vào công ty đã giảm mạnh.

Đó là lý do tại sao các trang web kiểm duyệt nội dung thuê ngoài cho Facebook và YouTube được thiết kế bảo mật hơn. Nhân viên chỉ có thể làm việc trong tầng làm việc mà họ cần có thẻ để ra vào cửa. Họ không được phép mang theo bất kỳ thiết bị cá nhân nào, vì sợ họ lén chụp ảnh hoặc cố gắng lấy dữ liệu theo cách khác. Điều này có thể tạo ra sự không hài lòng cho nhân viên, có người bị sa thải chỉ vì vô tình mang điện thoại, và nhiều người trong số họ đã phàn nàn về việc họ bị ngăn không cho vào phòng của mình, ngay cả trong giờ làm việc. Nhưng không có công ty nào sẵn sàng nới lỏng những hạn chế đó, vì sợ nếu họ có mất mát dữ liệu quan trọng của người dùng, thì việc người dùng mất niềm tin và rời bỏ họ là có thể xảy ra.

Tua nhanh một chút đến hiện tại, khi một đại dịch đang lan rộng khắp thế giới theo cấp số nhân. Tuy đã nhiều năm trôi qua, nhưng chúng ta vẫn cần nhiều người kiểm duyệt làm việc kết hợp với cảnh sát, rõ ràng lượng thông tin trên mạng xã hội lúc này đang tăng mạnh. Nếu như để họ tiếp tục làm việc bình thường trong phòng, gần như chắc chắn họ sẽ góp phần vào sự lây lan của căn bệnh. Còn nếu để họ làm việc ở nhà, thì quay lại với vấn đề về thảm họa quyền riêng tư vào thời điểm mà mọi người (đặc biệt là người bệnh) sẽ rất nhạy cảm với việc lạm dụng dữ liệu cá nhân của họ.

Nếu bạn là Mark Zurgerberk, bạn sẽ làm gì?

Một cuộc phỏng vấn nội bộ của Facebook được thực hiện bởi The Intercept, cho thấy nhân viên hợp đồng luôn tình trạng bối rối, sợ hãi và phẫn nộ. Với nhiều nhân viên nói Facebook đang làm trái ngược với những gì đã tuyên bố trước đó, họ không được phép làm việc tại nhà, mặc dù trên lý thuyết vẫn có tính khả thi về mặt kỹ thuật, và quan trọng là lợi ích về sức khỏe của mọi người trong tình hình dịch bệnh căng thẳng này. 

The Intercept đã có những bài báo về việc có ít nhất 6 đối tác phàn nàn khi họ không thể cho nhân viên làm việc tại nhà. Một nhân viên của Accenture nói với The Intercept rằng toàn bộ đội ngũ hơn 20 đối tác của họ đã được thông báo rằng họ không được phép làm việc tại nhà, ngay cả trong dịch bệnh.

Công bằng mà nói, không chỉ có Facebook mới không triển khai một kế hoạch cụ thể cho các nhà đầu tư của mình. Một số công ty Mỹ vẫn đang tranh luận phải làm gì với lực lượng lao động của họ trong tuần này. Nhưng Facebook cũng đã khuyến khích nhân viên làm việc tại nhà, ít nhất là họ có thông báo cho mọi người. Điều này đã làm những nhân viên của họ không ngừng than vãn, một số người đã kiến ​​nghị Facebook hãy hành động ngay từ bây giờ.

Phía Facebook cũng đã đưa ra quyết định, kể từ hôm sau cuộc phỏng vấn, họ thông báo cho tất cả những nhân viên hợp đồng rằng họ không nên đến văn phòng. Đáng khen ngợi hơn, Facebook vẫn sẽ trả lương đều đặn trong thời gian này.

Google cũng đã đăng một thông báo tương tự. Tiếp theo đó là một thông báo chung từ Facebook, Google, LinkedIn, Microsoft, Reddit, Twitter và YouTube rằng họ đang hợp tác chặt chẽ với nhau trong các nỗ lực phòng chống COVID-19, bao gồm cả cam kết loại bỏ lừa đảo hay thông tin sai lệch liên quan đến virus và những nội dung không chính thống. Thông báo này không liên quan đến sự thay đổi trong chiến lược kiểm duyệt nội dung, nhưng nó chỉ ra một tương lai nơi các công ty hợp tác nhiều hơn trong việc xóa các bài đăng có hại.

Vậy người kiểm duyệt nội dung hầu hết đã được ở nhà, làm thế nào để mọi thứ vẫn được kiểm duyệt? Facebook cho phép một số người làm việc với nội dung ít nhạy cảm hơn tại nhà. Có thể ví dụ, như giúp đào tạo các hệ thống máy học để tạo tiêu đề bài viết. Những công việc khác đang được chuyển sang nhân viên toàn thời gian. Nhưng công ty cũng sẽ bắt đầu thử nghiệm trên các hệ thống máy học, trong nỗ lực tự động hóa việc kiểm duyệt nội dung.

Nó hướng đến mục tiêu dài hạn của mọi mạng xã hội để đưa AI (trí tuệ nhân tạo) vào hoạt động. Vào tháng 12 năm ngoái, Google đã nói rằng tính khả thi của hệ thống này vẫn cần một thời gian dài hơn nữa. Tuy nhiên mới gần đây thôi, công ty đã sửa lại lời nói của mình. 

YouTube sẽ phụ thuộc nhiều hơn vào AI để kiểm duyệt video trong đại dịch COVID-19, vì những người kiểm duyệt của họ phải ở nhà để tránh lây lan. Điều này có nghĩa là các video được gắn cờ bởi AI vì có khả năng vi phạm chính sách, giờ đây có thể bị gỡ khỏi trang web một cách tự động, thay vì cần một người để xem xét rằng nó có đáng bị xóa hay không.

Do sự phụ thuộc nhiều hơn vào AI, YouTube đã lường trước được việc sẽ xảy ra những sai sót trong khâu kiểm duyệt. Nhiều video có thể sẽ bị xóa, trong đó có số ít những video không vi phạm chính sách. Các video khác sẽ không được giới thiệu, hoặc hiển thị trong tìm kiếm và đề xuất cho đến khi nó được xem xét bởi con người.

YouTube cho biết nội dung bị AI gỡ xuống sẽ không ảnh hưởng gì lớn. Như mọi khi, Youtuber vẫn có thể kháng cáo một video đã bị gỡ xuống, nhưng Youtube cũng cảnh báo quá trình này sẽ lâu hơn vì đã giảm bớt quá trình kiểm duyệt của con người.

Thực tế, đây là một sự đặt cược rất lớn vào AI tại thời điểm nó vẫn khá dễ bị lỗi. Và ngay sau Youtube, cả Facebook và Twitter đều quyết định dựa nhiều hơn vào các công cụ học máy, Facebook luyện máy học cách xác định nội dung phản cảm bằng việc phân tích các nguồn thông tin từ những bài viết bị xóa đã có sẵn trong cơ sở dữ liệu, nhưng đó cũng là những hạn chế của hệ thống này. Nó cho thời gian phản hồi lâu hơn và kết quả là có nhiều lỗi hơn. Twitter cho biết họ cũng sẽ tăng cường sử dụng hệ thống tương tự, nhưng sẽ thận trọng hơn, họ không xóa người dùng khi bị phát hiện vi phạm bằng AI, vì những lo ngại về tính chính xác, công việc đó vẫn sẽ giao lại cho con người.

Vì vậy, nhiều nền tảng công nghệ cũng có thêm nhiều câu hỏi để giải quyết về vấn đề nội dung. Những bài đăng nào được duyệt đúng? Những bài đăng nào bị xóa nhầm? Những bài đăng nào đang bị hiểu nhầm rằng vi phạm chính sách hay không?

Ở quy mô toàn cầu, các công ty cũng đã làm sai rất nhiều, ngay cả trước khi đại dịch xuất hiện. Qua thử nghiệm, Facebook dường như có một lỗi trong bộ lọc spam News Feed của mình, khiến URL cho các trang web hợp pháp bao gồm Medium, BuzzFeed và USA Today bị chặn không được chia sẻ dưới dạng bài đăng hoặc bình luận. 

Vấn đề tiếp theo, Facebook đã ngăn không cho những tin tức về COVID-19 được chia sẻ, trong khi một số nội dung không liên quan thì được, mặc dù nó không biết được chính xác nội dung, cũng như không hề bị ngăn lại bởi những bộ lọc. Facebook đang cố gắng chống lại thông tin sai lệch liên quan đến vụ dịch, nhưng có vẻ như ngay cả thông tin chính thống cũng bị lọc. Chắc chắn rằng lỗi đó sẽ được sửa sớm thôi.

Cuối cùng, tôi xin dành sự tôn trọng đối với những người kiểm duyệt, những người tiếp tục làm việc mỗi ngày trong tuần qua, ngay cả khi họ biết rằng nó khiến họ gặp nguy hiểm. Một nhân viên Facebook làm việc cho Accenture đã nhớ lại cách công ty bắt đầu đưa nước rửa tay vào tháng 2, khi dịch bệnh đang lan nhanh ở Trung Quốc, nhưng phải đợi đến giữa tháng 3 mới được nghỉ làm. Thông báo chỉ vài ngày sau khi một số nhân viên nói rằng, người thân hoặc bạn cùng phòng của họ đã tiếp xúc trực tiếp với người nhiễm bệnh.

Dù thế nào thì những hành động này cũng vẫn hơi muộn, bởi vì họ vẫn làm việc tiếp xúc giữa người với người trong tâm dịch, thế nên khả năng lây lan và ủ bệnh cũng khá cao. Cũng bởi vì những chính sách không rõ ràng và sự chưa sẵn sàng của hệ thống AI trong những công ty lớn, nói riêng về việc kiểm duyệt nội dung trên mạng xã hội.

Nguồn: The Verge

Xem thêm: Không phải để khoe khoang, những smartphone màn hình gập mới chính là chìa khóa định hình lại tương lai của công nghệ