Trong những năm vừa qua, chúng tôi đã tăng cường những nỗ lực làm tròn trách nhiệm của mình trong việc duy trì sức mạnh của một nền tảng mở. Chúng tôi làm việc dựa trên 4 nguyên tắc: 
Trong những tháng tiếp theo, chúng tôi sẽ cung cấp thêm thông tin chi tiết về những công tác nhằm triển khai những nguyên tắc trên. Kỳ đầu tiên này sẽ tập trung vào nguyên tắc Loại bỏ. Chúng tôi đã bắt đầu loại bỏ những nội dung độc hại ngay từ khi YouTube mới được thành lập, nhưng trong những năm gần đây, chúng tôi đã tăng cường đầu tư hơn nữa vào công tác này. Bên dưới là bản tóm tắt những cải tiến đáng chú ý nhất của chúng tôi kể từ năm 2016. Và với nỗ lực không ngừng này, chỉ trong 18 tháng qua, chúng tôi đã giảm thiểu đến 80% lượt xem trên những video vi phạm chính sách và đã bị loại bỏ ngay sau đó, và chúng tôi sẽ tiếp tục cố gắng để giảm thiểu con số này hơn nữa.

Phát triển chính sách mới cho nền tảng toàn cầu


Trước khi thực hiện công tác loại bỏ những nội dung vi phạm chính sách của mình, chúng tôi phải đảm bảo xác định ranh giới rạch ròi giữa những nội dung cần loại bỏ và nội dung được cho phép - dựa trên mục tiêu vừa đảm bảo quyền tự do thể hiện, vừa bảo vệ và khuyến khích một cộng đồng sôi động. Với định hướng đó, chúng tôi đã thành lập một đội ngũ phát triển chính sách tận tâm để xem xét toàn bộ chính sách một cách có hệ thống, nhằm đảm bảo những chính sách này phù hợp với bối cảnh hiện tại, bảo vệ an toàn cho cộng đồng nhưng không bóp nghẹt sự cởi mở của YouTube.

Mỗi khi xem xét một chính sách, chúng tôi thường phát hiện ra rằng không cần thiết thay đổi những nội dung cơ bản, bên cạnh, vẫn còn những phần mập mờ hoặc gây khó hiểu cho cộng đồng chưa được phát hiện. Do đó, có rất nhiều bản cập nhật giúp làm rõ hơn những quy định có sẵn. Chẳng hạn như đầu năm nay, chúng tôi đã cung cấp thông tin chi tiết về việc khi nào một “thử thách” được chúng tôi xác định là nguy hiểm cho YouTube. Từ năm 2018, chúng tôi đã cập nhật chính sách hàng chục lần nhằm củng cố những quy định của mình, một số cập nhật chỉ là những bổ sung nhỏ, nhưng cũng có một số bổ sung nền tảng quan trọng hơn.

Với những vấn đề đặc biệt phức tạp, chúng tôi có thể phải dành nhiều tháng để phát triển một chính sách mới. Trong thời gian này, chúng tôi sẽ nhờ đến sự cố vấn từ những chuyên gia bên ngoài và những nhà sáng tạo YouTube để hiểu hơn về chỗ hạn chế trong chính sách hiện hành của mình, và xem xét những khác biệt theo khu vực để đảm bảo đưa ra được những thay đổi có thể áp dụng đồng đều trên khắp thế giới.

Cập nhật chính sách ‘lời nói căm thù’ đại diện cho một trong những thay đổi nền tảng trong chính sách của chúng tôi. Chúng tôi đã dành nhiều tháng để phát triển chính sách này một cách cẩn thận và làm việc với đội ngũ của mình để triển khai các khóa đào tạo và công cụ cần thiết để củng cố chúng. Chính sách này đã được áp dụng vào đầu tháng 6, và khi đội ngũ của chúng tôi kiểm định là loại bỏ các nội dung theo quy định mới, thì cơ chế phát hiện của chúng tôi cũng song song theo đó được cải thiện. Mặc dù chúng tôi phải mấy nhiều tháng để có thể tăng tốc việc thực thi quy định mới, nhưng tác động sâu sắc mà chính sách lời nói căm thù cập nhật của chúng tôi mang lại đã được chứng thực thông qua những dữ liệu được công bố trong Báo cáo Thực thi Chính sách cộng đồng:
Sự tăng đột biến về số lượng nội dung bị loại bỏ một phần là do việc loại bỏ các bình luận, video và kênh cũ hơn đã được cho phép trước đây. Vào tháng 4/2019, chúng tôi đã thông báo về việc cập nhật ‘chính sách về quấy rối’ của mình, bao gồm cả quấy rối liên quan người sáng tạo (creator). Tiến trình làm việc của chúng tôi sẽ được chia sẻ trong những tháng tới.

Sử dụng cơ chế tự động để “gắn cờ” nội dung xấu


Một khi đã xác định chính sách, chúng tôi dựa vào sự kết hợp giữa con người và công nghệ để gắn cờ nội dung cho đội ngũ xét duyệt của chúng tôi. Đôi khi, chúng tôi sử dụng mã hash (hoặc các dấu vân tay kỹ thuật số) để tóm các bản sao chép nội dung vi phạm đã được biết ngay trước khi chúng đến được với người xem. Đối với một số nội dung, như hình ảnh lạm dụng tình dục trẻ em (CSAI) và video kêu gọi khủng bố, chúng tôi đóng góp vào cơ sở dữ liệu mã hash dùng chung của ngành công nghiệp để tăng khối lượng nội dung mà hệ thống của chúng tôi có thể tóm ngay trong lúc chúng đang tải lên.

Trong năm 2017, chúng tôi đã mở rộng việc sử dụng công nghệ máy học (Machine Learning) giúp phát hiện nội dung có khả năng vi phạm và gửi đến khâu kiểm duyệt thủ công. Máy học (ML) rất phù hợp để phát hiện các mẫu, giúp chúng tôi tìm thấy nội dung tương tự (nhưng không hoàn toàn giống nhau) với nội dung khác mà chúng tôi đã xóa, ngay cả trước khi chúng được xem. Các hệ thống này đặc biệt hiệu quả trong việc gắn cờ nội dung tương tự nhau - chẳng hạn như spam hoặc nội dung người lớn. Máy cũng có thể giúp gắn cờ lời nói căm thù và nội dung vi phạm khác, nhưng các danh mục này phụ thuộc nhiều vào ngữ cảnh, do đó việc kiểm định thủ công để đưa ra nhận xét về sắc thái của nội dung càng trở nên quan trọng. Tuy nhiên, đến hơn 87% trong số 9 triệu video chúng tôi đã xóa trong quý II/2019 đã được các hệ thống tự động của chúng tôi gắn cờ trước.

Chúng tôi đang đầu tư đáng kể vào các hệ thống phát hiện tự động này và các nhóm kỹ thuật của chúng tôi tiếp tục cập nhật và cải thiện chúng theo từng tháng. Chẳng hạn như, bản cập nhật cho các hệ thống phát hiện video spam của chúng tôi trong quý II năm 2019 đã giúp cho số lượng kênh bị khóa do vi phạm chính sách spam của chúng tôi tăng hơn 50%.

Loại bỏ nội dung trước khi chúng được xem rộng rãi


Chúng tôi cố gắng hết sức để đảm bảo nội dung vi phạm các quy tắc của chúng tôi không được xem rộng rãi, hoặc thậm chí không được xem trước khi chúng bị xóa. Như đã nói ở trên, các cải tiến trong hệ thống gắn cờ tự động của chúng tôi đã giúp chúng tôi phát hiện và xem xét nội dung ngay cả trước khi được cộng đồng gắn cờ và do đó, trong quý thứ hai 2019, hơn 80% các video được gắn cờ tự động đã bị xóa trước khi chúng nhận được bất kỳ một lượt xem nào.

Chúng tôi cũng nhận ra rằng cách tốt nhất để xóa nội dung một cách nhanh chóng là lường trước các vấn đề trước khi chúng xuất hiện. Vào tháng 1 năm 2018, chúng tôi đã thành lập Bộ phận Tình báo, một nhóm theo dõi tin tức, phương tiện truyền thông xã hội và báo cáo người dùng với mục tiêu phát hiện các xu hướng mới liên quan đến các nội dung không phù hợp và đảm bảo các đội ngũ của chúng tôi sẵn sàng giải quyết chúng trước khi chúng có thể trở thành vấn đề lớn hơn.

Chúng tôi quyết tâm tiếp tục giảm lượng tiếp xúc với các video vi phạm chính sách của chúng tôi. Đó là lý do tại sao, trên Google, chúng tôi đã nhờ đến sự cộng tác của hơn 10.000 người nhằm phát hiện, kiểm định và xóa nội dung vi phạm các nguyên tắc của chúng tôi. Nhờ khả năng xóa một cách nhanh chóng những nội dung này, lượt xem các video vi phạm chính sách của chúng tôi chỉ chiếm chưa đến một phần trăm trên YouTube.
Chẳng hạn như, gần 30,000 video chúng tôi đã loại bỏ vì chứa lời nói căm thù trong tháng qua chỉ chiếm 3% so với lượng xem của các video dạy đan len trong cùng khoảng thời gian.

Tuần trước, chúng tôi đã cập nhật Báo cáo Thực thi Nguyên tắc Cộng đồng, một báo cáo hàng quý cung cấp thêm thông tin chi tiết về số lượng nội dung chúng tôi xóa khỏi YouTube, tại sao chúng bị xóa và được phát hiện như thế nào. Báo cáo đó cho thấy việc công nghệ được triển khai trong vài năm qua đã giúp chúng tôi xóa nội dung độc hại khỏi YouTube nhanh hơn bao giờ hết như thế nào. Báo cáo cũng nhấn mạnh rằng chuyên môn của con người vẫn là một yếu tố quan trọng trong nỗ lực thi hành quy định của chúng tôi, khi chúng tôi cố gắng phát triển các chính sách thật chu đáo, xem xét nội dung thật cẩn thận và triển khai một cách có trách nhiệm công nghệ máy học của chúng tôi.
x