Tác giả: Ông Matt Halprin, Phó chủ tịch – Giám đốc toàn cầu, Nhóm phụ trách vấn đề về Tin cậy và An toàn | Bà Jennifer Flannery O'Connor, Phó chủ tịch, Nhóm Quản lý sản phẩm.
Từ những ngày đầu tiên, YouTube đã đề ra Nguyên tắc cộng đồng để thiết lập những quy định cho phép nội dung được lưu hành trên nền tảng. Những quy tắc này giúp thúc đẩy sự sáng tạo trong khi vẫn ưu tiên bảo vệ toàn thể cộng đồng YouTube khỏi những nội dung gây độc hại. Sự cân bằng này là yếu tố quan trọng, tạo điều kiện để những tiếng nói mới được biết đến rộng rãi trong cộng đồng YouTube và khuyến khích những ý tưởng được chia sẻ nhiều hơn. Cũng cần nói thêm rằng, việc đảm bảo sự thành công lâu dài YouTube dưới góc độ doanh nghiệp là vô cùng cần thiết, vì về cơ bản, các đối tác quảng cáo của chúng tôi không muốn nội dung độc hại xuất hiện trong cộng đồng.
Chúng tôi thường xuyên nhận được một số câu hỏi xoay quanh cách thức xác định những ranh giới trong chính sách hoặc vì sao việc phát triển và đưa ra các chính sách mới cần nhiều thời gian (để có cái nhìn tổng quan hơn về những nỗ lực của chúng tôi trong việc thực hiện l trách nhiệm với cộng động, hãy xem tại đây). Qua bài blog này, chúng tôi muốn gửi đến một bức tranh rõ hơn về cách YouTube phát triển chính sách và những quy trình để thực thi các chính sách đó.
Chúng tôi xác định những thay đổi cần thiết đối với chính sách bằng cách nào?
Đi cùng với sự chuyển mình nhanh chóng của Thế giới, các chính sách của chúng tôi cũng cần bắt kịp với tốc độ đó để có những sự thay đổi phù hợp. Vì thế, chúng tôi thường xuyên xem xét lại các chính sách của mình (tương tự như đối với các luật chi phối xã hội dân sự) để đảm bảo chúng phản ánh đúng những thay đổi diễn ra cả trong và ngoài nền tảng YouTube. Xin nói rõ như sau: phần lớn nội dung trên YouTube không hề vi phạm các nguyên tắc cộng đồng của chúng tôi. Tuy nhiên, chúng tôi vẫn tiến hành kiểm tra để tìm rà soát những lỗ hổng tiềm tàng hoặc truy lùng những rủi ro có thể gây hại đến chính sách của chúng tôi dưới những hình thức mới.
Trong quá trình nỗ lực đảm bảo các chính sách của YouTube có những thay đổi phù hợp với bối cảnh hiện tại, chúng tôi tập trung hướng đến một mục tiêu chính: ngăn chặn những tác hại nghiêm trọng ngoài đời thực. Điều này không đồng nghĩa là với việc chúng tôi gỡ bỏ mọi nội dung phản cảm khỏi YouTube. bởi chúng tôi tin rằng việc tranh luận cởi mở và tự do ngôn luận sẽ tạo nên một xã hội tốt đẹp hơn. Tuy nhiên, chúng tôi vẫn phải thực sự cẩn thận để vạch ra những giới hạn xoay quanh nội dung có thể gây hại nghiêm trọng đến người dùng trên YouTube hoặc chính nền tảng YouTube.
Điều này bao gồm những thương tổn vật lý Ví dụ: Khi những tuyên bố cho rằng công nghệ 5G có mối liên hệ với sự lây lan của dịch bệnh COVID-19 khiến các trạm phát sóng trên khắp Vương quốc Anh bị phá hoại, chúng tôi đã nhanh chóng xác định những tuyên bố đó là nội dung vi phạm. Đó cũng có thể là những nội dung có khả năng gây hại đáng kể đến các thể chế dân chủ,do đó, chúng tôi nghiêm cấm những tuyên bố nhằm mục đích gây hiểu lầm trong việc bỏ phiếu, bao gồm cả việc truyền bá thông tin sai lệch về thời gian, địa điểm hoặc điều kiện bỏ phiếu.
Chúng tôi cũng phối hợp chặt chẽ với các tổ chức phi chính phủ, học giả và chuyên gia đến từ các quốc gia và lĩnh vực khác nhau , để có cơ sở cho quá trình đánh giá chính sách này. Họ giúp chúng tôi nhận diện những mối lo ngại mới hoặc đưa ra những hiểu biết sâu sắc về các chủ đề phức tạp có khả năng sẽ không ngừng thay đổi. Ví dụ: Khi đại dịch COVID-19 mới bùng phát, chúng tôi đã đề ra chính sách đối với thông tin sai lệch về COVID-19 với sự đồng hành của các cơ quan y tế như Trung tâm Kiểm soát Bệnh tật và Tổ chức Y tế Thế giới. Sau đó, khi những quy định về việc đeo khẩu trang và giãn cách xã hội được nới lỏng, chúng tôi nhanh chóng cập nhật các chính sách của mình đối với những nội dung nghi ngờ tính hiệu quả của việc đeo khẩu trang và giãn cách xã hội.
Chúng tôi xác định "ranh giới vi phạm chính sách" như thế nào?
Sau khi xác định những vấn đề mới cần được quy định rõ ràng, nhóm phụ trách vấn đề về Tin cậy và An toàn sẽ bắt tay vào phát triển một giải pháp phù hợp nhất. Chúng tôi bắt đầu từ việc đánh giá một số yếu tố. Loại nội dung gây hại này xuất hiện trên YouTube với tần suất như thế nào (và tiềm tàng những nguy cơ phát triển gì )? Những nội dung này được quản lý như thế nào theo Nguyên tắc cộng đồng hiện thời?
Tiếp đến , chúng tôi xem hàng chục, thậm chí hàng trăm video để hiểu rõ hệ quả của việc vạch ra những giới hạn khác nhau trong một chính sách. Việc quy định không bao giờ dựa trên duy nhất một video, mà là quá trình cân nhắc những ảnh hưởng có thể tác động đến tất cả các video (video nào sẽ bị gỡ bỏ và video nào sẽ được giữ lại, theo những nguyên tắc mới). Sau quá trình xem xét toàn diện này, nhóm phụ trách vấn đề về Tin cậy và An toàn sẽ đưa ra nhiều lựa chọn về các giới hạn sẽ được đề ra, kèm theo ví dụ chi tiết về những video sẽ bị gỡ bỏ hoặc được phê duyệt (phối hợp với những biện pháp thực thi khác nhau, chẳng hạn như việc đánh giá gỡ bỏ video hay dán nhãn giới hạn về độ tuổi).
Lựa chọn phù hợp nhất trong số đó sẽ tiếp tục trải qua các vòng đánh giá tiếp theo. Ở giai đoạn này, chúng tôi sẽ tìm hiểu xem chính sách được đề xuất đó có đạt được một số mục tiêu quan trọng nhất định hay không:
Giảm thiểu những tác hại nghiêm trọng ngoài đời thực trong khi vẫn cân bằng được quyền tự do ngôn luận.
Cho phép hàng nghìn người kiểm duyệt nội dung trên khắp thế giới thực thi chính sách một cách nhất quán.
Nếu chúng tôi hài lòng rằng đã đạt được những mục tiêu đó, chính sách được đề xuất sẽ được xem xét bởi một nhóm các trưởng bộ phận trong công ty. Các cấp lãnh đạo cao nhất, bao gồm cả Giám đốc sản phẩm và Giám đốc điều hành của YouTube, sẽ đưa ra quyết định ký duyệt cuối cùng. Tại bất kỳ thời điểm nào, nếu các nhóm liên tục có sự bất đồng về các quy định được đề xuất, thì chính sách này sẽ quay về bước đầu tiên.
Những ai sẽ đóng góp ý kiến cho quá trình phát triển và thực thi chính sách?
Trong suốt quá trình phát triển chính sách, chúng tôi hợp tác chặt chẽ với nhiều chuyên gia uy tín bên thứ ba về các chủ đề như lời nói hận thù hoặc hành vi quấy rối. Chúng tôi cũng phối hợp với các cơ quan chính phủ về những vấn đề quan trọng khác như chủ nghĩa cực đoan bạo lực và sự an toàn của trẻ em.
Các chuyên gia hỗ trợ chúng tôi dự đoán khả năng các sự kiện toàn cầu làm gia tăng lan truyền nội dung độc hại trên nền tảng YouTube, bao gồm cả việc chỉ ra những lỗ hổng trong hệ thống của chúng tôi có thể bị đối tượng xấu lợi dụng, hoặc đề xuất ý kiến cho những bản cập nhật tiếp theo. Giống với trường hợp của dịch bệnhCOVID-19, họ đóng góp ý kiến giúp chúng tôi điều chỉnh chính sách trong những tình huống mà thông tin khuyến cáo có thể thay đổi nhanh chóng.
Sự hợp tác này cũng đặc biệt quan trọng trong việc hỗ trợ thực thi chính sách đối với các vấn đề ở cấp khu vực, khi những hiểu biết chuyên sâu về ngôn ngữ hoặc văn hoá là vô cùng cần thiết để hiểu chính xác bối cảnh vấn đề. Ví dụ: Trong cuộc đảo chính ở Myanmar năm 2021, chúng tôi đã phối hợp chặt chẽ với các chuyên gia để xác định những hành vi sử dụng lời nói để kích động hận thù và bạo lực liên quan đến sắc tộc và tôn giáo. Điều này giúp chúng tôi nhanh chóng gỡ bỏ những nội dung vi phạm khỏi nền tảng YouTube.
YouTube có nỗ lực đi trước để đón đầu những vấn đề mới?
Mọi người thường cho rằng việc kiểm duyệt nội dung có tính bị động, tức là chúng tôi chỉ gỡ bỏ nội dung khi hệ thống hoặc nhân viên của chúng tôi cảnh báo về nó. Trên thực tế, phần lớn công việc của chúng tôi tập trung vào việc dự đoán những vấn đề trong tương lai. Chúng tôi có một quy trình dài nhằm giúp các nhóm nắm bắt những vấn đề mới,trước cả khi chúng xảy ra hoặc lan rộng trên nền tảng của chúng tôi.
Những thông tin giá trị đó được cung cấp từ Bộ phận phân tích thông tin của chúng tôi, một nhóm trong tổ chức phụ trách vấn đề Tin cậy và An toàn của YouTube. Với đội ngũ gồm những cựu thành viên trong cộng đồng phân tích thông tin, những chuyên gia này xác định các xu hướng có khả năng vi phạm chính sách -đó có thể là các phương tiện mới để truyền tải thông tin sai lệch hay những thách thức nguy hiểm trên mạng- và những rủi ro mà chúng mang lại. Họ cũng thường xuyên giám sát những mối đe doạ đang diễn ra như các thuyết âm mưu cực đoan, đồng thời theo dõi mức độ phổ biến của chúng trên các phương tiện truyền thông và đánh giá xu hướng phát triển theo thời gian.
Những thông tin này được đưa vào quá trình cân nhắc cách áp dụng những chính sách hiện tại hoặc tương lai để quản lý các mối đe dọa mới này. Ví dụ: Dựa trên bằng chứng mà Bộ phận phân tích thông tin thu thập, chúng tôi đã cập nhật các chính sách về hành vi quấy rối và lời nói hận thù để tăng cường ngăn chặn các thuyết âm mưu gây hại trên nền tảng YouTube.
Chúng tôi đảm bảo tính nhất quán khi thực thi chính sách bằng cách nào?
Việc áp dụng chính sách mới là nỗ lực cộng tác giữa con người và công nghệ máy học. Trên thực tế, điều đó có nghĩa là để đưa ra và thực thi chính sách một cách hiệu quả, cả con người và máy móc cần phối hợp với nhau một cách nhất quán để đạt được độ chính xác cao khi xem xét nội dung.
Chúng tôi bắt đầu từ việc gửi những nguyên tắc thực thi (thông tin giải thích chi tiết về những nguyên tắc quy định một nội dung bị coi là vi phạm) đến đội ngũ kiểm duyệt nội dung giàu kinh nghiệm nhất và nhờ họ phân biệt giữa nội dung vi phạm và không vi phạm. Nếu các nguyên tắc mới giúp họ đạt được độ chính xác rất cao, thì chúng tôi sẽ mở rộng nhóm thử nghiệm bằng việc mời thêm hàng trăm người kiểm duyệt có xuất thân, ngôn ngữ và kinh nghiệm khác nhau.
Ở giai đoạn này, chúng tôi bắt đầu điều chỉnh các nguyên tắc để đảm bảo rằng một nhóm kiểm duyệt viên lớn hơn và đa dạng hơn có thể hiểu chính xác những nguyên tắc đó. Quá trình này có thể mất vài tháng và chỉ hoàn tất khi nhóm này đạt được mức độ chính xác cao giống nhau. Sau đó, những điều đúc kết được từ quá trình này sẽ được dùng để lập trình công nghệ học máy của chúng tôi nhằm phát hiện nội dung có khả năng vi phạm trên quy mô lớn. Tương tự với quy trình áp dụng cho nhóm kiểm duyệt viên, chúng tôi thử nghiệm các mô hình để biết mình có cung cấp đủ thông tin để máy móc đưa ra kết quả đánh giá chính xác về nội dung cần chuyển cho nhân viên xem xét hay không.
Sau giai đoạn thử nghiệm này, chính sách mới sẽ được ra mắt, nhưng việc tinh chỉnh vẫn tiếp tục trong những tháng tiếp theo. Hằng tuần, ban lãnh đạo của nhóm phụ trách về Tin cậy và An toàn sẽ họp với các trưởng nhóm đảm bảo chất lượng trên toàn cầu (những người chịu trách nhiệm giám sát các nhóm kiểm duyệt nội dung) để thảo luận về những quyết định đặc biệt khó khăn và xem xét chất lượng thực thi chính sách. Nếu cần thì sau đó, các điểm sửa đổi nguyên tắc sẽ được soạn thảo để giải quyết các lỗ hổng hoặc đưa ra thông tin rõ ràng hơn về những trường hợp đặc biệt.
Con người và máy móc phối hợp như thế nào để thực thi các chính sách của chúng tôi?
Sau khi các mô hình được huấn luyện cách xác định nội dung có khả năng vi phạm, người kiểm duyệt nội dung vẫn giữ vai trò thiết yếu trong suốt quy trình thực thi này. Công nghệ máy học xác định nội dung có khả năng vi phạm trên quy mô lớn và đề xuất việc xem xét đối với nội dung có thể vi phạm Nguyên tắc cộng đồng của chúng tôi. Sau đó, người kiểm duyệt nội dung sẽ giúp xác nhận hoặc từ chối việc gỡ bỏ những nội dung đó.
Sự phối hợp này giúp cải thiện độ chính xác cho các mô hình của chúng tôi theo thời gian vì các mô hình này liên tục học và điều chỉnh dựa trên ý kiến phản hồi của người kiểm duyệt nội dung. Điều này cũng có nghĩa là các hệ thống thực thi của chúng tôi có thể quản lý lượng nội dung khổng lồ được tải lên YouTube (hơn 500 giờ nội dung mỗi phút), trong khi vẫn xác định đượcnhững điểm khác biệt tinh vi, quyết định việc một nội dung có vi phạm hay không.
Ví dụ: Bài phát biểu của Hitler trong cuộc mít tinh ở Nuremberg mà không có bối cảnh bổ sung có thể vi phạm chính sách về lời nói hận thù. Nếu cũng là bài phát biểu đó nhưng xuất hiện trong một bộ phim tài liệu chỉ trích các hành động của Đức quốc xã, thì video nhiều khả năng sẽ được cho phép theo các nguyên tắc về nội dung EDSA (kiến thức, tài liệu, khoa học hoặc nghệ thuật). Các nguyên tắc này cân nhắc những nội dung có đầy đủ bối cảnh mà nếu không có thì sẽ bị coi là vi phạm, chẳng hạn như video giáo dục hoặc phim tài liệu lịch sử.
Đối với mô hình máy học, sự khác biệt này có thể khó nhận ra hơn, trong khi người kiểm duyệt nội dung có thể dễ dàng nhận ra bối cảnh bổ sung. Đây là một lý do khiến việc thực thi về cơ bản là trách nhiệm chung, đồng thời nhấn mạnh lý do sự đánh giá của con người sẽ luôn là một phần quan trọng trong quy trình của chúng tôi. Đối với hầu hết danh mục nội dung có khả năng vi phạm trên YouTube, công việc của mô hình chỉ đơn giản là gắn cờ nội dung để người kiểm duyệt nội dung xem xét trước khi bất kỳ biện pháp nào có thể được đưa ra.
Chúng tôi đo lường mức độ thành công như thế nào?
Trong mọi hành động, chúng tôi luôn nỗ lực hết mình đảm bảo thực thi trọn vẹn Nguyên tắc cộng đồng và tiếp tục thực hiện sứ mệnh tạo điều kiện để những tiếng nói và cộng đồng mới tìm thấy một ngôi nhà để gắn bó trên YouTube. Sự thành công về khía cạnh này không dễ xác định bằng một chỉ số, nhưng chúng tôi luôn lắng nghe ý kiến phản hồi từ các bên liên quan và các thành viên trong cộng đồng YouTube để biết những điểm cần cải thiện. Ngoài ra, chúng tôi vẫn không ngừng để tìm ra cách thức gửi đi những thông tin minh bạch về các hệ thống và quy trình của mình (bao gồm cả những nỗ lực như bài blog này).
Để đo lường độ hiệu quả của việc thực thi, chúng tôi ra mắt một chỉ số gọi là tỷ lệ xem video vi phạm. Chỉ số này đánh giá số lượt xem trên YouTube bắt nguồn từ nội dung vi phạm. Từ tháng 7 đến tháng 9 năm nay, con số đó là 0,10% – 0,11%, nghĩa là cứ 10.000 lượt xem thì có từ 10 đến 11 lượt xem nội dung vi phạm Nguyên tắc cộng đồng của chúng tôi.
Chúng tôi cũng theo dõi số lượng đơn khiếu nại mà các nhà sáng tạo gửi đến nhằm đáp lại các quyết định gỡ bỏ video (đây là một lựa chọn dành cho tất cả nhà sáng tạo trên YouTube). Điều này giúp chúng tôi hiểu rõ hơn về độ chính xác của hệ thống. Ví dụ: Trong cùng khoảng thời gian nêu trên, chúng tôi đã gỡ bỏ hơn 5,6 triệu video vi phạm Nguyên tắc cộng đồng và nhận khoảng 271.000 đơn khiếu nại quyết định gỡ bỏ. Sau khi xem xét, chúng tôi đã khôi phục khoảng 29.000 trường hợp khiếu nại trong số đó.
Tuy những chỉ số như số đơn khiếu nại, số trường hợp khôi phục và tỷ lệ xem video vi phạm không phải là giải pháp hoàn hảo để hiểu rõ tính nhất quán hoặc độ chính xác, nhưng chúng vẫn đóng vai trò then chốt trong việc đo lường những nỗ lực của chúng tôi..
Nguyên tắc cộng đồng có liên quan đến ngôn ngữ và ngôn luận — hai yếu tố mà về bản chất luôn phát triển theo thời gian. Vì thế, chúng tôi sẽ tiếp tục xem xét chính sách của mình để đảm bảo tính phù hợp cho cộng đồng. Ngoài ra, để cộng đồng YouTube luôn nắm bắt thông tin, chúng tôi sẽ chia sẻ thêm về cách chúng tôi linh hoạt thay đổi trong những tháng tới.
