Google tiếng Việt: Nỗ lực ngăn chặn việc lạm dụng nền tảng YouTube

Nỗ lực ngăn chặn việc lạm dụng nền tảng YouTube

Thứ Ba, 5 tháng 12, 2017

Susan Wojcicki, Giám đốc điều hành YouTube
Là Giám đốc điều hành của YouTube, tôi nhận ra cách mà nền tảng mở của chúng tôi mang lại sức mạnh và trở thành động lực cho sự sáng tạo, học hỏi và tiếp cận thông tin. Tôi nhìn thấy được các nhà hoạt động đã sử dụng nó để vận động thay đổi chính trị như thế nào, kêu gọi những phản ứng, và cung cấp tài liệu tội ác chiến tranh ra sao. Tôi nhìn thấy Youtube đã đảm nhiệm cả hai vai trò như một nơi để giải trí và một thư viện video cho thế giới. Tôi còn nhìn thấy cách nó đã mở rộng cơ hội kinh tế, cho phép các doanh nghiệp nhỏ tiếp thị và bán hàng hóa của họ xuyên biên giới. Và tôi đã nhìn thấy nó giúp những đứa trẻ của tôi mở rộng tầm nhìn, cho chúng một cái nhìn rộng hơn, sâu hơn về thế giới của chúng ta và về hàng tỷ người sống trong đó.
Nhưng tôi cũng đã thấy rất rõ ràng một khía cạnh khác, rắc rối hơn bên cạnh tính cởi mở của YouTube. Tôi thấy được một số kẻ xấu đã lợi dụng tính cởi mở này của chúng tôi để gây hiểu nhầm, thao túng, sách nhiễu hay thậm chí gây tổn hại.

Trong năm qua, chúng tôi đã có những hành động để bảo vệ cộng đồng của mình chống lại nội dung bạo lực hoặc cực đoan, thử nghiệm các hệ thống mới để chống lại các mối đe dọa đang nổi lên và đang tăng dần. Chúng tôi đã thắt chặt các chính sách qui định nội dung nào có thể xuất hiện trên nền tảng hoặc tạo doanh thu cho người sáng tạo. Số lượng các nhóm thực thi của chúng tôi cũng tăng lên. Và chúng tôi đã đầu tư vào công nghệ trí tuệ nhân tạo mới nhằm mục đích tăng cường hỗ trợ các kiểm duyệt viên xử lí các video và nhận xét (comments) vi phạm chính sách của chúng tôi.
Hiện tại, chúng tôi đang áp dụng những bài học mà chúng tôi đã học được từ công việc chống lại chủ nghĩa cực đoan và bạo lực trong năm qua để giải quyết các nội dung có vấn đề khác. Mục tiêu của chúng tôi là phải đi trước một bước các thành phần xấu, thay đổi chính sách chặt chẽ hơn về nội dung vi phạm hay làm cho việc tồn tại của các thành phần này trên YouTube trở nên khó khăn hơn.
Nhiều người kiểm duyệt nhiều nội dung hơn Đánh giá của con người vẫn rất cần thiết để vừa loại bỏ nội dung và vừa đào tạo hệ thống trí tuệ nhân tạo, bởi vì sự phán đoán của con người rất quan trọng khi đưa ra những quyết định về nội dung dựa theo ngữ cảnh. Kể từ tháng 6, đội bảo an của chúng tôi đã kiểm duyệt thủ công gần 2 triệu video có nội dung cực kỳ bạo lực, giúp đào tạo công nghệ trí tuệ nhân tạo xác định được các video tương tự trong tương lai. Chúng tôi cũng đang hành động tích cực về vấn đề nhận xét/bình luận, cho ra mắt các công cụ quản trị nhận xét mới và trong một số trường hợp sẽ dỡ bỏ toàn bộ nhận xét. Trong vài tuần gần đây, chúng tôi đã sử dụng trí tuệ nhân tạo để giúp những người kiểm duyệt tìm thấy và khoá hàng trăm tài khoản cũng như xoá hàng trăm nghìn nhận xét. Các nhóm của chúng tôi cũng hợp tác chặt chẽ với NCMEC, IWF và các tổ chức an toàn trẻ em khác trên khắp thế giới để báo cáo các hành vi và tài khoản xấu cho các cơ quan thực thi pháp luật một cách chính xác nhất.
Chúng tôi sẽ tiếp tục đầu tư đáng kể cho các đội nhóm của chúng tôi vào năm tới với mục tiêu đưa tổng số nhân viên Google giải quyết các nội dung có thể vi phạm chính sách lên hơn 10.000 nhân viên vào năm 2018.
Đồng thời, chúng tôi cũng đang mở rộng mạng lưới các viện nghiên cứu, các nhóm ngành, các chuyên gia có chuyên môn mà chúng tôi có thể học hỏi, đồng thời có thể hỗ trợ giúp chúng tôi hiểu rõ hơn về các vấn đề đang nổi lên.
Giải quyết các vấn đề theo quy mô lớn
Chúng tôi sẽ sử dụng hệ thống “machine learning” tiên tiến của mình rộng rãi hơn, nhằm cho phép chúng tôi loại bỏ nội dung vi phạm một cách nhanh chóng và hiệu quả dựa trên các hướng dẫn của chúng tôi. Vào tháng 6, chúng tôi đã triển khai công nghệ này để đánh dấu những nội dung cực đoan, bạo lực cho những người kiểm duyệt xem xét và chúng tôi đã đạt được tiến bộ to lớn.

Kể từ tháng 6, chúng tôi đã xóa hơn 150.000 video có liên quan tới chủ nghĩa cực đoan bạo lực.

Trí tuệ nhân tạo giúp các nhân viên đánh giá của chúng tôi xóa gần gấp năm lần số lượng video so với trước đây.

Ngày nay, chúng tôi đã loại bỏ khoảng 98% video có liên quan tới chủ nghĩa cực đoan bạo lực bị gắn cờ đánh dấu bởi thuật toán trí tuệ nhân tạo của chúng tôi.

Những tiến bộ trong trí tuệ nhân tạo cho phép chúng tôi giảm gần 70% nội dung cực đoan bạo lực trong vòng tám giờ tải lên và gần một nửa trong số đó chỉ trong hai giờ và chúng tôi sẽ còn tiếp tục đẩy nhanh tốc độ đó.

Kể từ khi chúng tôi bắt đầu sử dụng công nghệ “machine learning” để đánh dấu nội dung bạo lực và cực đoan vào tháng 6, công nghệ này đã kiểm duyệt và gắn cờ với số lượng nội dung tương đương với 180.000 người làm việc và 40 giờ một tuần.

Bởi vì chúng tôi đã thấy những kết quả tích cực này nên chúng tôi đã bắt đầu đào tạo công nghệ “machine learning” trong các lĩnh vực nội dung đầy thách thức khác, bao gồm cả nội dung an toàn cho trẻ em và kiểm soát ngôn từ kích động thù địch.
Minh bạch hơn
Chúng tôi hiểu rằng mọi người muốn có một cái nhìn rõ ràng hơn về cách chúng tôi giải quyết những nội dung có vấn đề trên YouTube. Nguyên tắc cộng đồng của chúng tôi đã thông báo rõ ràng về những quy định không được phép trên nền tảng của chúng tôi, tuy nhiên chúng tôi muốn chia sẻ thêm thông tin về cách thực hiện các nguyên tắc này. Đó là lý do năm 2018 chúng tôi sẽ tạo một báo cáo định kỳ, nơi chúng tôi sẽ cung cấp dữ liệu tổng hợp về những video gắn cờ vi phạm mà chúng tôi nhận được và những hành động mà chúng tôi thực hiện để xóa các video và bình luận vi phạm chính sách nội dung của chúng tôi. Chúng tôi đang tìm kiếm để phát triển các công cụ bổ sung để giúp mang lại tính minh bạch hơn nữa về nội dung bị gắn cờ.
Cách tiếp cận mới để quảng cáo trên YouTube
Chúng tôi đang hành động để bảo vệ nhà quảng cáo và những người sáng tạo khỏi nội dung không phù hợp. Chúng tôi muốn các nhà quảng cáo yên tâm rằng quảng cáo của họ đang chạy trên những nội dung phản ánh giá trị thương hiệu của họ. Tương tự, chúng tôi muốn những người sáng tạo tin tưởng rằng doanh thu của họ sẽ không bị tổn hại bởi hành động xấu của những kẻ quấy phá.
Chúng tôi tin rằng điều này đòi hỏi một cách tiếp cận mới để quảng cáo trên YouTube bằng cách xem xét cẩn thận các kênh và video nào đủ điều kiện để quảng cáo. Chúng tôi đang có kế hoạch áp dụng các tiêu chí chặt chẽ hơn, tiến hành kiểm soát thủ công nhiều hơn, đồng thời tăng đội ngũ người đánh giá quảng cáo của chúng tôi để đảm bảo quảng cáo chỉ chạy ở những nơi cần thiết. Điều này cũng giúp những người sáng tạo đủ tiêu chuẩn có được doanh thu ổn định. Điều quan trọng là chúng tôi sẽ cung cấp quyền này cho cả nhà quảng cáo và người sáng tạo và trong vài tuần tiếp theo, chúng tôi sẽ nói chuyện với hai bên để trao đổi về cách tiếp cận này.
Chúng tôi đang hành động cho những điều đúng đắn. Những người sáng tạo tạo ra nội dung tuyệt vời có thể xây dựng được một lượng người hâm mộ đông đảo trên toàn cầu. Người hâm mộ đến YouTube để xem, chia sẻ và tương tác với những nội dung này. Còn các nhà quảng cáo, những người muốn tiếp cận những nội dung này, họ sẽ tài trợ cho nền kinh tế của người sáng tạo. Mỗi nhóm đều rất quan trọng đối với hệ sinh thái sáng tạo của YouTube - không bên nào có thể phát triển trên YouTube mà thiếu những nhóm còn lại - và cả ba đều xứng đáng với những nỗ lực của chúng tôi.
Khi những thách thức trên nền tảng của chúng tôi phát triển và thay đổi thì các giải pháp quản trị của chúng tôi buộc phải phát triển để đáp ứng theo. Nhưng bất kể những thách thức nảy sinh, cam kết của chúng tôi để ngăn chặn những cái xấu sẽ bền vững và không thay đổi. Chúng tôi sẽ thực hiện các bước cần thiết để bảo vệ cộng đồng và đảm bảo rằng YouTube tiếp tục là nơi mà những người sáng tạo, các nhà quảng cáo và người dùng có thể phát triển lành mạnh.

tiếng Việt

Nỗ lực ngăn chặn việc lạm dụng nền tảng YouTube

Không có nhận xét nào :

Đăng nhận xét

Nhãn

Archive

Feed

Company-wide

Products

Developers