VIỆN CÔNG NGHỆ THÔNG TIN VÀ TRUYỀN THÔNG ITPLUS
ITPLUS INSTITUTE OF INFORMATION AND COMMUNICATION TECHNOLOGY
Nhiều khách hàng nhận thấy rằng dữ liệu cá nhân Netflix của mình thường bị thiếu hoặc không đầy đủ. Các bộ phim và chương trình mà thuật toán đề xuất thường không dựa nhiều vào lịch sử xem và xếp hạng, mà thay vào đó tập trung vào việc quảng cáo nội dung mới. Tuy nhiên, khi một bộ phim siêu anh hùng với sự tham gia của một trong những nữ diễn viên nổi tiếng nhất thế giới xuất hiện trong danh sách "Top Picks", hầu hết mọi người sẽ làm như 78 triệu người dùng khác là “click” vào banner bộ phim.
Tuy nhiên khi xem phim, bạn sẽ nhận ra một điều: các thuật toán đề xuất không chỉ cung cấp cho bạn những gì họ nghĩ là phù hợp với sở thích của bạn mà họ còn định hướng những gì được tạo ra. Bộ phim được đề xuất không phải là tệ. Diễn xuất chất lượng và sản xuất chuyên nghiệp, cốt truyện rõ ràng. Tuy nhiên, sẽ có một cảm giác mơ hồ như déjà vu - như thể bạn đã xem bộ phim này trước đây. Khi kết thúc, bạn sẽ nhanh chóng quên mất tất cả.
Có một cụm từ là "Filterworld" dùng để chỉ "mạng lưới thuật toán... rộng lớn, đan xen" ảnh hưởng đến cả cuộc sống hàng ngày của chúng ta và "cách văn hóa được phân phối và tiêu thụ". Âm nhạc, phim ảnh, nghệ thuật thị giác, văn học, thời trang, báo chí, ẩm thực… các khuyến nghị bằng thuật toán đã thay đổi căn bản tất cả các sản phẩm văn hóa này, không chỉ ảnh hưởng đến những gì được nhìn thấy hoặc bị bỏ qua mà còn tạo ra một kiểu nhạt nhẽo mà tất cả chúng ta đều đang tranh cãi với nãy giờ.
Bộ phim siêu anh hùng được lấy ví dụ ở trên là một điển hình. Bất chấp sự không đồng tình chung của bạn đối với thể loại này, thuật toán của Netflix đã đặt phim ở đầu nguồn cấp dữ liệu, nơi bạn có nhiều khả năng sẽ nhấp vào phim. "Lựa chọn" đó sau đó được thuật toán ghi lại, có lẽ thuật toán này phỏng đoán rằng bạn thích bộ phim đó và sau đó giới thiệu bộ phim đó cho nhiều người xem hơn nữa. Xem, nhăn mặt, lặp lại.
Văn hóa của “Filterworld” cuối cùng là đồng nhất, “được đánh dấu bằng cảm giác giống nhau lan tỏa”. Tất cả chúng ta đều có thể nhìn thấy những thứ khác nhau trong database của mình, nhưng chúng ngày càng trở nên khác biệt giống nhau. Thông qua các vòng phản hồi này, những gì phổ biến sẽ trở nên phổ biến hơn, những gì ít người biết đến nhanh chóng biến mất và các hình thức giải trí có mẫu số chung giống nhau chắc chắn sẽ tăng lên hàng đầu hết lần này đến lần khác.
Điều này thực sự trái ngược với những lời hứa cá nhân hóa mà Netflix hứa hẹn. Các đề xuất của thuật toán làm giảm sở thích thành một vài điểm dữ liệu có thể định lượng dễ dàng. Sự đơn giản hóa quá mức đó sau đó buộc những người tạo ra phim, sách và âm nhạc phải thích ứng với logic và áp lực của hệ thống thuật toán.
Một kỹ sư của Google đăng trên X đã tóm tắt vấn đề một cách khôi hài như sau: “Một thuật toán học máy bước vào một quán bar. Người phục vụ quầy rượu hỏi, 'Bạn sẽ dùng gì?' Thuật toán cho biết: 'Những người khác đang dùng gì?””. Trong văn hóa thuật toán, lựa chọn đúng đắn luôn là lựa chọn mà đa số người khác đã chọn. Các thuật toán ngày nay thậm chí không cố gắng khen thưởng hoặc khuếch đại chất lượng, thứ mang tính chủ quan và khó định lượng. Thay vào đó, nó tập trung vào một thước đo đã thống trị mọi thứ trên internet: mức độ tương tác.
Có thể vốn dĩ không có gì sai về các trò giải trí được thiết kế để thu hút đại chúng. Nhưng những gì đề xuất bằng thuật toán làm là tăng thêm động lực cho việc chỉ tạo loại nội dung đó, đến mức chúng ta có nguy cơ không được tiếp xúc với bất kỳ nội dung nào khác.
Tuy nhiên, việc trau dồi sở thích cá nhân của chúng ta là quan trọng, không phải vì một hình thức văn hóa này rõ ràng là tốt hơn một hình thức văn hóa khác, mà bởi vì quá trình chậm rãi và có chủ ý đó là một phần trong cách chúng ta phát triển bản sắc và ý thức về bản thân. Bỏ điều đó đi, bạn thực sự trở thành con người mà thuật toán nghĩ về bạn.
Tuy nhiên, phê phán dữ liệu để hiểu rõ hơn về con người và xã hội không phải là một lựa chọn tốt. Ngay từ đầu, mọi người từ những người nghệ sĩ đến các nhà nhân chủ học đều nhận ra các hạn chế bẩm sinh của dữ liệu và định lượng, đưa ra một số phê bình tương tự với những nhà thống kê mà ngày này mọi người phê phán đối với các hệ thống thuật toán ("Những nhà thống kê như vậy chỉ 'nhìn thấy số lượng' mà không chú ý đến chất lượng").
Dự đoán bằng thuật toán vẫn đang và sẽ tiếp tục là một phần không thể tránh khỏi trong cuộc sống của chúng ta. Các thuật toán có thể củng cố những định kiến của chúng ta, làm phẳng văn hóa và đồng nhất hóa, đồng thời khai thác và áp đặt lên những người dễ bị tổn thương và bị gạt ra ngoài lề xã hội. Nhưng đây không phải là những hệ thống hoàn toàn không thể hiểu hoặc không thể tránh khỏi. Chúng cũng có thể làm điều ngược lại. Hãy xem xét kỹ bất kỳ thuật toán học máy nào và bạn chắc chắn sẽ tìm thấy mọi người đều đang tham gia vào quá trình lựa chọn về dữ liệu cần thu thập và cách đánh giá dữ liệu đó: Lựa chọn về cách phân phối và các mục tiêu. Vì vậy chúng ta cũng có thể lựa chọn tạo ra chúng theo cách chúng ta muốn.
“Tương lai của chúng ta sẽ được quyết định không phải bởi bản chất của học máy, các mô hình học máy chỉ đơn giản làm những gì chúng ta bảo chúng làm, mà bởi cam kết của chúng ta đối với quy định đảm bảo rằng học máy củng cố nền tảng của sự dân chủ.”
.jpg)
