Văn minh thuật toán

Các thuật toán thường được xem như các công thức toán học mang tính khách quan và logic. Và trong khi các thuật toán thực sự được lập trình trong kết quả đầu ra của chúng, thì cốt lõi của chúng là sự thể hiện tư duy của con người.

Tác giả: Giáo sư Rachel Stephens Việt dịch: Thích Vân Phong Nguồn: RedMonk

Tôi đã rất ấn tượng bởi một số chủ đề trùng lặp mà tôi gặp phải từ một số tác giả rất khác nhau. Cụ thể, tôi đã thưởng ngoạn tác phẩm “Sapiens: Lược Sử Loài Người” (קיצור תולדות האנושות‎, Ḳitsur toldot ha-enoshut) của tác giả - thiền giả, Giáo sư Khoa Lịch sử tại Đại học Hebrew Jerusalem, Cư sĩ Yuval Noah Harari, một tác phẩm nói bao quát về lịch sử tiến hóa của loài người từ thời cổ xưa trong thời kỳ đồ đá cho đến thế kỷ XXI, tập trung vào loài "người tinh khôn" (homo sapiens).

Cuốn sách đã nhận được nhiều ý kiến trái chiều từ độc giả. Trong khi công chúng đón nhận cuốn sách với một phản ứng tích cực thì các học giả có chuyên môn về chủ đề liên quan đã kịch liệt phê phán cuốn sách này.

Tác giả Yuval Noah Harari thảo luận về nhiều tôn giáo lớn, tác giả miêu tả về Phật giáo đã thu hút sự chú ý của tôi, liên quan đế một số thảo luận hiện tại của chúng ta về khoa học công nghệ.

“Ngài Siddhārtha Gautama (đức Phật Thích Ca Mâu Ni), người Khai sáng Đạo Phật, quyết tâm tìm hiểu cội nguồn của nỗi thống khổ và cho đến tìm ra phương pháp hóa giải và giải thoát hoàn toàn. Ngài đã dành sáu năm để quán chiếu về bản chất, nguyên nhân và cách trị liệu cho những nỗi khổ niềm đau của con người. Cuối cùng, Ngài nhận ra rằng những nỗi khổ, niềm đau của con người không phải do vận rủi, bất công xã hội, hay ý tưởng bất thường của thần thánh. Đúng hơn, những nỗi khổ niềm đau xuất phát từ ý nghĩ, lời nói và hành động (tam nghiệp) do mỗi con người gây ra.

Cái nhìn sâu sắc của Ngài Siddhārtha Gautama là bất kể tâm trí trải qua điều gì, nó thường phản ứng với sự ham muốn, và sự dục vọng luôn bao hàm sự không thỏa mãn. Khi tâm trí trải qua một điều gì đó khó chịu, nó khao khát được loại bỏ sự bực bội. Khi tâm trí trải nghiệm một điều gì đó dễ chịu, nó khát vọng rằng niềm vui đó sẽ vẫn còn và sẽ tăng cường”.

- Sapiens, Yuval Noah Harari

Đối chiếu này với báo chí đưa tin gần đây về thuật toán theo đề xuất của YouTube. Trong loạt bài xã luận (Op-Ed) của báo The New York Times, bà Zeynep Tufekci, nhà xã hội học người Mỹ gốc Thổ Nhĩ Kỳ, Giáo sư tại Đại học Columbia, người phụ trách chuyên mục cho The New York Times đã đã trình bày chi tiết trải nghiệm của bà với công cụ đề xuất của YouTube.

Bà bắt đầu bằng cách xem video từ mỗi bên của các quan điểm phi chính trị và trong cả hai trường hợp ủng hộ và phản đối, cuối cùng bà xem nội dung ngày càng cực đoan từ các đề xuất tự động phát của Youtube.

“Thật hấp dẫn, tôi đã thử nghiệm với các chủ đề phi chính trị. Mô hình cơ bản tương tự xuất hiện. Video về việc ăn chay đã dẫn đến video về ăn chay. Video về chạy bộ đã dẫn đến video về ‘chạy siêu việt dã’ (một trong những môn thể thao lâu đời nhất và nay vẫn giữ một vị trí quan trọng trong những sự kiện thể thao quan trọng trên thế giới).

Có vẻ như các bạn chưa bao giờ đủ “lõi cứng” đối với thuật toán theo đề xuất của YouTube. Nó quảng bá, đề xuất và phổ biến video theo cách có vẻ như liên tục tăng tiền cược. Với hàng tỷ người dùng, YouTube có thể là một trong những công cụ cực đoan hóa mạnh mẽ nhất của thế kỷ 21.

Điều này không phải vì một nhóm kỹ sư YouTube đang âm mưu đưa thế giới ra khỏi vách đá. Một lời giải thích có nhiều khả năng hơn liên quan đến mối liên hệ giữa trí tuệ nhân tạo và mô hình kinh doanh của Google. (YouTube thuộc sở hữu của Google). Đối với tất cả những lời hùng biện cao cả của mình, Google là một nhà môi giới quảng cáo, bán sự chú ý của chúng ta cho các công ty sẽ trả tiền cho nó. Mọi người ở lại YouTube càng lâu, Google càng kiếm được nhiều tiền.

Điều gì khiến mọi người dán mắt vào YouTube? Thuật toán của nó dường như đã kết luận rằng, mọi người bị thu hút bởi nội dung cực đoan hơn những gì họ bắt đầu – hoặc nội dung kích động nói chung”.

- YouTube, the Great Radicalizer, Zeynep Tufekci

Mặc dù mối quan hệ rõ ràng giữa lượng người xem và doanh thu chắc chắn tồn tại, nhưng thời gian gần đây Google đã phản bác các tuyên bố về mức độ ưu tiên, xem của công ty trong một bài báo trên The Guardian.

“YouTube nói với tôi rằng, hệ thống đề xuất của họ đã phát triển kể từ khi Chaslot (một cựu nhân viên của Google) làm việc tại công ty và giờ đây còn ‘tối ưu hóa cho thời gian xem’. Công ty cho biết vào năm 2016, họ đã bắt đầu tính đến ‘sự hài lòng’ của người dùng, chẳng hạn như sử dụng các cuộc khảo sát hoặc xem video nhận được bao nhiêu lượt ‘thích’ để ‘đảm bảo mọi người hài lòng với những gì họ đang xem’.”

- “Sách hư cấu vượt trội so với thực tế”: cách thuật toán của YouTube bóp méo sự thật, Paul Lewis

Khi đọc những miêu tả này về YouTube, tôi đã bị ấn tượng bởi cách mà một câu châm ngôn hàng thế kỷ giao thoa với những vấn đề mà chúng ta hiện đang phải đối mặt.

Liệu tìm kiếm của thuật toán để tối đa hóa sự hài lòng có thúc đẩy nội dung ngày càng leo thang và trên thực tế mô hình đó có gắn liền với khát vọng và xu hướng, được quan sát từ lâu của con người không?

Có thể các vấn đề thuật toán thực sự được nhận thức là vấn đề của bản chất con người, hay nhiều khả năng chúng là các sản phẩm phụ đơn giản được đưa vào một cách nhân tạo?

Các thuật toán thường được xem như các công thức toán học mang tính khách quan và logic. Và trong khi các thuật toán thực sự được lập trình trong kết quả đầu ra của chúng, thì cốt lõi của chúng là sự thể hiện tư duy của con người. Chúng phản ánh sự hiểu biết của chúng ta về thế giới; điều này bao gồm một số đổi mới đáng kinh ngạc, nhưng nó cũng bao gồm những thành kiến của chúng ta và những khiếm khuyết của con người.

Như Ngài Siddhārtha Gautama (đức Phật Thích Ca Mâu Ni), người khai sáng đạo Phật đã mặc định, nếu bản chất con người là khát vọng nhiều hơn, thì nếu không cân nhắc cẩn thận, ngược lại, các thuật toán của chúng ta sẽ phản ánh điều này (cả do được lập trình bởi con người, và do được triển khai thay mặt cho các công ty thu lợi nhuận từ việc thỏa mãn con người).

Nếu một thuật toán tìm cách tối đa hóa sự hài lòng của người dùng (và như một sản phẩm phụ, tối đa hóa sự tương tác với sản phẩm của nó), có cách nào để dung hòa định nghĩa hài lòng này với định nghĩa Phật giáo về sự thỏa mãn từ việc từ bỏ tham ái không?

Trong một thế giới mà tỷ lệ gắn bó là thước đo thành công rất quan trọng, rất khó để thúc đẩy trước một thế giới mà các công ty “sự buông xả tâm tham ái chấp trước” ở khách hàng của họ hoặc trong các thuật toán phục vụ những khách hàng đó. Tuy nhiên, nó có vẻ đáng làm nổi bật khái niệm này như một phương pháp tiềm năng để lồng ghép thiên về các thuật toán.

Tôi không tuyên bố có bất kỳ câu trả lời nào về chủ đề này, nhưng tôi nhận thấy điểm giao nhau của những ý tưởng này đáng để khám phá.

Nếu bạn có bất kỳ suy nghĩ nào về cách đạt được sự khai sáng về thuật toán (hoặc liệu đó có phải là một mục tiêu đáng để phấn đấu hay không), tôi rất muốn lắng nghe!

Tác giả: Giáo sư Rachel Stephens Việt dịch: Thích Vân Phong Nguồn: RedMonk