Trong "Khôn ngoan hơn thuật toán", Gerd Gigerenzer (nhà tâm lý học Giám đốc Danh dự Viện Phát triển Con người Max Planck, Đức) phân tích cách con người sử dụng công nghệ thuật toán và trí tuệ nhân tạo (AI) để ra quyết định; ông vạch rõ những khả năng và giới hạn của chúng.
Trong các cuộc thảo luận về thuật toán và AI, chúng ta thường bắt gặp hai bên đối lập: Một bên tin rằng chúng sẽ làm cho thế giới trở nên tốt đẹp hơn; một bên tin rằng robot và AI sẽ thay thế và thống trị con người, đưa ta đến tương lai như tận thế.
Cả bên tin tưởng lẫn bên sợ hãi, bên lạc quan lẫn bi quan đều có chung quan điểm: Thuật toán, máy móc sẽ làm mọi thứ tốt hơn con người (“chính xác hơn, nhanh hơn, rẻ hơn”). Đó cũng là lời hứa hẹn và lời chào bán của các công ty công nghệ.
Tác giả cho rằng đây là một kết luận sai, có những lĩnh vực AI làm tốt hơn con người, nhưng ở những lĩnh vực khác thì không. Và điều này sẽ thay đổi cách chúng ta suy nghĩ, ứng xử trong mối quan hệ với công nghệ.
Trong cuốn sách này, Gigerenzer muốn nhấn mạnh: “Các thuật toán phức tạp có thể thành công khi tình huống ổn định, nhưng sẽ gặp rất nhiều khó khăn trong bối cảnh bất định”. Ông tin rằng thái độ tỉnh táo khôn ngoan là chìa khóa để giữ được quyền kiểm soát trong thời đại AI này.
Thuật toán có tác động sâu sắc tới chúng ta ở khía cạnh thông tin. Với mô hình quảng cáo cá nhân hóa, những thông tin chúng ta đang tiếp xúc rất có thể là cái mà các nhà quảng cáo muốn cho chúng ta xem. Để phục vụ khách quảng cáo, các công ty công nghệ thu thập dữ liệu từng phút về địa điểm của bạn, bạn đang làm gì, đang xem gì...
Trí tuệ nhân tạo không giống trí thông minh con người
Để giúp ta hiểu được tiềm năng và hạn chế của thuật toán, tác giả đã phân tích cách chúng ta ứng dụng thuật toán trong các lĩnh vực khác nhau (tìm người hẹn hò, tuyển dụng, xe tự hành, dịch thuật, nhận diện tội phạm, chẩn đoán và chữa bệnh...).
Ở từng ví dụ, Gigerenzer chỉ rõ, thuật toán làm được gì và không làm được gì, rồi so sánh trí thông minh của máy với trí thông minh con người. Bằng những phân tích cụ thể và sáng rõ, tác giả giúp ta thấy được sự khác nhau cơ bản giữa hai loại trí thông minh này.
Một ví dụ để minh họa về sự khác biệt giữa trí thông minh con người và máy là ứng dụng trong xe tự hành. Mạng thần kinh sâu dùng trong hệ thống nhận diện của loại xe này liên tục mắc phải những sai lầm kỳ quái. Nó cho rằng hình ảnh chiếc xe buýt là con đà điểu, không phân biệt được giữa hình đường kẻ sọc với hình xe buýt trường học.
Gigerenzer giải thích: “Mạng thần kinh không biết hình ảnh thể hiện cái gì ở đời sống thực; nó không có ý niệm về vạn vật. Trí thông minh của nó bị bó hẹp vào việc tìm kiếm dạng thức màu sắc, kết cấu, và những tính chất khác. Ngược lại, trí thông minh con người thiên về hình dung thế giới”.
Đó là khác biệt cơ bản giữa trí thông minh con người và trí tuệ nhân tạo. Đó cũng là hạn chế chung của AI trong mọi lĩnh vực. Khi có sự tham gia của con người, rất nhiều yếu tố bất định xuất hiện. Và chỉ một chút bất định cũng làm AI bối rối. Vì lý do tương tự, AI không thể thành công tuyệt đối ở các lĩnh vực như chẩn đoán y tế, dịch thuật, xe tự hành, nhận diện tội phạm... Nó có thể được áp dụng ở một mức độ nào đó, nhưng không thể hoàn toàn thay thế con người.
Hiểm họa đối với quyền riêng tư và sự chú ý của con người
Hai khía cạnh luôn khiến mọi người lo ngại về AI và thuật toán là ứng dụng của nó trong việc giám sát và “câu” lấy sự chú ý của con người. Nó đặt ra vấn đề quyền riêng tư bị xói mòn, khi các công ty công nghệ cung cấp công nghệ để đổi lấy dữ liệu cá nhân - một dạng thức kinh tế mới - chủ nghĩa tư bản giám sát. Mô hình kinh doanh này do con người phát minh ra để kiếm lợi nhuận, và cái giá phải trả là quyền riêng tư.
Bên cạnh quyền riêng tư, thời gian - sự chú ý của bạn cũng bị lãng phí trong sự xao nhãng và bị ngắt quãng kéo dài vì quảng cáo, các thông báo. Khả năng chú ý của người dùng bình thường đang ngày càng giảm. Đa nhiệm trở thành tình trạng bình thường. Các trang mạng xã hội chi phối cảm xúc của con người. Tin giả, các nội dung cực đoan, tiêu cực lan truyền mạnh mẽ hơn bao giờ hết.
Trong cuốn sách này, Gigerenzer chỉ ra các công ty công nghệ đã làm người dùng mắc câu bằng những cách nào. Các công cụ được tận dụng để kiểm soát sự chú ý gồm bảng tin mạng xã hội, các hệ thống thông báo, trì hoãn lượt thích, tự động bật video, sử dụng liên tục (snapstreak), những trò chơi vô bổ đòi hỏi tập trung liên tục.
Từ những phân tích đó, Gigerenzer đề xuất một số phương pháp để cá nhân chủ động giành lại quyền kiểm soát: Quản lý sự chú ý, kiểm chứng các nguồn thông tin, hạn chế sự lệ thuộc vào công nghệ... Ngoài ra, sự can thiệp của các chính quyền cũng đóng một vai trò rất quan trọng trong việc bảo vệ quyền riêng tư và sự dân chủ.
Tác giả tin rằng việc chúng ta ý thức được tiềm năng, hiểm họa của thuật toán/AI/ công nghệ là chìa khóa để giữ lại quyền kiểm soát cho mình.
