Một số điều họ nói là đúng, nhưng chỉ là sản phẩm phụ của việc học cách tỏ ra đáng tin cậy
Nhiều thứ đã thay đổi kể từ năm 1986, khi nhà triết học Princeton Harry Frankfurt xuất bản một bài tiểu luận trên một tạp chí ít người biết đến, Raritan, có tựa đề “Về chuyện nhảm nhí”. Tuy nhiên, bài tiểu luận, sau đó được tái bản như một cuốn sách bán chạy nhất, vẫn có giá trị đáng kinh ngạc.
Cái nhìn sâu sắc tuyệt vời của Frankfurt là những điều nhảm nhí nằm ngoài lĩnh vực của sự thật và dối trá. Kẻ nói dối quan tâm đến sự thật và muốn che giấu nó. Một kẻ nhảm nhí thờ ơ với việc liệu những tuyên bố của anh ta có đúng hay không: “Anh ta chỉ chọn chúng ra, hoặc bịa ra, cho phù hợp với mục đích của mình.” Điển hình đối với một nhà văn thế kỷ 20, Frankfurt đã mô tả kẻ nhảm nhí là “anh ấy” chứ không phải “cô ấy” hay “họ”. Nhưng bây giờ là năm 2023, chúng ta có thể phải gọi những thứ nhảm nhí đó là “nó” – bởi vì một thế hệ chatbot mới sẵn sàng tạo ra những thứ nhảm nhí ở quy mô không tưởng.
Hãy xem điều gì đã xảy ra khi David Smerdon, một nhà kinh tế tại Đại học Queensland, hỏi chatbot hàng đầu ChatGPT: “Bài báo kinh tế nào được trích dẫn nhiều nhất mọi thời đại?” ChatGPT nói rằng đó là “Lý thuyết về lịch sử kinh tế” của Douglass North và Robert Thomas, được xuất bản trên Tạp chí Lịch sử Kinh tế năm 1969 và được trích dẫn hơn 30.000 lần kể từ đó. Nó nói thêm rằng bài báo “được coi là một tác phẩm kinh điển trong lĩnh vực lịch sử kinh tế”. Một câu trả lời tốt, trong một số cách. Theo những cách khác, không phải là một câu trả lời hay, bởi vì bài báo không tồn tại.
Tại sao ChatGPT phát minh ra bài viết này? Smerdon suy đoán như sau: các bài báo kinh tế được trích dẫn nhiều nhất thường có “lý thuyết” và “kinh tế” trong đó; nếu một bài báo bắt đầu “một lý thuyết kinh tế . . . ” sau đó ” . . . history” là một sự tiếp nối có khả năng. Douglass North, người đoạt giải Nobel, là một sử gia kinh tế được trích dẫn nhiều, và ông đã viết một cuốn sách cùng với Robert Thomas. Nói cách khác, trích dẫn là hợp lý tuyệt vời. Những gì ChatGPT giải quyết không phải là sự thật; đó là sự hợp lý.
Và làm thế nào nó có thể được khác? ChatGPT không có mô hình thế giới. Thay vào đó, nó có một mô hình về những thứ mà mọi người có xu hướng viết. Điều này giải thích tại sao nó nghe có vẻ đáng kinh ngạc đến vậy. Nó cũng giải thích tại sao chatbot có thể gặp khó khăn trong việc đưa ra câu trả lời thực sự cho một số câu hỏi khá đơn giản.
Nó không chỉ là ChatGPT. Bot “Galactica” tồn tại trong thời gian ngắn của Meta nổi tiếng vì đã phát minh ra các trích dẫn. Và nó không chỉ là các bài báo kinh tế. Gần đây tôi đã nghe tin từ tác giả Julie Lythcott-Haims, người mới được bầu vào hội đồng thành phố Palo Alto. ChatGPT đã viết một câu chuyện về chiến thắng của cô ấy. Cô ấy nói với tôi: “Nó rất đúng và được viết rất hay. Nhưng Lythcott-Haims là người da đen, và ChatGPT đã kể về việc cô ấy là người phụ nữ da đen đầu tiên được bầu vào hội đồng thành phố. Hoàn toàn hợp lý, hoàn toàn sai sự thật.
Gary Marcus, tác giả cuốn Rebooting AI , giải thích trên podcast của Ezra Klein: “Mọi thứ nó tạo ra nghe có vẻ hợp lý vì tất cả đều bắt nguồn từ những điều mà con người đã nói. Nhưng không phải lúc nào nó cũng biết mối liên hệ giữa những thứ mà nó sắp xếp lại với nhau.” Điều này khiến Klein đặt ra câu hỏi: “Đẩy chi phí của những thứ vớ vẩn về 0 nghĩa là gì”?
Các chuyên gia không đồng ý về mức độ nghiêm trọng của vấn đề hợp nhất. ChatGPT đã đạt được tiến bộ đáng kể trong một khoảng thời gian rất ngắn. Có lẽ thế hệ tiếp theo, trong một hoặc hai năm nữa, sẽ không gặp phải vấn đề này. Marcus nghĩ khác. Ông lập luận rằng những sự thật giả tạo sẽ không biến mất nếu không có sự xem xét lại cơ bản về cách thức xây dựng các hệ thống trí tuệ nhân tạo này.
Tôi không đủ trình độ để suy đoán về câu hỏi đó, nhưng có một điều đủ rõ ràng: có rất nhiều nhu cầu về những thứ nhảm nhí trên thế giới và nếu nó đủ rẻ, nó sẽ được cung cấp với số lượng lớn. Hãy nghĩ xem bây giờ chúng ta cần phải chăm chỉ như thế nào để tự bảo vệ mình khỏi thư rác, tiếng ồn và sự lan truyền sáo rỗng. Và hãy nghĩ xem sẽ khó khăn đến mức nào khi thế giới trực tuyến chứa đầy những văn bản thú vị mà chưa ai từng viết, hoặc những bức ảnh hấp dẫn về những người và địa điểm không tồn tại.
Hãy xem xét vấn đề “tin tức giả” nổi tiếng, ban đầu đề cập đến một nhóm thanh thiếu niên Macedonian , những người đã bịa ra những câu chuyện giật gân để thu hút lượt nhấp chuột và từ đó thu được doanh thu quảng cáo. Lừa dối không phải là mục tiêu của họ; mục tiêu của họ là sự chú ý. Thanh thiếu niên Macedonian và ChatGPT chứng minh cùng một điểm. Sẽ dễ dàng hơn rất nhiều để tạo ra những câu chuyện thú vị nếu bạn không bị ràng buộc bởi sự tôn trọng sự thật.
Tôi đã viết về vấn đề nhảm nhí vào đầu năm 2016 , trước cuộc trưng cầu dân ý về Brexit và cuộc bầu cử của Donald Trump. Lúc đó thật tệ; bây giờ nó tồi tệ hơn. Sau khi Trump bị thách thức trên Fox News về việc đăng lại một số tuyên bố sai sự thật, ông ấy đã trả lời: “Này, Bill, Bill, tôi sẽ kiểm tra mọi số liệu thống kê chứ?” ChatGPT cũng có thể nói như vậy.
Nếu bạn quan tâm đến việc đúng, thì có, bạn nên kiểm tra. Nhưng nếu bạn quan tâm đến việc được chú ý, được ngưỡng mộ hay được tin tưởng, thì sự thật chỉ là ngẫu nhiên. ChatGPT nói rất nhiều điều đúng sự thật, nhưng nó chỉ nói những điều đó như một sản phẩm phụ của việc học để có vẻ đáng tin cậy.
Chatbot đã có những bước tiến vượt bậc trong vài năm qua, nhưng ngay cả những chatbot thô sơ của thế kỷ 20 cũng hoàn toàn có khả năng thu hút sự chú ý của con người. MGonz đã vượt qua bài kiểm tra Turing vào năm 1989 bằng cách bắn một loạt lời lăng mạ vào một người vô tình, người này đã bắn lại một loạt lời lăng mạ. ELIZA, chatbot thời kỳ đầu nổi tiếng nhất, sẽ mê hoặc con người bằng cách lắng nghe những rắc rối của họ. “Nói cho tôi biết thêm,” nó sẽ nói. “Tại sao cậu cảm thấy như thế?”
Những chatbot đơn giản này đã làm đủ để kéo con người xuống mức trò chuyện của họ. Đó sẽ là một lời cảnh báo không được để chatbot chọn quy tắc tương tác. Harry Frankfurt cảnh báo rằng những kẻ nhảm nhí không phản đối sự thật, nhưng “không chú ý đến nó chút nào. Do đó, những điều nhảm nhí là kẻ thù của sự thật lớn hơn những lời dối trá. Được cảnh báo: khi nói đến những điều nhảm nhí, số lượng có chất lượng của riêng nó.
Cuốn sách mới dành cho trẻ em của Tim Harford, ‘The Truth Detective’ (Wren & Rook), được phát hành vào ngày 15 tháng 3
