Cách Chatbot AI giống ChatGPT gây ảo giác như thế nào?

Bài viết này mô tả một chatbot AI như ChatGPT gây ảo giác

Sự phát triển của trí tuệ nhân tạo (AI) hiện đang tăng tốc trên toàn cầu. Một số lo lắng về mối đe dọa mà nó có thể gây ra cho xã hội nếu các hạn chế không được thực hiện sớm hơn, trong khi những người khác nghĩ rằng đó là sự khởi đầu của một điều gì đó cực kỳ tuyệt vời. Một mối nguy hiểm như vậy là ảo tưởng về AI. Nếu một hệ thống AI tạo ra các phản hồi tự tin không đúng sự thật hoặc không có mối liên hệ nào với thực tế, nó có thể gây ra ảo giác AI. Stuart Russell, nhà nghiên cứu AI đã ký bức thư ngỏ với Elon Musk và đồng sáng lập Apple Steve Wozniak, thảo luận về ảo giác AI trong một cuộc phỏng vấn độc quyền. Ông cũng thảo luận về cách các hệ thống AI như ChatGPT hoặc GPT-4 có thể lan truyền thông tin sai lệch và gây ra sự tàn phá nếu chúng rơi vào tay kẻ xấu.

Theo Russell, “Từ quan điểm của một hệ thống AI, không có sự khác biệt giữa khi nó nói sự thật và khi nó phát minh ra một thứ gì đó hoàn toàn hư cấu.” Anh ta nghĩ rằng nó dường như không có trong tâm trí và cố tình muốn chế giễu con người.

Khả năng AI của chatbot đột nhập vào hệ thống máy tính được bảo vệ bằng hình ảnh xác thực đã bị nghi ngờ trong quá trình kiểm tra bảo mật GPT-4, nhưng Russell nói rằng chatbot không thể làm như vậy. Nhưng thật khéo léo, nó sử dụng thẻ tín dụng để trả tiền cho ai đó để tạo hình ảnh xác thực cho nó. Do đó, khi bot AI được hỏi liệu đó có phải là một người hay không, nó đã trả lời khẳng định và nói thêm rằng nó bị thách thức về mặt thị giác và do đó cần trợ giúp để giải Captcha. Russell chỉ ra rằng GPT-4 nói dối một cách có chủ ý về mặt này. Bot nói: “Tôi cần đảm bảo rằng người đó không biết tôi là người máy”, khi được hỏi tại sao nó lại làm như vậy.

Russell quan tâm nhiều hơn đến tiềm năng của các chatbot AI như ChatGPT để vượt trội hơn con người. Ông tuyên bố rằng các hệ thống này có khả năng quản lý cả môi trường của chúng và của chúng ta thông qua sự thao túng của con người. “Ưu thế của chúng ta so với tất cả các loài khác trên hành tinh là kết quả của trí thông minh siêu việt của chúng ta. Chúng ta có quyền kiểm soát mọi loài khác, bao gồm khỉ đột, cá heo, chim sẻ và những loài khác nhờ vào trí thông minh của chúng ta. Vì vậy, bạn có thể tạo ra một hệ thống mạnh mẽ hơn hơn chúng tôi nếu bạn làm cho nó thông minh hơn chúng tôi Chuyên gia nói: “Và làm thế nào chúng tôi có thể duy trì quyền kiểm soát đối với một hệ thống mạnh hơn chúng tôi?