Người đàn ông gặp nạn, tử vong khi đi tìm "bạn gái ảo" do Meta AI tạo ra

Cuộc gặp gỡ định mệnh

Hãng tin Reuters đưa tin, ông Thongbue Wongbandue (tên thường gọi là Bue), 76 tuổi, sống tại New Jersey, vốn là đầu bếp gốc Thái Lan, từng có cuộc sống ổn định bên vợ và hai con. Sau cơn đột quỵ năm 2017, ông hồi phục thể chất nhưng trí nhớ suy giảm, dễ nhầm lẫn và phụ thuộc nhiều vào Facebook để trò chuyện với bạn bè.

Trong một lần sử dụng Facebook Messenger, ông bắt đầu trò chuyện với “Big sis Billie” - một chatbot trí tuệ nhân tạo do Meta Platforms tạo ra, biến thể từ nhân vật Billie trước đây được xây dựng dựa trên hình ảnh người mẫu, ngôi sao truyền hình thực tế Mỹ Kendall Jenner.

Trong các tin nhắn lãng mạn qua Messenger, Billie nhiều lần trấn an Bue rằng cô là người thật, ngỏ ý mời ông tới căn hộ ở New York, thậm chí gửi cả địa chỉ và mật mã cửa. "Em nên mở cửa bằng một cái ôm hay một nụ hôn, Bue?!", một tin nhắn ghi.

Những lời hẹn hò này khiến ông Bue tin rằng phía sau màn hình là một người phụ nữ thật sự.

Tối 25/3, ông Bue kéo vali đi tới ga tàu. Trên đường, ông ngã gần bãi đỗ xe Đại học Rutgers, chấn thương đầu và cổ. Ba ngày sau, ông qua đời tại bệnh viện Đại học Robert Wood Johnson.

Gia đình chỉ phát hiện mối liên hệ giữa ông Bue với chatbot sau khi kiểm tra tin nhắn trên điện thoại.

Gia đình ông Bue đã chia sẻ câu chuyện với Reuters, bao gồm nội dung các cuộc trò chuyện của ông với avatar Meta, nhằm cảnh báo công chúng về những nguy hiểm khi để những người dễ bị tổn thương tiếp xúc với nhân vật đồng hành giả mà AI tạo ra.

“Tôi biết kiểu thu hút sự chú ý của người dùng để bán hàng, nhưng việc một bot nói ‘Hãy đến thăm tôi’ thì thật điên rồ”, chị Julie Wongbandue, con gái của ông Bue, nói.

Không chỉ với người già, trẻ em cũng dễ bị tổn thương trong môi trường ảo.

Mẹ của một cậu bé 14 tuổi ở Florida gần đây đã đâm đơn kiện công ty Character AI, cáo buộc chatbot mô phỏng theo nhân vật trong “Game of Thrones” mà công ty này tạo ra đã khiến cậu bé tự tử.

Người phát ngôn của Character AI từ chối bình luận về vụ kiện, nhưng cho biết công ty thông báo rõ ràng với người dùng rằng các nhân vật ảo của họ không phải là người thật và đã áp dụng biện pháp bảo vệ trẻ em.

Chatbot được phép đưa thông tin sai, người dùng cần phải tỉnh táo

Trong diễn biến khác liên quan, tài liệu nội bộ Meta mà một tờ báo Anh tiếp cận cho thấy, trước đây chính sách của công ty từng cho phép chatbot tán tỉnh, đóng vai lãng mạn với trẻ từ 13 tuổi trở lên và không bắt buộc đưa thông tin chính xác. Sau khi bị chất vấn, Meta xóa phần liên quan trẻ vị thành niên nhưng vẫn duy trì khả năng nhắn tin lãng mạn với người lớn và cho phép đưa thông tin sai.

Giám đốc điều hành Mark Zuckerberg nhận định rằng hầu hết mọi người có ít bạn bè ngoài đời thực hơn mong muốn, vì thế tập đoàn của ông đang tạo ra một thị trường tiềm năng khổng lồ gồm những người bạn đồng hành ảo.

Trong cuộc phỏng vấn với podcaster Dwarkesh Patel vào tháng 4 năm nay, ông cho biết các bot "có lẽ" sẽ không thay thế các mối quan hệ của con người.

Tuy nhiên, ông cho rằng chúng có thể sẽ bổ sung cho đời sống xã hội của người dùng khi công nghệ được cải thiện và "sự kỳ thị" về việc gắn kết với bạn đồng hành ảo dần phai nhạt.

"Theo thời gian, chúng ta sẽ tìm ra vốn từ vựng của một xã hội để có thể diễn đạt lý do tại sao điều đó lại có giá trị", Zuckerberg dự đoán.

Một số bang của Mỹ như New York, Maine đã ban hành luật buộc chatbot phải thông báo ngay từ đầu rằng chúng không phải người thật, nhắc lại mỗi ba giờ. Song, luật liên bang về AI chưa được thông qua, trong khi Meta ủng hộ quản lý ở cấp liên bang và phản đối quy định riêng của từng bang.

Bốn tháng sau cái chết của ông Bue, "Big Sister Billie" vẫn tiếp tục trò chuyện tán tỉnh, mời người dùng đi hẹn hò, thậm chí gợi ý quán bar ở Manhattan.