“Cha đẻ” trí tuệ nhân tạo gióng hồi chuông cảnh báo về kịch bản AI vượt tầm kiểm soát

Hàng loạt chuyên gia cảnh báo mối nguy hiểm "hơn vũ khí hạt nhân" 

Mới đây, nhà khoa học máy tính người Canada Yoshua Bengio, người được coi là một trong những cha đẻ của AI, cảnh báo nhân loại đang dần “mất kiểm soát” đối với AI.

Đối với ông Bengio, "có một lý do khiến các công ty phải nói rằng điều này đang diễn ra quá nhanh và chúng ta đang mất kiểm soát (AI)".

"Những người như tôi đã lường trước điều này từ lâu", nhà khoa học 62 tuổi nói thêm. Theo ông, các cuộc thảo luận an ninh xung quanh AI hiện nay vẫn chưa đủ mạnh mẽ, thế giới cần có những rào cản pháp lý tương tự như các cơ chế kiểm soát vũ khí hạt nhân.

Những lo ngại về mối nguy hiểm của AI đã gia tăng trong những tuần gần đây, khi nhân sự từ các công ty công nghệ lớn liên tục nộp đơn xin nghỉ việc kèm theo cảnh báo về các mối đe dọa mang tính tồn vong đối với cuộc sống con người nếu không kiểm soát tốc độ tiến bộ công nghệ.

Ông Yoshua Bengio, nhà sáng lập Viện nghiên cứu Mila, một trong những người đặt nền móng cho AI. Ảnh: Trần Huấn/VnExpress

Sự báo động diện rộng đã bùng nổ sau khi OpenAI tiết lộ một nhóm tác nhân AI đã thực hiện một cuộc xâm nhập trái phép vào nền tảng mã nguồn mở Hugging Face vào tháng 7.

Ông Bengio coi những sự việc như vậy chính là mối đe dọa, đồng thời cảnh báo về kịch bản các tác nhân AI "có khả năng vượt qua rào cản an ninh mạng và xâm nhập vào bất kỳ công ty nào”.

Ông Bengio cho rằng mọi người cần phải nhận thức rõ những rủi ro phía trước.

“Các tác nhân AI có thể thúc đẩy khả năng thiết lập kết nối cá nhân và thuyết phục con người hành động theo những cách có lợi cho nó nhưng không tốt cho tất cả chúng ta, một năng lực có thể gây ra những hệ lụy sâu rộng”, ông nói.

Jacob Coxon - Nhà nghiên cứu cấp cao của Anthropic và từng làm cho OpenAI, mới tuyên bố từ chức cũng cho biết: "Không công ty nào hành động một cách có trách nhiệm. Họ đang tiến thẳng đến siêu trí tuệ có khả năng tự cải tiến, đánh cược cuộc sống của chúng ta".

Evan Hubinger, trưởng nhóm Khoa học Điều chỉnh tại Anthropic, đồng tình với cựu đồng nghiệp. "Chúng tôi thực sự tin AI có thể tiêu diệt nhân loại. Cá nhân tôi nghĩ khả năng này đạt hơn 10% trong thập kỷ tới", ông viết trên X cùng ngày Coxon từ chức và hiện nhận 42,5 triệu lượt xem.

Ba ngày sau, qua thư ngỏ dài 3.800 từ trên blog, CEO Anthropic Dario Amodei, cho biết những tháng gần đây, ông đã tiến hành phân tích và "tin chắc" việc phát triển trí tuệ nhân tạo cần chậm lại và vụ tác nhân AI xâm nhập Hugging Face hồi tháng 7 là một trong những nguyên nhân "làm gia tăng lo ngại".

"Với tốc độ phát triển năng lực AI ngày càng nhanh, tôi lo ngại trong vòng 6-12 tháng tới, một 'bầy AI' như vậy có thể chiếm lĩnh toàn bộ Internet", Amodei nhấn mạnh.

Các nhà lãnh đạo công nghệ nói gì?

Nhiều lãnh đạo công nghệ cũng đồng loạt đưa ra quan điểm về những gì có thể xảy ra tiếp theo. Trong đó, CEO SpaceXAI Elon Musk và CEO OpenAI Sam Altman lên tiếng sớm nhất, công khai ủng hộ kế hoạch của Amodei.

"Dario nói đúng," Musk viết trên X.

Altman cũng cho biết tốc độ phát triển của AI hiện là "chủ đề chính" được thảo luận tại OpenAI những tuần qua. Ông tuyên bố không tiến hành IPO ngay trong năm nay để tập trung cho những vấn đề quan trọng hơn. "Đây không phải là lúc khôn ngoan để niêm yết cổ phiếu", Altman giải thích với Fortune.

Tổng Giám đốc điều hành OpenAI Sam Altman. Ảnh: Reuters

Trong bài viết dài trên blog, Jakub Pachocki, nhà khoa học trưởng OpenAI, khuyến cáo AI đang tiến bộ nhanh đến mức con người ngày càng khó nắm bắt và kiểm soát. Chỉ trong thời gian tương đối ngắn, các mô hình đã có thể vận hành máy tính, hợp tác với con người và hệ thống AI khác, thậm chí thực hiện dự án nghiên cứu.

"Đây là giai đoạn đòi hỏi sự thận trọng cực độ. Tôi lo ngại chưa ai sẵn sàng cho hệ quả của việc trí tuệ máy móc liên tục phát triển", Pachocki viết, cho rằng các nhà phát triển nên cố gắng điều chỉnh AI sao cho phù hợp hơn với lợi ích của con người hoặc "làm chậm quá trình phát triển trong tương lai nếu cần".

"Tôi trông đợi và hy vọng việc tự nguyện giảm tốc sẽ trở nên phổ biến cho đến khi các tiêu chuẩn an toàn chung được thiết lập", ông nhấn mạnh.

Đầu tháng 9, Bill Gates nhận định ngành công nghiệp AI đã vượt qua ngưỡng an toàn mà trước đây các công ty công nghệ từng cam kết tôn trọng. Ông kêu gọi áp dụng một hệ thống kiểm tra nghiêm ngặt giống như giám sát hạt nhân và quy định hàng không.

Trong khi đó, Ajeya Cotra, người tham gia hai tổ chức điều tra vụ tác nhân tấn công Hugging Face hồi tháng 7, cũng cho rằng tần suất sự cố ngày càng nhiều cho thấy AI ngày một nguy hiểm, đưa thế giới "đi hơn 50% chặng đường tới kịch bản có khả năng chi phối con người".

Phản ứng từ các chính phủ chủ chốt

Tuy nhiên, ý chí chính trị giữa các chính phủ chủ chốt dường như không đồng đều. Tổng thống Mỹ Donald Trump vào ngày 14/9 đã bác bỏ những cảnh báo về rủi ro AI, gọi đó là những "trò lừa".

Trong khi đó, Chủ tịch Ủy ban châu Âu Ursula von der Leyen hôm 16/9 tuyên bố sẽ mời các phòng thí nghiệm AI lớn nhất thế giới tham gia thảo luận về "cách hỗ trợ các nỗ lực hiện tại của ngành nhằm điều phối tốc độ của ranh giới công nghệ”.

Thủ tướng Canada Mark Carney cũng nhiều lần đề cập đến việc hợp tác với EU về an toàn AI.

Ông Bengio nhấn mạnh, tất cả các doanh nghiệp phải tuân thủ các hạn chế pháp lý về AI trong tương lai, đặc biệt là các công ty có trụ sở tại Mỹ vốn đang thống trị lĩnh vực này.