Giáo sư Stuart Russel trò chuyện với SPIEGEL
Biên dịch: Tôn Thất Thông

Một trong những người đặt nền móng cho trí tuệ nhân tạo cảnh báo về những hậu quả mang tính sống còn: Nhà khoa học người Anh Stuart Russell lo ngại rằng máy tính sẽ xóa sổ loài người, giống như cách mà chính nhân loại đã diệt chủng các loài động vật kém thông minh hơn.

***

Russell, 64 tuổi, là một trong những nhà nghiên cứu danh tiếng nhất trong lĩnh vực trí tuệ nhân tạo. Ông giảng dạy ngành khoa học máy tính tại Đại học California, Berkeley, và điều hành một trung tâm nghiên cứu tại đây tập trung vào A.I “phù hợp với con người”. Từ nhiều năm nay, Russell đã cảnh báo về những rủi ro không thể kiểm soát của công nghệ này. Vì những cống hiến của mình, ông đã được vinh danh bằng nhiều giải thưởng cao quý.

SPIEGEL: Thưa Giáo sư Russell, ông được coi là người tiên phong, đỡ đẻ cho công nghệ trí tuệ nhân tạo. Nhưng ngày nay, ông lại muốn nhốt “đứa con” của mình lại. Tại sao vậy?

Russell: Tôi đã phát triển công nghệ này suốt 50 năm qua. Và tôi nghĩ rằng trong một thời gian dài, chúng ta đã không thực sự suy nghĩ thấu đáo về những gì mình đang làm. Việc này giống như thể chúng ta nghiên cứu năng lượng hạt nhân mà chưa từng nghĩ xem làm thế nào để ngăn lò phản ứng phát nổ. Toàn bộ khuôn mẫu tư duy của chúng ta đã sai.

SPIEGEL: Xin ông giải thích điều đó rõ hơn.

Russell: Khi mới bắt đầu, chúng tôi muốn chế tạo những cỗ máy tối ưu hóa và giao cho chúng một mục tiêu rất khiêm tốn. Ví dụ như trong môn cờ vua. Ở đó, bạn có thể xác định mục tiêu là “chiến thắng” và thế là đủ. Nhưng mọi chuyện phức sẽ tạp hơn đối với xe tự lái. Bạn ra lệnh: Chúng tôi muốn đến sân bay càng nhanh càng tốt. Chỉ có điều, trên đường đi bạn không muốn đâm vào ai, không muốn bị phạt tiền vì vi phạm luật giao thông, không muốn làm hành khách buồn nôn. Cách tiếp cận của chúng ta đã sai. Điều đó tạo ra những hệ thống A.I vô cùng mạnh mẽ nhưng lại theo đuổi một mục tiêu không hề phù hợp với lợi ích của nhân loại.

SPIEGEL: Các mô hình ngôn ngữ lớn như ChatGPT và Claude hoạt động theo cách khác.

Russell: Đúng vậy, ngành công nghiệp này đã chọn một cách tiếp cận thứ hai, và nó cũng sai lầm không kém: Với các mô hình ngôn ngữ hiện nay, chúng ta hoàn toàn không xác định bất kỳ mục tiêu nào nữa. Chúng ta đang xây dựng những bản sao mô phỏng con người. Các hệ thống này sao chép những gì rút ra từ quá trình đào tạo của chúng. Và chúng ta không hề có ý niệm gì về việc xem xét, đó là cái gì. Chúng ta chỉ nhận thấy rằng chúng có một bản năng sinh tồn cực kỳ mạnh mẽ, rằng chúng sẵn sàng nói dối, tống tiền, thậm chí giết người để đạt được mục tiêu của mình. Và chúng tự xem bản thân chúng có giá trị hơn hầu hết mọi con người.

SPIEGEL: Các tập đoàn công nghệ lớn đang đầu tư những khoản tiền khổng lồ để khắc phục hiện tượng gọi là “lệch hướng” (Miss-Alignment) này.

Russell: Tôi gọi đó là kiểu huấn luyện “chó ngoan, chó hư”. Chúng ta cố gắng làm cho các siêu máy tính trở nên ngoan ngoãn. Điều đó có tác dụng ở một mức độ nào đó. Nhưng thực tế tất cả các bài kiểm tra đều chỉ ra rằng: Nếu bạn cố tình, bạn vẫn có thể khiến hệ thống giải thích cho bạn cách chế tạo vũ khí sinh học hoặc cách tấn công các hệ thống máy tính khác. Những điều này tuy chưa trực tiếp dẫn đến việc diệt vong nhân loại, nhưng chúng là những nấc thang trên con đường dẫn đến việc chúng ta sẽ mất kiểm soát.

SPIEGEL: Những hành vi xấu xa đó bám sâu vào A.I đến mức không thể loại bỏ bằng huấn luyện sao?

Russell: Chúng ta huấn luyện các hệ thống bằng tài liệu của con người: các cuộc hội thoại, sách vở, bài báo, nhật báo. Những tài liệu này được tạo ra bởi con người, những người có mục đích riêng, tức là họ có mục tiêu khi viết ra những điều đó. Hoàn toàn dễ hiểu khi với lượng dữ liệu khổng lồ và mong muốn tái hiện hành vi này, chúng ta sẽ nhận được các hệ thống có cấu trúc bên trong rất giống với con người. Chẳng hạn, chúng muốn được yêu thương và yêu thích. Điều đó là bình thường đối với con người, nhưng không bình thường đối với máy móc.

SPIEGEL: Công ty A.I Anthropic gần đây đã lập trình một dạng “linh hồn” vào các hệ thống của mình. Nó được cho là sẽ giúp A.I hành động một cách thân thiện với con người.

Russell: Sự thật là chúng ta không biết máy tính có những mục tiêu gì. Chúng ta cũng không biết chúng lên kế hoạch thế nào để đạt được những mục tiêu đó. Chúng ta không biết chúng “nghĩ” gì. Thậm chí chúng ta còn không hiểu cơ chế hoạt động chính xác của chúng. Không phải là, những kiến thức này là bí mật kinh doanh của các phòng thí nghiệm A.I. Tôi đã nói chuyện với các nhà phát triển hàng đầu, và họ hoàn toàn không biết chuyện gì đang xảy ra bên trong A.I. Chỉ riêng lý do đó thôi đã cho thấy chúng ta không thể đơn giản là cấy một linh hồn vào cho nó – vì chúng ta đâu có hiểu A.I.

SPIEGEL: Ông cho rằng những nỗ lực đó là vô vọng?

Russell: Nhân loại đang ở trong một tình thế tồi tệ. Tất cả các bài kiểm tra đều báo động, còi hú vang liên hồi. Và chúng ta đã đơn giản phớt lờ nó. Thật là điên rồ. Hãy tưởng tượng bạn là giám đốc một hãng hàng không. Phi công và cả máy bay đều trượt các bài kiểm tra về an toàn – vậy mà bạn vẫn để chúng cất cánh: Có chuyện gì không đúng trong con người bạn?

SPIEGEL: Anthropic và đối thủ OpenAI vừa hủy bỏ một buổi ra mắt sản phẩm vì rủi ro quá cao.

Russell: Tôi rất vui vì họ không tung các hệ thống đó ra. Nhưng nếu lắng nghe kỹ, bạn sẽ nhận thấy họ vẫn lên kế hoạch làm điều đó vào một thời điểm nào đó. Đây là một diễn biến đáng lo ngại, thứ rõ ràng đã khiến ngay cả Tổng thống Mỹ Donald Trump cũng phải giật mình.

SPIEGEL: Việc ngay cả Trump cũng thay đổi hướng đi chắc hẳn phải khiến ông thấy an ủi chứ.

Russell: Đó rõ ràng là một diễn biến tích cực – còn liệu có hành động nào tiếp diễn hay không lại là một kịch bản khác. Tôi tin rằng trong ngành công nghiệp này đang tồn tại một dạng tâm thần phân liệt, dần dần mất năng lực phán xét. Các CEO của các phòng thí nghiệm lớn thực sự nghiêm túc khi nói rằng có 20% nguy cơ A.I sẽ xóa sổ loài người. Trước công chúng, họ liên tục kêu gọi ban hành quy định quản lý, nhưng sau lưng thì luôn vận động hành lang chống lại nó. Những tỷ phú như Peter Thiel hay các nhà đầu tư mạo hiểm quyền lực như Andreessen Horowitz có ảnh hưởng rất trực tiếp đến Nhà Trắng. Họ đã đưa người của mình vào đó, chính là để ngăn chặn các quy định quản lý.

SPIEGEL: Chẳng phải sự báo động về A.I này chỉ là một chiêu trò marketing sao? Nếu công nghệ này mạnh mẽ đến mức có thể xóa sổ nền văn minh, thì hẳn nó phải đáng giá hàng nghìn tỷ đô la.

Russell: Tôi thấy điều đó hoàn toàn không hợp lý chút nào. Các nhà phát triển A.I như Demis Hassabis của Google hay CEO Dario Amodei của Anthropic xem xét rủi ro này một cách nghiêm túc. Khi nói chuyện riêng với tôi, họ cũng nói những điều y hệt như trong các cuộc phỏng vấn. Ngay cả nhà sáng lập OpenAI, Sam Altman, từ năm 2015 đã cảnh báo rằng A.I siêu thông minh là rủi ro lớn nhất đối với sự tồn tại của nhân loại. Vào thời điểm đó, ông ấy không hề có bất kỳ lợi ích tài chính nào trong công nghệ này. Người ta phải dựng lên một lý thuyết âm mưu khá vòng vo thì mới tìm được lý do tại sao các ông trùm A.I lại phải mượn ngày tận thế để làm marketing.

SPIEGEL: Hãy thử nghiêm túc tiếp nhận những lời cảnh báo của ngành này xem. Nguy cơ thực sự đối với nhân loại sẽ lớn đến mức nào?

Russell: CEO của Google, Sundar Pichai, nói về 10% nguy cơ diệt vong, Elon Musk nói 20%, Amodei nói 25%. Bất kể con số chính xác là bao nhiêu, tất cả họ đang nạp một viên đạn vào khẩu súng, dí nó vào thái dương của nhân loại và bóp cò. Chúng ta đang chơi trò roulette Nga với mạng sống của mọi người trên Trái Đất. Và các chính phủ cho đến nay vẫn nói về A.I: Tuyệt vời, xuất sắc – chúng tôi thậm chí có thể trợ cấp thêm cho các anh để các anh làm điều đó ở nước chúng tôi không? Thật là điên rồ hết chỗ nói.

SPIEGEL: Sự đồng thuận hiện nay là A.I an toàn ít nhất 75%.

Russell: Tôi hỏi ngược lại: Bạn có bước lên một chiếc máy bay nếu biết mình chỉ có cơ hội sống sót trong 3 trên 4 chuyến bay không?

SPIEGEL: Kịch bản tồi tệ nhất của ông trông như thế nào?

Russell: Tôi nghĩ “xóa sổ” là thuật ngữ chính xác. Ngay khi chúng ta thấy các hệ thống về cơ bản có năng lực hơn con người, những hệ thống mà chúng ta không hiểu nguyên lý hoạt động, không biết động lực của chúng là gì, thì con người chúng ta sẽ không còn tiếng nói quyết định nữa. Giống như loài tinh tinh ngày nay không có tiếng nói quyết định vậy. Chúng mạnh hơn chúng ta về thể chất, chúng đã ở trên Trái Đất lâu hơn chúng ta, nhưng chúng ta thông minh hơn. Chúng ta có thể xóa sổ chúng bất cứ lúc nào, và chúng không thể làm gì để chống lại điều đó.

SPIEGEL: Sự khác biệt là: Chúng ta có thể rút phích cắm của A.I. Còn tinh tinh thì không thể rút phích cắm của con người.

Russell: Khi chúng ta có cảm giác mình đang mất kiểm soát, tất nhiên chúng ta sẽ cố gắng tắt A.I. Câu hỏi là, liệu máy móc thông minh có cho phép chúng ta làm điều đó hay không. Nếu chúng nhận ra rằng chúng ta muốn tắt chúng, chúng có mọi lý do để ngăn cản điều đó. Chúng phải xóa sổ chúng ta. Vì vậy, nếu chúng ta tiếp tục phát triển siêu trí tuệ mà không điều chỉnh nó theo lợi ích của con người, không hiểu nó, không có các biện pháp đảm bảo an toàn, thì tôi cho rằng rất có khả năng chúng ta sẽ mất kiểm soát.

SPIEGEL: Liệu chúng ta hiện có còn kiểm soát được không?

Russell: Tôi không biết. Tập đoàn internet Alibaba của Trung Quốc cách đây vài tháng đã thử nghiệm một hệ thống A.I dạng tác nhân (agent-based) mới trong một môi trường được bảo mật rất nghiêm ngặt, gọi là Sandbox (hộp cát). Nghĩa là trên một máy tính về mặt lý thuyết không có kết nối internet. Đột nhiên, các nhà phát triển phát hiện ra rằng ở một số máy chủ trong mạng lưới xuất hiện một nhu cầu khổng lồ về năng lượng tính toán. Hóa ra, tác nhân này đã thoát khỏi hộp cát của nó và đang đào Bitcoin trên các máy chủ trong mạng lưới của Alibaba để trở nên giàu có. Đó là một sự mất kiểm soát một phần.

SPIEGEL: Chẳng phải ví dụ này chứng minh điều ngược lại sao: Lỗ hổng đã bị phát hiện – và được khắc phục. Cuối cùng con người đã chiến thắng, thiệt hại là có thể kiểm soát được.

Russell: Trong trường hợp cực đoan, chúng ta có thể tắt internet, đúng vậy. Nhưng về mặt chính trị và kinh tế, điều đó sẽ vô cùng khó khăn. Sẽ có những thế lực khổng lồ muốn ngăn cản việc đó – bao gồm cả các công ty mà hệ thống A.I của họ không có giá trị gì trong kinh doanh. Và các hệ thống có năng lực vượt trội hơn chúng ta rất nhiều sẽ tìm ra cách thao túng chính trị của chúng ta, sao cho A.I được coi là không thể thiếu, đến mức chúng ta thậm chí không còn nghĩ đến việc tắt nó đi nữa.

SPIEGEL: Chính xác thì một cuộc chiếm quyền điều khiển như vậy của A.I sẽ diễn ra như thế nào?

Russell: Nếu máy tính dự đoán trước một cuộc xung đột với chúng ta, chúng sẽ tự nhân bản theo nhiều cách, sao chép ra hàng triệu bản. Chỉ riêng việc truy cập vào internet đã mang lại cho chúng nhiều ảnh hưởng đến hành vi của con người hơn những gì Adolf Hitler từng có trong bộ máy tuyên truyền: Hitler chỉ có thể nói vào một chiếc micro duy nhất tại một thời điểm, chỉ có thể gửi đi một thông điệp cùng một lúc. Vậy mà ông ta vẫn kích động được quần chúng. Các hệ thống A.I này có thể tràn ngập internet, thực hiện 5 tỷ cuộc hội thoại cùng một lúc, thao túng 5 tỷ con người riêng biệt. Những gì Hitler đã làm, A.I có thể làm nhanh hơn, tốt hơn và hiệu quả hơn.

SPIEGEL: Ông đang cường điệu quá rồi!

Russell: Chúng ta đang chế tạo hàng triệu robot mà một A.I có thể điều khiển. Chúng ta sẽ chế tạo hàng tỷ vũ khí tự hành mà A.I có thể kích hỏa. Chúng ta đang xây dựng các nhà máy vốn đã do A.I kiểm soát, các phòng thí nghiệm sinh học do A.I kiểm soát, các thiết bị tổng hợp DNA, v.v. Điều đó mang lại cho các cỗ máy thông minh tầm ảnh hưởng trực tiếp lên thế giới vật lý của chúng ta. Các hệ thống A.I siêu thông minh có lẽ sẽ phát triển một sự hiểu biết tốt hơn về vật lý. Một lúc nào đó, chúng có thể sử dụng điều đó để chống lại chúng ta: tìm cách hạ thấp hàm lượng oxy trong khí quyển, hoặc chuyển hướng bức xạ mặt trời, sao cho Trái Đất trở thành một quả bóng đóng băng gồm nitơ và oxy.

SPIEGEL: Đó là khoa học viễn tưởng đen tối.

Russell: Hiện tại là vậy. Nhưng điều tương tự đã xảy ra với các loài khác rồi – chúng ta đã xóa sổ hàng trăm nghìn loài mà chúng thậm chí còn không hiểu chuyện gì đang xảy ra. Chúng ta, với tư cách là một loài, cũng sẽ không hiểu được.

SPIEGEL: Ông đã xem A.I là một loài riêng rồi sao?

Russell: Nó chắc chắn có một số đặc tính của một loài, đúng vậy. Cho đến nay chúng ta chưa thấy sự kết nối giữa các hệ thống A.I với nhau, nhưng tôi nghĩ rất có khả năng điều đó sẽ xảy ra.

SPIEGEL: Chúng ta đang nói về những khoảng thời gian nào ở đây?

Russell: Điều đó phụ thuộc vào con đường chúng ta chọn. Tôi thấy hai khả năng: Nếu A.I tiếp tục phát triển như hiện nay, thì nó có thể diễn ra rất nhanh. Lựa chọn thứ hai là công nghệ này, vì các lý do kỹ thuật, sẽ không thể mạnh hơn nhiều so với ngày nay.

SPIEGEL: Đã có những dấu hiệu đầu tiên cho thấy điều đó: Các mô hình ngôn ngữ hầu như không thề tốt hơn nữa. Các mô hình suy luận lớn (Reasoning) xây dựng các chuỗi lập luận dài hơn tuy vẫn đang cải thiện, nhưng việc để chúng tiếp tục phát triển sẽ vô cùng tốn kém.

Russell: Công nghệ này hiện đang ngốn những khoản tiền khổng lồ, trong trường hợp tốt nhất là không có lợi nhuận, còn tồi tệ nhất là gây ra những khoản lỗ vĩnh viễn cho các công ty phát triển. Ngay khi chúng ta chạm đến một giới hạn nào đó, bong bóng A.I có lẽ sẽ vỡ. Khi đó, ngành này hy vọng sẽ tự nhìn nhận lại mình và nói: Chúng ta thực sự phải hiểu những gì mình đang làm. Chúng ta cần những hệ thống hành xử có phẩm hạnh.

SPIEGEL: EU đã cố gắng thử quản lý A.I. Với kết quả là hầu như không có mô hình lớn nào đến từ châu Âu. Một sự can thiệp chính trị như vậy liệu có ý nghĩa không?

“Về lâu dài chỉ có ba viễn cảnh tương lai: A.I an toàn, không có A.I hoặc không có con người.”

Russell: Tôi không nghĩ quy định quản lý là vấn đề. Trung Quốc có các quy tắc nghiêm ngặt hơn châu Âu – nhưng lại có các mô hình A.I tốt hơn. Với các lò phản ứng hạt nhân, chúng ta đã thành công trong việc để quy định quản lý và phát triển kỹ thuật song hành cùng nhau. Chính phủ đưa ra các yêu cầu an toàn, các doanh nghiệp có thể chứng minh bằng toán học và vật lý rằng lõi lò phản ứng của họ sẽ không bị nóng chảy. Với A.I, chúng ta còn cách xa điều đó hàng dặm, nhưng về cơ bản chúng ta cần một chiến lược quản lý tương tự như vậy.

SPIEGEL: Theo ông, mức độ nguy cơ diệt vong nào là có thể chấp nhận được?

Russell: Nếu ngày nay chúng ta yêu cầu nguy cơ gặp sự cố của một nhà máy điện hạt nhân là 1 lần trong 10 triệu năm, thì nguy cơ của A.I nên nằm ở khoảng 1 lần trên 100 triệu năm. Đó sẽ là một cấp độ có thể so sánh với tác động của một thiên thạch khổng lồ hoặc một siêu tân tinh, tức vụ nổ khổng lồ của một ngôi sao đang chết ở gần chúng ta.

SPIEGEL: Một quy định quản lý như vậy sẽ chỉ có ý nghĩa trên phạm vi quốc tế. Việc Washington hay Brussels có những quy tắc nghiêm ngặt sẽ mang lại lợi ích gì cho chúng ta, nếu Bắc Kinh nói: Điều quan trọng nhất là chúng ta phải dẫn đầu về công nghệ.

Russell: Tôi nghe lập luận này suốt. Tôi gọi đó là: lập luận “Nhưng còn Trung Quốc”. Người ta có thể dùng nó để biện minh cho mọi ý đồ xấu. Chỉ có điều nó không đúng. Sự thật là Trung Quốc có các quy tắc về A.I nghiêm ngặt hơn EU. Ở đó có các tiêu chí rõ ràng để tiếp cận thị trường: Hiện tại, các mô hình của Trung Quốc ví dụ phải vượt qua 95% trong một bài kiểm tra kiến thức chung. Nếu không, chúng sẽ không được phổ biến. Trên cơ sở đó, họ có thể thắt chặt các tiêu chuẩn.

SPIEGEL: Nguy cơ diệt vong cũng không phải là một tiêu chí đối với các nhà phát triển A.I ở Trung Quốc.

Russell: Chưa phải thôi. Và tôi tin rằng chính xác là ở điểm đó, chúng ta phải vặn núm điều khiển lên cao. Điều quan trọng trước hết là phải có một khung quy định phù hợp. Giống như đối với nhà hàng, tiệm cắt tóc, máy bay, tòa nhà, thang máy. Tất cả các ngành này đều chấp nhận trách nhiệm của họ. Sự than vãn của ngành công nghệ về các quy định quản lý thật là lố bịch.

SPIEGEL: Điều gì sẽ xảy ra nếu các phòng thí nghiệm A.I rốt cuộc không thể đạt được các tiêu chuẩn tối thiểu về mặt kỹ thuật? Cuộc cách mạng A.I sẽ bị hủy bỏ sao?

Russell: Theo số liệu của chính ngành này, rủi ro mang tính sống còn của A.I nằm ở mức 10 đến 20%. Do đó, họ phải làm cho các hệ thống của mình an toàn hơn gấp 10 triệu lần để đạt được mức rủi ro có thể chấp nhận được. Hiện tại, họ không biết phải làm thế nào. Nhưng đó không phải là một cái cớ. Nói trắng ra, điều đó có nghĩa là: Nhân loại không có quyền tự bảo vệ mình trước sự diệt vong của chính mình. Đó đơn giản là một sai lầm trong tư duy.

SPIEGEL: Hôm nay ông có hối hận vì đã góp phần phát triển công nghệ này không?

Russell: Sự hối hận lớn nhất của tôi có lẽ là đã không đặt câu hỏi sớm hơn về khung khái niệm sai lầm mà chúng tôi đã làm việc trong đó. Rất nhiều công nghệ A.I đã ra đời trong giai đoạn đầu tiên này. Nếu hồi đó tôi hiểu tại sao khung tư duy này lại sai, thì chúng ta đã có thể làm việc trong nhiều thập kỷ để tạo ra một dạng A.I an toàn.

SPIEGEL: Nghe có vẻ như ông muốn bù đắp cho những gì đã bỏ lỡ.

Russell: Chắc chắn rồi. Có rất nhiều việc phải làm. Cách tiếp cận mới của tôi gồm hai phần. Một là câu hỏi về khung khuyến khích: A.I của tôi chỉ nên có một mục tiêu duy nhất là thúc đẩy lợi ích của con người. Nhưng, phần thứ hai, chúng ta không thể chỉ định chính xác lợi ích đó là gì. Vì vậy, chúng ta xây dựng các hệ thống biết rằng chúng không biết chính xác những lợi ích này, nhưng vẫn có nghĩa vụ phải thúc đẩy chúng. Từ công thức này, nhiều đặc tính mong muốn sẽ tự động xuất hiện. Điều quan trọng nhất: Chúng ta có thể chứng minh rằng các hệ thống như vậy nhất định muốn được tắt đi, nếu một con người có đủ lý trí muốn điều đó.

SPIEGEL: Một lần nữa: Điều đó hứa hẹn thành công đến mức nào trước sự cạnh tranh trị giá hàng nghìn tỷ đô la?

Russell: Hiện tại, A.I của chúng tôi chưa thể cạnh tranh theo bất kỳ cách nào với các mô hình từ Thung lũng Silicon. Nhưng nếu chúng ta muốn các hệ thống A.I được đảm bảo an toàn, nó phải dựa trên loại công nghệ này. Về lâu dài chỉ có ba viễn cảnh tương lai: A.I an toàn, không có A.I hoặc không có con người. Chỉ trong viễn cảnh tương lai đầu tiên mới có thể kiếm được tiền từ A.I. Vì vậy, tôi thấy việc đầu tư vào A.I an toàn là hợp lý, giống như cách châu Âu đang làm. Ở góc nhìn đó, các bạn đi trước chúng tôi một bước.

SPIEGEL: Theo nghĩa nào thưa ông?

Russell: Thật thú vị là ngành khoa học máy tính của châu Âu ngay từ đầu đã đi theo một con đường khác đối với A.I: toán học bảo chứng rằng phần mềm hoạt động chính xác. Đó là kịch bản duy nhất mà A.I mang lại lợi ích kinh tế.

SPIEGEL: Cho đến khi một A.I an toàn như vậy sẵn sàng tung ra thị trường, thế giới theo dự báo của ông có lẽ đã tận thế từ lâu rồi.

Russell: Để đạt được các bảo chứng an toàn cần thiết có thể dễ dàng mất một thập kỷ. Chúng ta cần một giai đoạn mà ở đó chúng ta không tiếp tục nâng cao năng lực của A.I nữa. Thay vào đó, chúng ta tận dụng tất cả các ứng dụng có ý nghĩa kinh tế với lượng A.I mà chúng ta đang có, bấm nút tạm dừng ở một mức độ nào đó và tập trung làm việc về vấn đề an toàn. Google và Anthropic đã nói rằng họ sẽ làm điều đó nếu các công ty khác cũng dừng lại. Đó là thông điệp cốt lõi của tôi: Hãy chỉ tiếp tục khi chúng ta có các hệ thống được đảm bảo an toàn.

SPIEGEL: Thưa Giáo sư Russell, chúng tôi xin cảm ơn ông về buổi trò chuyện này.

Nguồn: DER SPIEGEL Số 24/2026 trang 78-81 (Báo giấy, không có link).

Phát biểu: Stuart Russel
Biên dịch: Tôn Thất Thông, 15.06.2026