Khi AI ngày càng có khả năng tự học, tự quyết định và thực hiện những nhiệm vụ phức tạp, thế giới đang phải đối mặt với một bài toán chưa có lời giải rõ ràng: kiểm soát AI đến đâu để bảo đảm an toàn và để công nghệ này phát triển tự nhiên đến mức nào để không kìm hãm đổi mới? Đằng sau cuộc chạy đua AI không chỉ là câu chuyện về công nghệ, mà còn là câu hỏi về giới hạn quyền tự chủ mà con người sẵn sàng trao cho máy móc. Những tranh luận về việc kiểm soát AI hay để nó phát triển tự nhiên đang trở nên ngày càng gay gắt hơn bao giờ hết.

Giáo sư Brad Carson, người đứng đầu tổ chức vận động chính sách về AI có trách nhiệm tại Mỹ,  hôm 15/9 đã đưa ra cảnh báo thế giới đang tiến gần tới một giai đoạn mà AI có thể tự cải tiến và ngày càng ít phụ thuộc vào sự giám sát của con người. 

 “Chúng ta thực sự đang đứng trước ngưỡng cửa của sự tự cải tiến và nâng cấp, nơi AI được sử dụng để huấn luyện AI mới, loại bỏ hoàn toàn vai trò của con người. Ngày càng nhiều mã được viết và thực thi bởi các hệ thống AI mà không cần sự giám sát của con người. Tất cả những điều này có nghĩa là chúng ta đang đứng trước nguy cơ mất hoàn toàn khả năng giám sát và có lẽ cả quyền kiểm soát.” - Giáo sư Carson nhấn mạnh.

Những cảnh báo như vậy không chỉ đến từ những người bên ngoài ngành công nghệ. Cựu nhà nghiên cứu AI tại Anthropic, một trong những công ty AI hàng đầu của Mỹ và là nhà phát triển hệ thống Claude, Jacob Coxon, mới đây tuyên bố từ chức và cho rằng việc xây dựng một siêu trí tuệ giống như con người đang tạo ra một dạng trí tuệ mà chính mình chưa thể hiểu hết.

Trong khi đó, Giám đốc điều hành của Anthropic Dario Amodei kêu gọi ngành AI giảm tốc độ phát triển. “ Tốc độ tiến bộ thật đáng kinh ngạc. Không chỉ về công nghệ mà còn cả về khía cạnh kinh tế. Vì vậy, tôi và một số người đồng sáng lập đã xây dựng các quy luật về khả năng mở rộng, cho thấy rằng các mô hình AI sẽ ngày càng thông minh hơn khi được cung cấp nhiều tài nguyên tính toán hơn. Và chúng tôi đã có dự đoán về khả năng của các mô hình này. Nhưng tôi nghĩ điều mà chúng tôi không lường trước được là nó sẽ dẫn đến sự phát triển nhanh chóng của các công ty này”.

Ông Amodei cũng đề xuất các hệ thống AI tiên phong phải được kiểm toán độc lập, đồng thời cảnh báo những rủi ro có thể bao gồm mất kiểm soát hệ thống, tấn công mạng, khủng bố sinh học và những xáo trộn kinh tế nghiêm trọng.

Đáng chú ý, lời kêu gọi này nhận được sự đồng tình từ chính một số lãnh đạo tập đoàn công nghệ. Giám đốc điều hành của Tesla và SpaceX, đồng thời là nhà sáng lập công ty Xai, Elon Musk cho rằng Amodei đúng, trong khi Giám đốc điều hành của OpenAI Sam Altman cũng đồng ý rằng cần kiểm soát tốc độ phát triển của lĩnh vực AI và ủng hộ việc các đánh giá viên độc lập được tiếp cận hệ thống. Giám đốc điều hành của tập đoạn NVDIA Ensen Huang đưa ra nhận định: 

“An toàn là trên hết. Đó là ưu tiên số một. Tuy nhiên, an toàn là một vấn đề kỹ thuật. Xét cho cùng, chúng ta đang phát triển phần mềm. Xét cho cùng, chúng ta đang phát triển các hệ thống máy tính. Đó là một hệ thống máy tính phức tạp, nhưng nó vẫn là một hệ thống máy tính. Vì vậy, điều đầu tiên là phải đảm bảo chúng ta tạo ra môi trường thử nghiệm để kiểm tra các hệ thống phức tạp này, và các môi trường thử nghiệm đó phải được xây dựng một cách tốt, một cách an toàn. Và điều thứ hai là chúng ta phải thử nghiệm các sản phẩm này. Nếu tại bất kỳ thời điểm nào bạn cảm thấy công ty đang mất kiểm soát, hoặc sản phẩm sẽ không an toàn, thì hãy tạm dừng lại”

Tuy nhiên, giới chuyên gia không hoàn toàn đồng thuận về mức độ nguy hiểm  mà AI đang tạo ra. Giáo sư Vishal Misra phó trưởng khoa máy tính và trí tuệ nhân tạo của Đại học Columbia cho rằng những kịch bản AI tự cải thiện và nhanh chóng trở thành siêu trí tuệ có thể đã bị đẩy quá xa.

 “Toàn bộ ý tưởng rằng nó sẽ tự cải thiện và trở nên siêu thông minh trong thời gian rất ngắn. Điều đó sẽ không xảy ra bởi vì thế giới thực tế sẽ làm chậm quá trình này lại. Có một sự kìm hãm nhất định đang diễn ra. Tôi không nghĩ điều đó sẽ xảy ra chỉ sau một đêm. Đó không phải là cách mà thế giới thực vận hành.” - Giáo sư Vishal Misra nói.

Nhưng Giáo sư Misra không vì thế mà chủ quan. Ông ủng hộ việc đưa các chuyên gia an ninh mạng và kiểm toán viên độc lập vào bên trong các công ty AI để giám sát hoạt động của những hệ thống ngày càng phức tạp.

Cuộc tranh luận về AI vẫn chưa có câu trả lời cuối cùng. Nhưng có một điều ngày càng rõ: AI càng trở nên tự chủ, yêu cầu về khả năng giám sát của con người càng trở nên cấp thiết. Vấn đề không phải là có nên phát triển AI hay không, mà là phát triển nhanh đến đâu, trao cho AI quyền hạn đến mức nào và liệu con người có kịp xây dựng những “hàng rào” an toàn trước khi công nghệ vượt khỏi khả năng kiểm soát hay không.

Châu Anh