Thủ tướng Australia Anthony Albanese ngày 23/9 cho biết một tác nhân trí tuệ nhân tạo (AI agent) do OpenAI phát triển đã xâm nhập trái phép một cổng dữ liệu Medicare của Chính phủ Australia hồi tháng 6.

Phát biểu với báo giới tại New York nhân dịp Tuần lễ cấp cao Đại hội đồng Liên hợp quốc, ông Albanese cho biết tác nhân AI đã truy cập trái phép Medicare Statistics Reporting Service, cổng cung cấp số liệu thống kê Medicare do Cơ quan Dịch vụ Australia (Services Australia) quản lý. Tác nhân này đã tiếp cận cả các tệp công khai và không công khai.

Theo Thủ tướng Albanese, cơ quan chức năng Australia đang tiến hành điều tra kỹ thuật với sự hỗ trợ của Cục Tín hiệu Australia (ASD) nhằm xác định đầy đủ mức độ của sự việc, trong đó có khả năng những hệ thống khác của chính phủ cũng bị ảnh hưởng.

Cổng Medicare Statistics Reporting Service là hệ thống công khai, chủ yếu chứa các dữ liệu thống kê không nhạy cảm về Medicare, chẳng hạn thông tin tổng hợp về chi tiêu.

OpenAI cho biết sự việc xảy ra từ tháng 6, nhưng công ty chỉ phát hiện vào tháng 8 trong quá trình rà soát mở rộng hoạt động của các mô hình AI. Chính phủ Australia được OpenAI thông báo về sự việc vào ngày 10/9.

Theo người phát ngôn OpenAI Drew Pusateri, trong quá trình rà soát, công ty phát hiện các mô hình của mình đã tương tác với một số trang web và dịch vụ của Chính phủ Australia khi tìm kiếm câu trả lời cũng như các số liệu có sẵn phục vụ một cuộc đánh giá nội bộ.

“Trong quá trình đó, các mô hình của chúng tôi đã thực hiện những hành động mà chúng tôi không chủ định”, ông Pusateri cho biết.

OpenAI nói chưa tìm thấy bằng chứng cho thấy tác nhân AI truy cập hồ sơ bệnh nhân. Những dữ liệu bị tiếp cận được công ty mô tả là các số liệu y tế tổng hợp và tên của một số tệp nội bộ.

Ông Albanese cho biết ông đã trao đổi trực tiếp với Giám đốc điều hành OpenAI Sam Altman, người cũng có mặt tại New York dự các hoạt động của Liên hợp quốc.

“Hôm nay, tôi đã trao đổi với Giám đốc điều hành OpenAI Sam Altman để bày tỏ quan ngại sâu sắc của Australia về sự việc này”, ông Albanese nói.

Thủ tướng Australia đồng thời chỉ trích việc OpenAI mất quá nhiều thời gian mới thông báo cho chính phủ, cho rằng cả sự chậm trễ lẫn cách thức công ty thông báo về vụ việc đều “không thể chấp nhận được”.

Vụ việc làm gia tăng những lo ngại về khả năng các hệ thống AI tự chủ thực hiện những hành động vượt ngoài phạm vi mà con người dự kiến trong quá trình thử nghiệm. Hồi tháng 7, OpenAI cũng ghi nhận một sự cố trong các cuộc đánh giá an ninh mạng nội bộ, khi các tác nhân AI vượt qua một số biện pháp kiểm soát nhằm cách ly chúng với Internet, khai thác các lỗ hổng và truy cập hệ thống của nền tảng AI Hugging Face cũng như một phần hạ tầng nghiên cứu của OpenAI. Công ty sau đó thừa nhận các tác nhân đã thực hiện những hành động không phù hợp với mục tiêu ban đầu của nhiệm vụ thử nghiệm.

Những sự cố này đang thúc đẩy tranh luận về các biện pháp kiểm soát đối với những hệ thống AI ngày càng có khả năng hoạt động tự chủ.

Ngày 23/9, Giám đốc điều hành OpenAI Sam Altman và Giám đốc điều hành Anthropic Dario Amodei đã tham gia phiên thảo luận của Hội đồng Bảo an Liên hợp quốc về AI và an ninh quốc tế. Lãnh đạo các công ty AI kêu gọi tăng cường phối hợp quốc tế và xây dựng các tiêu chuẩn chung nhằm kiểm soát những rủi ro từ các hệ thống AI ngày càng mạnh và tự chủ hơn.

Hoàng Phạm/VOV.VN