Động thái phản ánh nỗ lực mới nhất của Trung Quốc trong việc kiểm soát làn sóng triển khai nhanh chóng các ứng dụng AI hướng đến người tiêu dùng, trong bối cảnh những lo ngại ngày càng gia tăng về rủi ro đạo đức, tâm lý và an ninh xã hội.
Theo dự thảo, các quy định mới sẽ áp dụng đối với mọi sản phẩm và dịch vụ cung cấp cho công chúng tại Trung Quốc có khả năng mô phỏng đặc điểm tính cách, lối tư duy và phong cách giao tiếp của con người, đồng thời tương tác với người dùng ở cấp độ cảm xúc thông qua văn bản, hình ảnh, âm thanh, video hoặc các hình thức khác. Trọng tâm của khuôn khổ quản lý là yêu cầu các nhà cung cấp thiết lập cơ chế cảnh báo nguy cơ sử dụng quá mức và chủ động can thiệp khi phát hiện dấu hiệu nghiện.
Dự thảo cũng nhấn mạnh trách nhiệm của nhà cung cấp trong suốt vòng đời sản phẩm, bao gồm việc rà soát thuật toán, bảo đảm an ninh dữ liệu và bảo vệ thông tin cá nhân. Đáng chú ý, các quy định mới yêu cầu đánh giá trạng thái cảm xúc và mức độ phụ thuộc của người dùng, từ đó triển khai biện pháp can thiệp nếu xuất hiện hành vi nghiện hoặc cảm xúc cực đoan. Bên cạnh đó, dự thảo thiết lập các “lằn ranh đỏ” về nội dung, nghiêm cấm việc tạo ra thông tin gây phương hại đến an ninh quốc gia, lan truyền tin đồn, hay cổ súy bạo lực và khiêu dâm.
Theo Reuters, BTV Thu Hoài
Bình luận