Theo CCTV News, một tài khoản mạng xã hội có tên “Tôi là trợ lý nhỏ đây” đã đăng tải 17 video sử dụng AI nhân bản giọng nói của Toàn Hồng Thiền để quảng cáo bán trứng gà, trong đó có video đạt hơn 11.000 lượt thích. Nhiều người hâm mộ tưởng rằng đó là giọng thật của Toàn Hồng Thiền và đã đặt mua qua đường link đi kèm, với hơn 47.000 đơn hàng được bán ra. Gia đình nữ vận động viên xác nhận cô chưa từng nhận lời quảng bá hay cấp phép cho bất kỳ sản phẩm nào.
Không chỉ Toàn Hồng Thiền, nhiều vận động viên Olympic như Tôn Dĩnh Sa, Vương Sở Khâm, diễn viên Cận Đông và một số nghệ sĩ nổi tiếng khác cũng bị giả mạo giọng nói. Các trường hợp này không chỉ phục vụ bán hàng mà còn được sử dụng để livestream, thậm chí xuất hiện trong video quảng bá doanh nghiệp.
Các chuyên gia an ninh mạng Trung Quốc cảnh báo, việc giả mạo giọng nói có thể giúp kẻ gian nhanh chóng biến một tài khoản vô danh thành kênh có hàng chục nghìn người theo dõi, từ đó trục lợi qua hình thức tặng quà hoặc thương mại. Trên các nền tảng như Douyin hay Kuaishou, chỉ cần tìm từ khóa “nhân bản giọng nói” đã có thể thấy hàng loạt hướng dẫn và phần mềm liên quan.
Công nghệ này dựa trên các mô hình giọng nói mã nguồn mở, chỉ cần một đoạn ghi âm rõ ràng là có thể nhân bản giọng của bất kỳ ai trong thời gian ngắn và cho phát ngôn những nội dung giả mạo. Khi kết hợp với công nghệ AI deepfake, nguy cơ lừa đảo bằng “người ảo” trở nên vô cùng nghiêm trọng.
Các chuyên gia cũng cảnh báo, tình trạng AI nhân bản giọng nói đang đặt ra thách thức lớn cho công tác quản lý công nghệ và bảo vệ quyền nhân thân, đòi hỏi sớm có những giải pháp giám sát, chế tài cụ thể để ngăn ngừa rủi ro lừa đảo và bảo đảm an toàn cho cộng đồng./.
Trung Kiên/VOV Bắc Kinh
Bình luận