Cục Quản lý không gian mạng Trung Quốc (CAC) đã ban hành một bộ hướng dẫn về việc dán nhãn nội dung trực tuyến do Trí tuệ nhân tạo (AI) tạo ra. Theo đó, các nhà cung cấp dịch vụ AI, bao gồm cả những mô hình ngôn ngữ lớn (LLM), phải đảm bảo nội dung AI có thể được nhận diện thông qua nhãn hiển thị hoặc âm thanh. Đồng thời, các kho ứng dụng cũng phải đảm bảo rằng những ứng dụng cung cấp nội dung AI tuân thủ quy định này. CAC cũng nghiêm cấm việc xóa, giả mạo hoặc che giấu nhãn AI, cũng như cung cấp công cụ hỗ trợ các hành vi này.

Tuy nhiên, trong một số trường hợp đặc biệt liên quan đến "lợi ích xã hội và nhu cầu công nghiệp", cơ quan quản lý Trung Quốc cho phép đơn vị yêu cầu bỏ nhãn AI. Dù vậy, ứng dụng tạo nội dung AI vẫn phải thông báo rõ ràng về yêu cầu này và lưu trữ thông tin để phục vụ việc kiểm tra khi cần thiết.

Trung Quốc kỳ vọng quy định này sẽ giúp người dùng dễ dàng phân biệt giữa nội dung do con người tạo ra và nội dung do AI dựng nên, góp phần hạn chế thông tin giả mạo trên Internet.

Với sự phát triển nhanh chóng của công nghệ AI trong những năm gần đây, một lượng lớn nội dung trực tuyến đã được sản xuất hoặc biên soạn dưới nhiều hình thức khác nhau thông qua sự hỗ trợ của AI. Tình trạng lạm dụng công nghệ AI và phát tán thông tin giả mạo đã xuất hiện và gây lo ngại cho xã hội, thúc đẩy nhu cầu chuẩn hoá cách xác định những nội dung như vậy.

Việc lạm dụng công nghệ AI đã dẫn đến các cuộc tranh luận rộng rãi tại Trung Quốc nhất là sau khi hình ảnh do AI tạo ra của một diễn viên nổi tiếng nước này được sử dụng để lừa đảo các thành viên trong cộng đồng người hâm mộ vào năm ngoái.

Để ngăn chặn những hành vi như vậy, bộ hướng dẫn sẽ điều chỉnh việc dán nhãn nội dung trực tuyến do AI tạo ra, bao gồm văn bản, âm thanh, ảnh và video, trong suốt quá trình sản xuất và phổ biến, yêu cầu các nhà cung cấp phải thêm các dấu hiệu dễ thấy vào nội dung của họ ở những vị trí thích hợp.