Google cho biết đã nhận được 258 đơn khiếu nại trên toàn cầu về việc phần mềm trí tuệ nhân tạo (AI) Gemini đã được sử dụng để tạo ra nội dung khủng bố hoặc bạo lực cực đoan giả mạo.  

Thời điểm cuối năm luôn là giai đoạn cao điểm của các cuộc tấn công mạng và lừa đảo trực tuyến. Hàng trăm nghìn vụ tấn công nhắm vào doanh nghiệp, cơ quan và cá nhân đã được ghi nhận.

Năm 2024, lừa đảo trực tuyến tiếp tục hoành hành, cứ 220 người dùng điện thoại thông minh thì có 1 người trở thành nạn nhân của lừa đảo; thiệt hại ước tính do lừa đảo trực tuyến gây ra trong năm 2024 lên đến 18.900 tỷ VNĐ. Đây là các nội dung nổi bật từ báo cáo nghiên cứu, khảo sát an ninh mạng 2024 do Ban Công nghệ, Hiệp hội An ninh mạng quốc gia thực hiện vào tháng 12/2024.

Song song cùng sự phát triển của công nghệ, Deepfake cũng có lịch sử phát triển với nhiều loại hình khác nhau. Phần hai của bài báo sẽ tập trung phân loại các loại hình Deepfake và trình bày về các tập dữ liệu có giá trị trong việc phát hiện công nghệ tinh vi này.

Trong những năm gần đây, công nghệ Deepfake đã trở nên ngày càng phổ biến hơn, cho phép tạo ra các video thực đến mức chúng ta khó có thể phân biệt với các video quay thực tế. Tuy nhiên, công nghệ này đã bị các tác nhân đe dọa lợi dụng để tạo ra những nội dung giả mạo, hoán đổi khuôn mặt nhằm mục đích lừa đảo, gây ảnh hưởng tiêu cực đến xã hội. Do đó, việc phát triển các công cụ phát hiện Deepfake mang tính cấp bách hơn bao giờ hết. Bài viết này sẽ giới thiệu tổng quan về một số kỹ thuật và công cụ phát hiện Deepfake hiệu quả.

Việc lợi dụng trí tuệ nhân tạo (AI) trong các hoạt động tội phạm đang có dấu hiệu gia tăng nhanh cả về sự đa dạng của hình thức và sự phức tạp về cách thức thực hiện, khiến không chỉ người dùng mà cả chính quyền các nước phải nâng cao cảnh giác hơn bao giờ hết. Đặc biệt về tài sản ảo, một lĩnh vực mới với những khoản lợi nhuận được thổi phồng, dễ dàng khơi dậy lòng tham của cộng đồng, là một trong những thị trường được giới tội phạm công nghệ cao nhắm đến.

Một phân tích về hệ thống truy cập sinh trắc học lai (hybrid) của nhà sản xuất Trung Quốc ZKTeco đã phát hiện ra 24 lỗ hổng bảo mật có thể bị kẻ tấn công lạm dụng để vượt qua xác thực, đánh cắp dữ liệu sinh trắc học và thậm chí triển khai các backdoor độc hại.

Các nhà nghiên cứu nhóm tình báo mối đe dọa tới từ Công ty an ninh mạng quốc tế Group-IB (trụ sở chính tại Singapore) lên tiếng cảnh báo về một loại trojan mới có tên là GoldPickaxe, được thiết kế để đánh lừa nạn nhân quét khuôn mặt và dữ liệu ID, từ đó tạo ra các bản deepfake nhằm truy cập trái phép tài khoản ngân hàng của nạn nhân.

Công nghệ deepfake (công nghệ AI giả mạo khuôn mặt, hình ảnh, giọng nói) tiềm ẩn nhiều nguy cơ cho xã hội. Trong một báo cáo, Trường Đại học Collecge London đã xếp deepfake là một trong những mối đe dọa lớn nhất mà xã hội phải đối mặt ngày nay.

Tháng 9/2020, Microsoft đã ra mắt phần mềm xác thực Video Authenticator sử dụng kỹ thuật "deepfake" có tính năng phân tích một hình ảnh hoặc từng bố cục của một video, phát hiện bằng chứng giả mạo.