Tại cuộc họp báo, Cảnh sát Hồng Kông thông tin nhân viên bị lừa tham gia cuộc gọi video với những người khác, song thực tế tất cả “đồng nghiệp” này đều là deepfake.

Theo quan chức cảnh sát cao cấp Baron Chan Shun-ching, ban đầu, nhân viên tỏ ra nghi ngờ sau khi nhận email được cho là của Giám đốc tài chính từ Anh quốc. Email nói cần phải thực hiện một giao dịch bí mật.

Tuy nhiên, nhân viên này đã gạt sang một bên những nghi ngờ ban đầu của mình sau cuộc gọi video deepfake, Chan nói. Tin rằng mọi người khác trong cuộc gọi là có thật, anh đồng ý chuyển tổng cộng 200 triệu HKD - khoảng 25,6 triệu USD, sĩ quan cảnh sát nói thêm.

Vụ việc này là một trong nhiều sự cố gần đây, trong đó những kẻ lừa đảo đã sử dụng công nghệ deepfake để sửa đổi video có sẵn công khai và các cảnh quay khác để lừa tiền mọi người.

Deepfake ngày một tinh vi và bị lợi dụng để đem đi lừa đảo. 

Cảnh sát Hồng Kông cho biết đã thực hiện 6 vụ bắt giữ liên quan đến những trò gian lận như vậy. Theo ông Chan, 8 thẻ căn cước Hồng Kông bị đánh cắp - tất cả đều được chủ sở hữu trình báo - đã được sử dụng để làm 90 đơn xin vay và 54 đăng ký tài khoản ngân hàng từ tháng 7 đến tháng 9-2023.

Ít nhất 20 lần, deepfake đã được dùng để đánh lừa các chương trình nhận dạng khuôn mặt bằng cách bắt chước những người trong hình trên chứng minh thư, theo cảnh sát. Vụ lừa đảo liên quan đến Giám đốc tài chính giả chỉ bị phát hiện khi nhân viên sau đó kiểm tra với trụ sở chính của tập đoàn.

Cảnh sát Hồng Kông không tiết lộ tên hoặc chi tiết của công ty hoặc nhân viên.

Các nhà chức trách trên khắp thế giới đang ngày càng lo ngại về sự tinh vi của công nghệ deepfake và mục đích sử dụng bất chính của nó.

Hồi cuối tháng 1, những hình ảnh khiêu dâm do AI tạo ra của ngôi sao nhạc pop người Mỹ Taylor Swift đã lan truyền trên phương tiện truyền thông xã hội, cho thấy tiềm năng gây hại do công nghệ trí tuệ nhân tạo gây ra.

Những bức ảnh được xem hàng chục triệu lần trước khi bị xóa khỏi các nền tảng xã hội.