TLDR

  • AI đang được sử dụng để tăng cường các loại lừa đảo khác nhau, bao gồm nhân bản giọng nói, lừa đảo được cá nhân hóa, gian lận danh tính và tống tiền deepfake

  • Morgan Freeman đã lên tiếng phản đối việc bắt chước giọng nói AI trái phép của chính mình

  • Những người nổi tiếng như Scarlett Johansson và Drake đã phải đối mặt với vấn đề nội dung do AI tạo ra bắt chước giọng nói của họ

  • Ngành giải trí ngày càng lo ngại về việc lạm dụng công nghệ AI

  • Các chuyên gia khuyến nghị các phương pháp hay nhất về cảnh giác và an ninh mạng để bảo vệ khỏi các hành vi lừa đảo do AI cung cấp

Khi công nghệ trí tuệ nhân tạo (AI) tiến bộ, những kẻ lừa đảo đang tìm ra những cách mới để khai thác nó cho mục đích xấu.

Từ sao chép giọng nói đến tống tiền deepfake, các trò lừa đảo được hỗ trợ bởi AI đang trở nên tinh vi hơn và khó phát hiện hơn.

Đồng thời, những người nổi tiếng đang lên tiếng phản đối việc sử dụng trái phép giọng nói và hình ảnh của họ trong nội dung do AI tạo ra.

Một trong những trò lừa đảo AI đáng lo ngại nhất liên quan đến việc sao chép giọng nói của gia đình và bạn bè. Những kẻ lừa đảo giờ đây có thể tạo ra các phiên bản giả mạo đầy thuyết phục của giọng nói của những người thân yêu chỉ bằng một vài giây âm thanh.

Những giọng nói tổng hợp này có thể được sử dụng để tạo ra các cuộc gọi giả mạo để xin tiền hoặc giúp đỡ. Các chuyên gia khuyên nên cảnh giác với mọi cuộc gọi bất ngờ từ các số chưa xác định và xác minh danh tính người gọi thông qua các kênh liên lạc thông thường.

Email lừa đảo và thư rác được cá nhân hóa là một mối đe dọa ngày càng tăng khác. Các mô hình ngôn ngữ AI hiện có thể tạo tin nhắn rác tùy chỉnh bằng cách sử dụng thông tin cá nhân thu được từ các vụ vi phạm dữ liệu.

Những tin nhắn phù hợp này có sức thuyết phục hơn nhiều so với thư rác chung chung truyền thống. Người dùng nên thận trọng và tránh nhấp vào liên kết hoặc mở tệp đính kèm từ các nguồn đáng ngờ, ngay cả khi tin nhắn có vẻ được cá nhân hóa.

Gian lận danh tính cũng ngày càng trở nên tinh vi hơn với AI. Những kẻ lừa đảo giờ đây có thể tạo ra các nhân vật AI trông giống người mục tiêu và có quyền truy cập vào nhiều thông tin cá nhân được sử dụng để xác minh danh tính.

Điều này giúp họ dễ dàng mạo danh các cá nhân khi liên hệ với bộ phận dịch vụ khách hàng. Các chuyên gia khuyên bạn nên sử dụng xác thực đa yếu tố và thận trọng với mọi hoạt động tài khoản đáng ngờ.

Có lẽ sự phát triển đáng báo động nhất là việc sử dụng các tác phẩm deepfake do AI tạo ra để tống tiền.

Các mô hình tạo hình ảnh tiên tiến giờ đây có thể tạo ra hình ảnh khỏa thân giả thực tế của hầu hết mọi người mà những kẻ lừa đảo có thể sử dụng làm đòn bẩy để tống tiền. Mặc dù đây là một xu hướng đáng lo ngại nhưng các chuyên gia lưu ý rằng những hình ảnh giả mạo này thường không có dấu hiệu phân biệt và có thể có sai sót rõ ràng. Các nạn nhân nên báo cáo sự việc như vậy cho cơ quan chức năng.

Ngành công nghiệp giải trí bị ảnh hưởng đặc biệt bởi việc bắt chước AI trái phép.

Gần đây, nam diễn viên Morgan Freeman đã lên tiếng phản đối việc AI bắt chước giọng nói của chính anh lan truyền trên mạng xã hội. Trong một tuyên bố, Freeman cảm ơn người hâm mộ của mình vì “sự cảnh giác và hỗ trợ của họ trong việc kêu gọi việc sử dụng trái phép A.I. giọng bắt chước tôi.” Ông nhấn mạnh tầm quan trọng của việc duy trì “tính xác thực và tính toàn vẹn” khi đối mặt với công nghệ như vậy.

Cảm ơn những người hâm mộ đáng kinh ngạc của tôi vì sự cảnh giác và hỗ trợ của bạn trong việc kêu gọi việc sử dụng trái phép A.I. giọng bắt chước tôi. Sự cống hiến của bạn giúp tính xác thực và tính toàn vẹn vẫn là điều tối quan trọng. Tri ân.#AI#lừa đảo #bắt chước #Bảo vệ danh tính

– Morgan Freeman (@morgan_freeman) Ngày 28 tháng 6 năm 2024

Freeman không đơn độc trong mối quan tâm của mình. Những người nổi tiếng khác cũng gặp phải vấn đề tương tự với nội dung do AI tạo ra.

Nhóm pháp lý của Scarlett Johansson gần đây đã thách thức OpenAI về một trợ lý giọng nói cá nhân AI có vẻ rất giống giọng nói của cô ấy, mặc dù cô ấy đã từ chối tham gia vào dự án.

Rapper Drake cũng phải đối mặt với tranh cãi vì sử dụng các bài hát bắt chước Tupac Shakur và Snoop Dogg do AI tạo ra trong một bài hát, dẫn đến lệnh ngừng hoạt động từ tài sản của Shakur.

Bài đăng Morgan Freeman và những người nổi tiếng lên tiếng chống lại việc bắt chước AI trái phép xuất hiện đầu tiên trên Blockonomi.