Một nhân viên của một công ty có trụ sở tại Hồng Kông đã đưa cho những kẻ lừa đảo 25 triệu đô la Mỹ vào tháng 1 năm 2024 sau khi xem được một video deepfake mạo danh giám đốc tài chính của cô ấy và một số nhân viên. Sự kiện này là một ví dụ về nguy cơ ngày càng tăng của gian lận do AI điều khiển tinh vi và khó phát hiện trong lĩnh vực tài chính. Tội phạm đang sử dụng công nghệ AI tổng hợp để tạo ra các tác phẩm giả mạo sâu, lời nói giả mạo và tài liệu giả mạo đầy thuyết phục. Đây là lý do tại sao ngành ngân hàng và khách hàng của nó đang gặp nguy hiểm nghiêm trọng.

Tình tiết này là điềm báo đáng buồn cho một môi trường ngày càng nguy hiểm mà các tổ chức tài chính hiện đang gặp phải. Dựa trên dự báo từ Trung tâm Dịch vụ Tài chính của Deloitte, thiệt hại do trộm cắp ở Mỹ có thể lên tới con số đáng kinh ngạc là 40 tỷ USD vào năm 2027—tăng 32% hàng năm so với mức thiệt hại do tội phạm là 12,3 tỷ USD vào năm 2023.

Ảnh: Deloitte

Tác động đột phá của AI sáng tạo

Tiềm năng đột phá của Generative AI bắt nguồn từ khả năng tạo ra các phương tiện tổng hợp có sức thuyết phục cao, bao gồm các video deepfake, giọng nói hư cấu và tài liệu giả mạo. Khả năng tự học của công nghệ này liên tục nâng cao khả năng lừa đảo của nó, vượt xa các hệ thống phát hiện truyền thống được thiết kế để xác định gian lận dựa trên các quy tắc và mô hình được xác định trước.

Hơn nữa, khả năng truy cập của các công cụ AI tổng hợp trên web đen đã dân chủ hóa tính khả dụng của chúng, tạo điều kiện cho một thị trường ngầm phát triển mạnh, nơi phần mềm lừa đảo được bán với giá chỉ từ 20 USD đến hàng nghìn USD. Quá trình dân chủ hóa này đã khiến nhiều công cụ chống lừa đảo trở nên kém hiệu quả, khiến các tổ chức tài chính phải vật lộn để thích nghi.

Ảnh: Các loại tội phạm năm 2023, IC3Report

Các cuộc tấn công xâm phạm email doanh nghiệp (BEC) là một lĩnh vực mà gian lận AI tổng hợp đặc biệt dễ xảy ra. FBI đã ghi nhận 21.832 trường hợp gian lận BEC chỉ trong năm 2022, với thiệt hại ước tính lên tới hơn 2,7 tỷ USD. Trong một kịch bản triển khai “bạo lực”, Deloitte dự đoán rằng AI tổng hợp có thể làm tăng tổn thất do gian lận qua email lên hơn 11,5 tỷ USD vào năm 2027.

Mối nguy hiểm tiềm tàng đối với việc nhận dạng từ Deepfakes

Công nghệ deepfake cũng đe dọa các thủ tục xác minh danh tính, vốn được coi là thành trì bảo mật trong lịch sử. Theo nghiên cứu gần đây, ngành tài chính sẽ chứng kiến ​​​​sự gia tăng đáng kinh ngạc 700% trong các sự kiện deepfake chỉ riêng trong năm 2023. Lĩnh vực CNTT chậm một cách đáng lo ngại trong việc tạo ra các phương pháp đáng tin cậy để phát hiện các bản ghi âm giả mạo, điều này tiềm ẩn rủi ro nghiêm trọng.

Ảnh: IC3Report

Mặc dù theo truyền thống, các ngân hàng là những người đầu tiên sử dụng các công nghệ mới để chống gian lận, nhưng một nghiên cứu từ Bộ Tài chính Hoa Kỳ đã đưa ra cảnh báo rằng “các khuôn khổ quản lý rủi ro hiện tại có thể không đủ để áp dụng cho các công nghệ AI mới nổi”. Các tổ chức đang cạnh tranh với nhau để kết hợp khả năng học máy và trí tuệ nhân tạo vào hệ thống nhận dạng và phản ứng lừa đảo của họ, tự động hóa các quy trình để xác định và xem xét hoạt động đáng ngờ nhanh hơn.

Để tăng cường khả năng phòng vệ trước gian lận thẻ tín dụng, công cụ Quyết định Thông minh của Mastercard kiểm tra hàng tỷ điểm dữ liệu để dự đoán tính xác thực của giao dịch, trong khi JPMorgan đã tích hợp các mô hình ngôn ngữ khổng lồ để xác định các dấu hiệu xâm nhập email.

Xây dựng một kế hoạch phòng thủ lành mạnh

Để duy trì tính cạnh tranh, các tổ chức tài chính cần có cách tiếp cận đa dạng khi môi trường gian lận AI liên tục thay đổi. Việc kết hợp trực giác của con người với các công nghệ hiện đại là rất quan trọng để dự đoán và ngăn chặn các chiến lược mới của những kẻ lừa đảo. Vì môi trường nguy hiểm luôn phát triển nên các nhóm chống gian lận cần áp dụng văn hóa không ngừng học hỏi và thích ứng. Điều này là do không có giải pháp nào có thể làm giảm bớt tình hình một cách thỏa đáng.

Ảnh: IC3Report

Tái cơ cấu quản trị, phân bổ nguồn lực và chiến lược một cách toàn diện sẽ là cần thiết để các tổ chức có thể chống lại gian lận trong tương lai. Hợp tác cùng nhau cả trong và ngoài lĩnh vực tài chính sẽ rất cần thiết vì gian lận AI mang tính tổng thể gây nguy hiểm cho toàn bộ tổ chức. Cùng với các nhà cung cấp công nghệ bên thứ ba đáng tin cậy, các ngân hàng có thể phát triển các phản ứng hiệu quả bằng cách xác định trách nhiệm chính xác và giải quyết các vấn đề về trách nhiệm pháp lý.

Hơn nữa, việc tăng cường giáo dục và nhận thức của khách hàng là điều cần thiết để xây dựng khả năng chống gian lận. Các điểm tiếp xúc liên lạc thường xuyên, như cảnh báo đẩy trên các ứng dụng ngân hàng, có thể thông báo cho khách hàng về những nguy hiểm có thể xảy ra và mô tả các biện pháp phòng ngừa mà tổ chức tài chính của họ đang thực hiện để bảo vệ tiền của họ. 

Các tổ chức đang tích cực tham gia vào việc tạo ra các quy định mới do các cơ quan quản lý ngày càng chú ý đến lợi ích và rủi ro của AI tạo ra. Các ngân hàng có thể tạo hồ sơ kỹ lưỡng về hệ thống và quy trình của mình bằng cách sớm đưa các nhóm tuân thủ vào quá trình phát triển công nghệ. Điều này sẽ tạo điều kiện thuận lợi cho việc giám sát quy định và đảm bảo sự phù hợp với các yêu cầu đang thay đổi.

Đầu tư tiền vào tài năng và đổi mới liên tục

Điều quan trọng nhất cần nhớ là các ngân hàng cần ưu tiên đầu tư vào nguồn nhân lực, tuyển dụng và đào tạo nhân viên cách nhận biết, ngăn chặn và báo cáo gian lận do AI hỗ trợ. Những khoản đầu tư này là cần thiết để đón đầu xu hướng khi đối mặt với một đối thủ đang phát triển nhanh chóng, ngay cả khi chúng có thể tạm thời gây gánh nặng về tài chính.

Cần có chiến lược đa ngành để phát triển lực lượng lao động có kiến ​​thức về mức độ phức tạp của gian lận AI tổng hợp, kết hợp kiến ​​thức từ các lĩnh vực như khoa học dữ liệu, an ninh mạng và phân tích hành vi. Các tổ chức tài chính có thể phát triển nhân viên với những kỹ năng cần thiết để xác định và chủ động giảm thiểu những mối nguy hiểm mới bằng cách thúc đẩy văn hóa học hỏi và chia sẻ thông tin liên tục.

Các ngân hàng cũng có thể xem xét sử dụng nhân viên hợp đồng, nhóm kỹ thuật nội bộ và nhà thầu bên ngoài để tạo ra các công nghệ phát hiện gian lận độc quyền. Bằng cách khuyến khích văn hóa học hỏi và thích ứng liên tục, chiến lược này tối đa hóa việc phân bổ nguồn lực và cho phép phản ứng nhanh trước những thách thức mới.

Khi David Birch, Giám đốc của Consult Hyperion, tuyên bố rằng các tổ chức tài chính cần có kế hoạch vững chắc để giải quyết hành vi trộm cắp danh tính do AI điều khiển, ông nhấn mạnh rằng nhận dạng là tuyến phòng thủ đầu tiên. Ông tiếp tục nhấn mạnh rằng các hệ thống nhận dạng cần có khả năng chống lại và thích ứng với các âm mưu lừa đảo ngày càng phát triển để bảo vệ hình ảnh của dịch vụ và bảo vệ các khách hàng hợp pháp.

Các tổ chức tài chính cần chuẩn bị cho một cuộc đấu tranh kéo dài khi AI tiếp tục thay đổi môi trường gian lận. Thông qua việc áp dụng cách tiếp cận chủ động và đa chiều, tích hợp công nghệ tiên tiến với kinh nghiệm của con người, tuân thủ quy định và hợp tác trong ngành, các doanh nghiệp có thể tăng cường khả năng phòng vệ trước số lượng ngày càng tăng các âm mưu gian lận cực kỳ phức tạp do trí tuệ nhân tạo gây ra.

Thiệt hại tiềm tàng dự kiến ​​sẽ vượt quá 40 tỷ USD chỉ riêng ở Hoa Kỳ vào năm 2027, vì vậy rủi ro là rất lớn. Tuy nhiên, các tổ chức tài chính có thể giảm thiểu rủi ro và bảo vệ tính toàn vẹn trong hoạt động của mình bằng cách đặt ưu tiên cao hơn cho đầu tư vào con người, công nghệ và tinh thần đồng đội. Điều này sẽ đảm bảo rằng khách hàng của họ sẽ tiếp tục đặt niềm tin vào họ trong một môi trường kỹ thuật số ngày càng phức tạp.

Bài đăng Deloitte dự đoán sự gia tăng bùng nổ về tổn thất do gian lận: AI sáng tạo có thể khiến các tổ chức tài chính Hoa Kỳ thiệt hại 40 tỷ USD vào năm 2027 xuất hiện đầu tiên trên Metaverse Post.