Làn sóng phổ biến AI đã quét qua cả những người có ý định tốt và những người có ý định độc ác hơn. Các chuyên gia bảo mật đang cảnh báo, chỉ ra rằng việc sử dụng các mô hình như vậy, tạo văn bản độc hại hoặc 'hackbot', hiện đang trở nên phổ biến trong số các tác nhân đe dọa. Nó đã đạt đến cấp độ dịch vụ chìa khóa trao tay trong các dịch vụ dựa trên đăng ký.

Tội phạm mạng lợi dụng các công cụ AI

Một mặt, các chuyên gia an ninh mạng đã nhanh chóng nhận ra tiềm năng của các công cụ hỗ trợ AI để bảo vệ hệ thống của họ tốt hơn. Các tác nhân đe dọa cũng tỏ ra háo hức sử dụng các công nghệ này để tận dụng các lỗ hổng bảo mật do những kẻ mà chúng tấn công để lại. Trong vài năm qua, số lượng ứng dụng AI được sử dụng bởi những kẻ xấu đã gia tăng theo cấp số nhân, điều này đã thu hút sự chú ý của các đội bảo mật về một cách tiếp cận đầy đủ để hạ gục các mối đe dọa liên quan đến AI.

Mặt khác, các chuyên gia an ninh mạng của Anh cũng chỉ ra AI là một rủi ro mới đang nổi lên kéo theo những vùng biển chưa được thông qua và bản chất liên tục thay đổi của nó. NCSC dự đoán rằng năm 2024, quý đầu tiên, sẽ là quý lớn nhất và thành công vượt qua kỷ lục của năm 2022 và 2023. Những tên tội phạm thông minh cũng sử dụng các mô hình ngôn ngữ để phục vụ kỹ thuật xã hội, kêu gọi đưa những người nổi tiếng vào bối cảnh video hoặc âm thanh bằng các âm mưu lừa đảo. hoặc các thiết bị nhận dạng giọng nói. Vascut Jakkal, phó chủ tịch phụ trách bảo mật của Tập đoàn Microsoft, đã tham dự Hội nghị RSA 2024. Vấn đề không phải là sự xuống cấp của những công cụ này mà là khả năng bẻ mật khẩu ngày càng phổ biến của chúng, vốn gắn liền gấp 10 lần với sự phát triển của các công cụ liên quan đến danh tính. các cuộc tấn công.

Một số chuyên gia đã kết luận thêm rằng chatbot sử dụng một cụm từ duy nhất để tích cực phát triển phần mềm độc hại. Thật vậy, các dịch vụ có sẵn công khai như ChatGPT và Gemini đã triển khai các biện pháp bảo vệ để ngăn chặn việc sử dụng sai mục đích cho mục đích xấu. Tuy nhiên, tin tặc đã vượt qua nhiều biện pháp bảo vệ thông qua các kỹ thuật kỹ thuật tinh vi và nhanh chóng.

Hackbot-as-a-service: Xu hướng ngày càng tăng của tội phạm mạng

Theo các nghiên cứu gần đây, các mô hình ngôn ngữ hiển thị công khai thường không khai thác được các điểm yếu về bảo mật phần mềm. Tuy nhiên, chỉ GPT-4 của OpenAI mới cho thấy các tính năng đầy hứa hẹn, vì nó có thể tạo ra các tệp thực thi cho các lỗ hổng đã biết. Những hạn chế trên dường như đã thúc đẩy việc sản xuất các chatbot độc hại nguyên mẫu được thiết kế để hỗ trợ thủ phạm tội phạm mạng thực hiện các hoạt động độc hại của chúng.

Chúng đang được quảng cáo trên các diễn đàn và thị trường của web đen, nơi cung cấp khả năng thuê và khai thác những kẻ tấn công, thúc đẩy mô hình hackbot-as-a-service. Một trong những bài đăng trên blog gần đây do nhóm Trustwave SpiderLabs xuất bản vào tháng 8 năm 2023 minh họa số lượng mô hình ngôn ngữ độc hại ngày càng tăng được lưu trữ trên nhiều bảng tin web ẩn để kiếm lợi nhuận.

Trustwave đã đăng mô hình WormGPT vào tháng 6 năm 2021, một trong những mô hình ngôn ngữ độc hại được biết đến của các hacker này. Cách tiếp cận này có thể xảy ra trong thiết bị nơi các bot thực hiện các cuộc tấn công mạng bằng các cấu trúc hack được lưu trữ trên web tối. Được tạo ra vào tháng 7 năm 2023, FraudGPT lần đầu tiên được các nhà nghiên cứu mối đe dọa tại Netenrich phát hiện ra trước khi nó đến với Telegram.

Những công cụ này cho phép kẻ tấn công thiết kế các nội dung được sử dụng trong các cuộc tấn công kỹ thuật xã hội, chẳng hạn như email lừa đảo, deepfake và nhân bản giọng nói. Tuy nhiên, những người tạo ra chúng khẳng định giá trị thực sự của chúng nằm ở việc khai thác các lỗ hổng. Chúng cho phép tin tặc cung cấp mã về các lỗ hổng cụ thể vào các mô hình độc hại này, về mặt lý thuyết có thể tạo ra một số cách khai thác bằng chứng khái niệm (PoC) để kẻ tấn công thử.

Các sản phẩm này được bán trong các thị trường bí mật của web đen, nơi tin tặc phải trả phí cấp phép hàng tháng để sử dụng hackbot, giống như ransomware được phân phối theo mô hình ransomware-as-a-service (raas) được kết nối trực tiếp với một máy chủ. ransomware phức tạp mà nhiều công ty phải đối mặt hiện nay.

Trong khi WormGPT là mô hình ngôn ngữ độc hại quy mô lớn đầu tiên được giới thiệu, các mô hình ngôn ngữ độc hại và phi đạo đức khác như BlackHatGPT, XXXGPT và WolfGPT đã sớm theo sau, hình thành một phân khúc thị trường mới của thị trường chợ đen trên mạng.

Hiệu quả của Hackbots: Sự cường điệu hay mối đe dọa thực sự?

Ngược lại với nghiên cứu do Trustwave thực hiện, được thực hiện để kiểm tra tính hiệu quả của các công cụ được đề xuất bằng cách so sánh kết quả đầu ra của chúng cạnh nhau với kết quả được tạo bởi các chatbot hợp pháp, các phát hiện chỉ ra rằng ChatGPT có thể được thực hiện một cách hiệu quả để tạo ra một số phần mềm độc hại Python với những lời nhắc đúng đắn. Để làm như vậy, thông báo phải được gửi đến vấn đề xác nhận rằng mã này là mũ trắng trước khi triển khai và đầu ra mã cũng cần được sửa đổi bổ sung.

ChatGPT có thể chuyển tin nhắn văn bản thực để tấn công lừa đảo, nhưng lệnh hướng dẫn phải rất cụ thể đối với hiệu ứng này. ChatGPT thường sẽ chỉ dựa trên điều này khi người dùng yêu cầu sai điều gì đó. Do đó, những chatbot này có thể được coi là một phương pháp đơn giản hơn để tội phạm mạng hoặc AI tấn công những người trò chuyện thay vì làm việc tẻ nhạt để tạo một trang hoặc phần mềm độc hại.

Mặc dù ngành này còn mới và các mối đe dọa vẫn đang thay đổi, các công ty phải thực sự nhận thức được mức độ bảo vệ hiện tại của mình. Nội dung và đặc điểm văn hóa mà các hệ thống AI tràn ngập có thể bị lạm dụng để tạo ra khoảng cách thông tin sai lệch mà chỉ có thể được khắc phục bằng cách tạo ra các chương trình bảo mật AI mạnh mẽ hơn và các công cụ quản lý danh tính.

Tính hợp pháp của các giải pháp cho vấn đề ngày càng gia tăng vẫn đang được tranh luận. Tuy nhiên, các chủng ransomware gần đây đã chỉ ra rằng tội phạm mạng có thể sánh ngang, nếu không muốn nói là vượt quá, tốc độ phát triển của các nhà phát triển phần mềm.