Chatbot chợ đen đã trở thành một trong những xu hướng mới nhất nổi lên trong lĩnh vực AI và đang phát triển mạnh mẽ khi các mô hình ngôn ngữ lớn (LLM) độc hại kiếm được tiền cho người tạo ra chúng.

Một nghiên cứu của Mỹ đã phát hiện ra rằng có một thị trường chợ đen AI đang phát triển mạnh, nơi các LLM chưa đăng ký đang kiếm bộn tiền bằng cách bán dịch vụ của họ một cách bí mật. Các công ty đã đăng ký và công khai như OpenAI, Perplexity và các tập đoàn lớn khác cung cấp các dịch vụ tương tự đều phải tuân theo các quy định về quản lý.

Các LLM ngầm có thể tránh được phần mềm diệt vi-rút

Nghiên cứu tập trung chủ yếu vào Malla, một hệ sinh thái phát triển mạnh nhờ việc lợi dụng các bằng LLM hợp pháp và nền tảng AI để kiếm lợi nhuận, đã xem xét kỹ lưỡng 212 bằng LLM chợ đen được niêm yết trên các thị trường ngầm từ tháng 4 đến tháng 10 năm 2023, đánh giá các thuộc tính của chúng.

Một trong những tác giả, Zilong Lin từ Đại học Indiana, cho biết:

“Chúng tôi thấy rằng hầu hết các dịch vụ mala trên các diễn đàn ngầm chủ yếu tồn tại để kiếm lợi nhuận.”

Nghiên cứu cũng phát hiện ra rằng một số nền tảng kiếm được tới 28.000 đô la trong hai tháng từ việc đăng ký và mua hàng từ những người muốn thoát khỏi sự giới hạn của AI được quản lý.

Một số, như DarkGPT và EscapeGPT, chỉ là phiên bản bẻ khóa của LLM được cấp phép hợp pháp đang được sử dụng.

Một nghiên cứu riêng biệt cũng chỉ ra rằng các LLM bất hợp pháp này có thể được sử dụng cho nhiều tác vụ, như tạo email lừa đảo. Ví dụ, DarkGPT và EscapeGPT có thể tạo mã đúng gần 75% thời gian, nhưng phần mềm diệt vi-rút không thể chọn các mã này.

Một mô hình khác có tên là WolfGPT được xem là “siêu mạnh” trong việc tạo email lừa đảo và tránh các trình phát hiện thư rác.

Theo Andrew Hundt, một chuyên gia về đổi mới máy tính tại Đại học Carnegie Mello, thị trường AI ngầm đang bùng nổ nên là một lý do đáng lo ngại.

Ông kêu gọi đưa ra yêu cầu pháp lý buộc các công ty phát triển LLM phải có hệ thống mạnh mẽ để ngăn chặn việc sao chép của những người có động cơ xấu.

Hundt cho biết: “Chúng ta cũng cần có khuôn khổ pháp lý để đảm bảo rằng các công ty tạo ra các mô hình này và cung cấp dịch vụ có trách nhiệm hơn theo cách giảm thiểu rủi ro do các tác nhân độc hại gây ra”.

Hiểu được cách thức hoạt động của chatbot chợ đen là chìa khóa

Giáo sư Xiaofeng Wang đến từ Đại học Indiana, người tham gia nghiên cứu, cho biết điều quan trọng là phải hiểu cách thức hoạt động của các chương trình LLM chợ đen này để có thể đưa ra các giải pháp cụ thể cho các vấn đề đã xác định.

Giáo sư Wang cho biết thêm rằng việc thao túng các LLM này là không thể tránh khỏi, điều này tạo điều kiện cho ngành này đưa ra các biện pháp bảo vệ mạnh mẽ nhằm giảm thiểu tác hại tiềm ẩn do các cuộc tấn công mạng dưới mọi hình thức gây ra.

“Chúng tôi tin rằng bây giờ là thời điểm tốt để bắt đầu nghiên cứu những vấn đề này vì chúng tôi không muốn đợi cho đến khi thiệt hại lớn đã xảy ra.”

Giáo sư Vương.

Theo giáo sư, mọi ngành công nghệ, bao gồm cả LLM, đều có hai mặt: mặt tốt và mặt xấu.

Các chuyên gia an ninh mạng đang kêu gọi ngành công nghiệp AI chậm lại và suy nghĩ về mối nguy hiểm ngày càng tăng của việc công nghệ của họ bị các cộng đồng internet ẩn danh làm giả.

Một bài báo của Forbes được xuất bản vào cuối năm ngoái cho biết cần phải có sự giới thiệu có trách nhiệm về các ý tưởng mới, đặc biệt là xung quanh LLM. Bài báo cũng nhấn mạnh vào vai trò của quy định trong việc thúc đẩy các sáng kiến ​​AI có trách nhiệm, không giống như quan niệm sai lầm rằng quy định kìm hãm sự phát triển.

Một phần của báo cáo viết rằng: "Các nhà phát triển và cung cấp LLM cần tạm dừng cuộc chạy đua vũ trang điên cuồng nhằm tạo ra các mô hình ngày càng phức tạp hơn và thay vào đó nên làm việc với các cơ quan quản lý để áp dụng các khuôn khổ cho thiết kế có đạo đức và sử dụng các ứng dụng AI tạo ra".

Theo Fast Company, hiện nay, với những lỗ hổng về quy định, thị trường chợ đen AI cũng đang nhanh chóng phát triển thành một ngành công nghiệp trị giá hàng triệu đô la và có thể cần nhiều nguồn lực để ngăn chặn.