Tháng trước, gã khổng lồ công nghệ Apple Inc. đã có một bước đi táo bạo khi xóa ba ứng dụng khỏi App Store của mình. Những ứng dụng này thậm chí còn khai thác các công cụ học máy có sẵn trong AI và cố gắng xây dựng những hình ảnh vô nghĩa mà không có sự đồng ý của một người. Quyết định này đưa ra sau những lo ngại rằng các ứng dụng đang sử dụng quảng cáo sai sự thật trên những nơi như Instagram và nội dung khiêu dâm! Trang web.

Những trường hợp gây hiểu lầm trong quảng cáo

Những người nhấp vào quảng cáo này sẽ được đưa đến Apple App Store và ứng dụng tương tự được mô tả là "công cụ tạo nghệ thuật" nhưng không đề cập đến thực tế là nó có thể tạo ra ảnh khỏa thân. Đây là lỗ hổng lâu đời trong các cửa hàng ứng dụng di động được xác định lần đầu tiên vào năm 2022.

Thông qua các thuật toán dựa trên AI, các ứng dụng bị cáo buộc thực hiện hành động này đã tuyên bố cởi quần áo của các cá nhân trong ảnh, dẫn đến giả định không chính xác về ảnh khỏa thân mặc dù họ không được phép hoặc không có kiến ​​thức về đối tượng. Những hành động như vậy không chỉ vi phạm quyền riêng tư mà còn có thể là nguồn lợi dụng, quấy rối và tống tiền.

Một số phiên bản tương tự của quảng cáo này với nhiều phụ nữ do AI tạo ra khác đã được hiển thị trên Facebook, Instagram, Facebook Messenger và mạng quảng cáo trong ứng dụng của Meta từ ngày 10 tháng 4 đến ngày 20 tháng 4.

Sau khi được thông báo về những ứng dụng lừa đảo này, trên thực tế, Apple là hãng đầu tiên xóa chúng khỏi App Store. Mặc dù họ khẳng định mình vô tội nhưng động cơ thực sự của họ đã bị các ứng dụng tiết lộ, buộc Apple phải xóa ứng dụng và tuân thủ các tiêu chuẩn cộng đồng của họ. Điều này thể hiện rõ ràng sự tận tâm không thể lay chuyển của Apple trong việc tạo ra một không gian kỹ thuật số an toàn và trung lập về giới tính cho mọi người.

Những thách thức đang diễn ra và trách nhiệm giải trình

Mặc dù các biện pháp đối phó mà Apple thực hiện đáng được tôn trọng, nhưng cuối cùng, sự cố này đã gây ra một số nghi ngờ về việc xem xét ứng dụng và giám sát các phương thức quảng cáo. Việc những ứng dụng này không được chú ý trong App Store trong một thời gian dài chỉ càng nhấn mạnh sự cần thiết phải thận trọng hơn và có các biện pháp tích cực để phát hiện và loại bỏ các ứng dụng lừa đảo.

Ngoài ra, các nhà phát triển đã áp dụng các phương pháp ranh mãnh để quảng cáo các tính năng bất hợp pháp của họ trên các trang web người lớn để đảm bảo Apple và Google không phát hiện ra. Những trường hợp này minh họa những vấn đề mà các công ty công nghệ gặp phải trong việc kiểm soát nền tảng của họ và thực thi các nguyên tắc cộng đồng.

Với việc Apple tiết lộ sắp tới một số dự án liên quan đến AI tại Hội nghị các nhà phát triển toàn cầu (WWDC) 2023, sẽ khá hấp dẫn khi thấy động thái do công ty khởi xướng liên quan đến các ứng dụng này. Một phần quan trọng trong việc triển khai công nghệ có trách nhiệm của Apple là duy trì hình ảnh tốt về hành vi đạo đức và quản trị công nghệ hợp lý, điều này rất quan trọng trong bối cảnh Apple ngày càng sử dụng AI trong các sản phẩm của mình.

Việc xóa các ứng dụng này sẽ là một ví dụ về vấn đề đạo đức trong quá trình phát triển và sử dụng AI. Mối quan tâm thứ hai liên quan đến sự phát triển của khả năng AI là quyền riêng tư của người dùng. Ngoài ra, người dùng cần phải được yêu cầu cấp phép và phải đảm bảo an toàn cho họ. Bằng cách chặn các ứng dụng như vậy, Apple nhấn mạnh hành vi đạo đức trong cộng đồng của mình.

Nguồn: 404