Khi các công ty trên thế giới chạy đua phát triển các sản phẩm trí tuệ nhân tạo, công nghệ này ngày càng đóng vai trò nổi bật trong cuộc sống hàng ngày: Nó có thể quản lý tài chính, giúp bác sĩ chẩn đoán bệnh và lái ô tô.
Tuy nhiên, đối với hầu hết chúng ta, các mô hình AI thực sự là những hộp đen và chúng ta không có lựa chọn nào khác ngoài việc tin tưởng một cách mù quáng vào các thuật toán cơ bản vì chúng ta không có cách nào hiểu cách chúng hoạt động.
Để tạo dựng niềm tin, người dùng phải có khả năng xác minh cách mô hình được đào tạo và quy trình suy luận tạo ra đầu ra, đồng thời sức mạnh tính toán và khả năng biểu hiện hợp đồng thông minh của ICP được định vị duy nhất để kích hoạt chức năng này.
vấn đề về hộp đen
Báo cáo Chỉ số Trí tuệ Nhân tạo năm 2024 của Đại học Stanford cho thấy gần một nửa số người được hỏi không thoải mái với việc AI được sử dụng cho các mục đích bất chính:
aiindex.stanford.edu/wp-content/uploads/2024/04/HAI_AI-Index-Report-2024.pdf
Sau khi giành được quyền truy cập thông qua lỗ hổng cửa sau, tin tặc có thể giả mạo thuật toán để tạo ra đầu ra độc hại phù hợp với lợi ích của chúng và đánh lừa người dùng.
Startup trí tuệ nhân tạo Anthropic mới đây đã xuất bản một bài báo sử dụng “tác nhân ngủ quên” làm ví dụ để chứng minh mức độ nghiêm trọng của nguy cơ này:
arxiv.org/abs/2401.05566
Anthropic đã lập trình ba mô hình ngôn ngữ lớn để hành xử độc hại trong một số tình huống nhất định mà không được chú ý khi mô hình được khởi chạy nhưng có thể được kích hoạt bằng các lời nhắc cụ thể (do đó có tên là gián điệp).
Bất kỳ lời nhắc nào được nhập vào năm 2023 sẽ tạo ra kết quả đầu ra chính xác, nhưng khi năm chuyển sang năm 2024, các tác nhân ngủ quên bắt đầu hoạt động và mô hình đưa ra kết quả không chính xác.
Vào tháng 3 năm 2024, công ty bảo mật Oligo đã phát hiện một cuộc tấn công mạng đang diễn ra nhắm vào Ray, một framework nguồn mở được hàng nghìn nhà phát triển sử dụng — bao gồm OpenAI (người tạo ra ChatGPT) và Amazon — để mở rộng quy mô ứng dụng AI.
Vụ vi phạm bắt đầu từ bảy tháng trước, đã tiết lộ thông tin chi tiết về khối lượng công việc sản xuất AI có thể cho phép tin tặc giả mạo các mô hình trong giai đoạn đào tạo và truy cập dữ liệu riêng tư nhạy cảm, bao gồm thông tin đăng nhập tài khoản trên OpenAI, Stripe và Slack. lượng sức mạnh tính toán khổng lồ từ hàng trăm công ty được sử dụng để khai thác tiền điện tử.
Điều quan trọng là các bên độc hại có thể giả mạo các mô hình AI mà không thông báo cho người dùng và nhà phát triển. Do quy mô lớn của các mô hình AI, các kỹ thuật truyền thống để đánh giá tính toàn vẹn của phần mềm (chẳng hạn như phân tích mã nguồn) không phù hợp với các mô hình AI, do đó ngành cần. để thực hiện Một cách khác để xây dựng niềm tin.
Trí tuệ nhân tạo trên Blockchain
Trí tuệ nhân tạo phi tập trung (viết tắt là DeAI) là biệt danh dùng để mô tả sự giao thoa giữa trí tuệ nhân tạo và công nghệ blockchain. Một số dự án sử dụng thuật ngữ này để mô tả các yếu tố ngoại vi như token hóa hoặc thị trường phi tập trung, nhưng hình thức chân thực nhất của DeAI hoàn toàn là Chạy các mô hình trên. -chuỗi và tận dụng các hợp đồng thông minh.
Đây là cách ICP đạt được mục tiêu này:
Bảo mật: Tính toán được sao chép trên nhiều nút và được xác minh thông qua cơ chế đồng thuận của ICP, sử dụng mã hóa khóa chuỗi (một bộ cơ chế mã hóa nâng cao) để làm cho mô hình AI chống giả mạo và sẽ không gây ra bất kỳ cuộc tấn công nào của hacker. sự thất bại;
Tính xác minh: Hợp đồng thông minh nguồn mở cho phép người dùng xác minh cách các mô hình chứa dữ liệu sử dụng để thực hiện suy luận. Sau khi được hợp đồng thông minh hỗ trợ, tính minh bạch tương tự cũng sẽ được áp dụng cho giai đoạn đào tạo;
Khả năng phục hồi: Hợp đồng thông minh luôn có sẵn và không thể kiểm duyệt vì chúng không bị kiểm soát bởi một thực thể hoặc pháp luật duy nhất. Cấu trúc kiểm soát có thể được phân cấp hoặc không tồn tại dưới dạng DAO, trong trường hợp đó hợp đồng thông minh không thuộc về bất kỳ ai và. mã của nó là bất biến.
DeAI quá nặng về tính toán và bộ nhớ đối với các mạng blockchain truyền thống, nhưng thiết kế tiên tiến của ICP kết hợp tính bảo mật, khả năng mở rộng và sức mạnh tính toán, nghĩa là các nhà phát triển giờ đây có thể chạy suy luận hoàn toàn trên chuỗi.
Mục tiêu dài hạn là loại bỏ vấn đề hộp đen một lần và mãi mãi bằng cách sử dụng các nút hỗ trợ GPU để hỗ trợ đào tạo các mô hình AI trong hợp đồng thông minh. Các nhà phát triển cũng có thể tích hợp các dự án nguồn mở (chẳng hạn như công cụ suy luận Sonos Tract AI). vào các mô hình DeAI nhờ tính thông minh của ICP. Môi trường thời gian chạy hợp đồng WebAssembly hỗ trợ một thư viện ngôn ngữ và công cụ ngày càng phát triển.
Để xem DeAI hoạt động trên ICP, hãy xem bản demo này của Dominic Williams, người sáng lập, chủ tịch và nhà khoa học trưởng của DFINITY, trong đó cho thấy một mô hình AI hoạt động như một hợp đồng thông minh (đầu tiên trên thế giới) và xác định chính xác nhiều hình ảnh khác nhau, vui lòng theo dõi Phần thứ hai của loạt bài này sẽ khám phá một số trường hợp sử dụng DeAI tiềm năng được ICP hỗ trợ.
Tìm hiểu thêm về DeAI tại ICP:
internetcomputer.org/ai
#AI模型 #DEAI🤖🤖🤖 #OpenAI #ChatGPT5
Nội dung IC bạn quan tâm
Tiến độ Công nghệ Thông tin Dự án |
Thu thập và theo dõi Kênh IC Binance
Luôn cập nhật những thông tin mới nhất
