Bản sao e4eeb3 được cộng đồng phê duyệt trong đề xuất 13094 đã hoàn thành cột mốc Cyclotron trong lộ trình ICP.

Mục tiêu của cột mốc quan trọng này là cho phép suy luận trên chuỗi các mô hình AI với hàng triệu tham số, đây là bước đầu tiên hướng tới mục tiêu đầy tham vọng hơn là đào tạo và suy luận trên chuỗi các mô hình AI quy mô lớn.

Như chúng ta đã biết, khối lượng công việc AI đòi hỏi nhiều tính toán và việc suy luận trên các mô hình AI với hàng triệu tham số đòi hỏi hàng tỷ phép tính số học, chẳng hạn như phép nhân và phép cộng, có nghĩa là, để hỗ trợ suy luận trên chuỗi, blockchain cần có khả năng xử lý hàng tỷ thao tác mỗi giây.

Cột mốc Cyclotron tăng sức mạnh tính toán của ICP lên gấp 10 lần, khiến nó trở thành blockchain duy nhất có ví dụ hoạt động về hợp đồng thông minh thực hiện nhận dạng khuôn mặt hoàn toàn trên chuỗi, cũng như các trường hợp sử dụng khác như phân loại hình ảnh và thực thi GPT2 (được phát triển bởi DecisionAI).

Hãy xem video trình diễn nhận dạng khuôn mặt của Dominic Williams ở đầu bài viết này.

Nền tảng của điện toán trí tuệ nhân tạo on-chain

Máy ảo là một phần của chuỗi khối và rất quan trọng đối với tính toán AI vì nó có thể thực thi mã của hợp đồng thông minh. Các chức năng và hiệu suất của máy ảo ảnh hưởng trực tiếp đến mức độ tính toán AI mà hợp đồng thông minh có thể thực hiện.

Ví dụ: EVM là máy ảo của Ethereum, nó được thiết kế riêng cho các hợp đồng thông minh DeFi và thiếu các chức năng như thao tác dấu phẩy động cần thiết cho tính toán AI. Ngược lại, ICP sử dụng WebAssembly làm máy ảo và WebAssembly hỗ trợ số dấu phẩy động. Và được thiết kế từ đầu để mang lại hiệu suất gần như nguyên bản.

Ý tưởng đằng sau cột mốc Cyclotron là tăng hiệu năng dấu phẩy động càng nhiều càng tốt trên máy ảo ICP.

Tối ưu hóa 1: Các phép toán dấu phẩy động xác định

Hầu hết các thư viện và khung AI đều dựa vào các phép toán dấu phẩy động và trong bối cảnh ICP, các phép toán dấu phẩy động phải mang tính xác định, nghĩa là chúng phải tạo ra các kết quả có thể dự đoán giống nhau bằng cách sử dụng cùng các toán hạng đầu vào.

Thuộc tính xác định này rất quan trọng vì ICP thực thi cùng một mã trên nhiều nút và sau đó chạy thuật toán đồng thuận của nó để thiết lập kết quả chính xác. Nếu hoạt động của dấu phẩy động không mang tính xác định, các nút có thể không đồng ý, ngăn cản tiến trình của chuỗi khối.

Các kỹ sư của DFINITY đã tìm ra cách giúp các hoạt động dấu phẩy động xác định nhanh hơn trong quá trình triển khai máy ảo WebAssembly có tên Wasmtime, một tối ưu hóa trình biên dịch cấp thấp giúp tạo ra mã nhanh hơn, mang lại nhiều lợi ích hơn là chỉ ICP, đồng thời mang lại lợi ích cho các nền tảng và chuỗi khối khác bằng cách sử dụng Wasmtime.

Tối ưu hóa 2: Lệnh đơn, Nhiều dữ liệu (SIMD)

SIMD là công nghệ được hỗ trợ bởi tất cả các CPU hiện đại, cho phép CPU thực hiện nhiều phép tính số học bằng một lệnh duy nhất. Ví dụ: WebAssugging có thể thực hiện bốn phép cộng dấu phẩy động song song bằng một lệnh duy nhất, như minh họa trong hình bên dưới.

WebAssugging SIMD cũng có thể xử lý các số nguyên; ví dụ: nó có thể thực hiện 16 phép tính số học song song trên các số nguyên nhỏ 8 bit, có khả năng cải thiện hiệu suất từ ​​4x đến 16x tùy thuộc vào loại số và phép toán.

Hợp đồng thông minh chạy trên ICP hiện có thể sử dụng các hướng dẫn SIMD xác định và hưởng lợi từ tính toán song song Tìm hiểu cách biên dịch hợp đồng thông minh bằng SIMD:

• github.com/dfinity/examples/tree/master/rust/simd

Tối ưu hóa 3: Hỗ trợ SIMD trong công cụ suy luận AI

Phần cuối cùng của câu đố Cyclotron là bổ sung hỗ trợ WebAssembly SIMD vào thư viện AI, trong đó các kỹ sư của DFINITY đóng góp triển khai WebAssembly SIMD cho công cụ suy luận Sonos Tract mã nguồn mở.

Mã mới sử dụng hướng dẫn SIMD để triển khai phép nhân ma trận và các thuật toán số khác, tương tự như các tối ưu hóa đầu tiên trong Wasmtime, một đóng góp không chỉ mang lại lợi ích cho ICP mà còn cho cộng đồng nhà phát triển rộng lớn hơn.

kết quả

Cùng với nhau, những tối ưu hóa này cải thiện việc kiểm tra điểm chuẩn vi mô bằng số lên 28 lần, với những mức cải thiện quan sát được từ 5x đến 19x tùy thuộc vào mô hình trong khối lượng công việc suy luận AI từ đầu đến cuối, như minh họa trong hình bên dưới.

Mã nguồn của các hợp đồng thông minh chứa các mô hình AI này có sẵn trên GitHub, vì vậy bất kỳ ai cũng có thể sao chép và xác minh kết quả:

• Phân loại hình ảnh: Đây là mô hình MobileNet phân loại hình ảnh đầu vào và trả về nhãn có khả năng xảy ra nhất trong số 1000 nhãn đã biết, giảm số lượng hướng dẫn Wasm cần thiết để chạy một suy luận duy nhất từ ​​24,7 tỷ xuống 3,7 tỷ.

• Nhận diện khuôn mặt: Đây là mô hình Ultraface có thể tìm thấy hộp giới hạn của khuôn mặt trong hình ảnh đầu vào, giảm số lượng hướng dẫn Wasm cần thiết để chạy một suy luận duy nhất từ ​​6,1 tỷ xuống 1,2 tỷ.

• Nhận dạng khuôn mặt: Đây là mô hình tính toán nhúng vectơ của hình ảnh đầu vào khuôn mặt. Số lượng lệnh Wasm cần thiết để chạy một suy luận duy nhất giảm từ 77 tỷ xuống còn 9 tỷ lệnh. có nghĩa là tính năng nhận dạng khuôn mặt trước đó không thể chạy trên mạng chính và chỉ có thể chạy cục bộ trên các bản sao được vá.

• GPT2: Đây là mô hình GPT2 được DecisionAI chuyển đổi thành hợp đồng thông minh bằng cách sử dụng khung Rust-connect-py-ai-to-ic và chi tiết về điểm chuẩn được mô tả trên GitHub.

Điểm chuẩn được chạy trong phiên bản dfx 0.20.1 (Baseline) và phiên bản 0.22.0-beta.0 (Cyclotron).

Tóm lại là

Cột mốc Cyclotron mang lại hiệu suất điện toán AI trên ICP gần bằng hiệu suất CPU gốc bằng cách tối ưu hóa các hoạt động dấu phẩy động và kích hoạt các lệnh SIMD của WebAssembly. Nó hỗ trợ xử lý mô hình trên chuỗi với hàng triệu tham số, chẳng hạn như phân loại hình ảnh, nhận dạng khuôn mặt và GPT2. lý lẽ.

Đây là bước đầu tiên hướng tới việc chạy đầy đủ các mô hình AI lớn trên chuỗi nhằm giải quyết vấn đề về độ tin cậy của AI. Cột mốc AI tiếp theo trong lộ trình ICP nhằm mục đích vượt qua các giới hạn của CPU để thực hiện suy luận AI và đào tạo mô hình lớn trên chuỗi. , hợp đồng thông minh cần một phương pháp chạy các phép tính tính toán và sử dụng nhiều bộ nhớ trên phần cứng chuyên dụng như GPU.

Hãy theo dõi các cột mốc quan trọng của Gyrotron.

#AI模型 #DEAI🤖🤖🤖 #gpt4 $BTC $ETH $ICP

Nội dung IC bạn quan tâm

Tiến độ Công nghệ Thông tin Dự án |

Thu thập và theo dõi Kênh IC Binance

Luôn cập nhật những thông tin mới nhất