Gaia Trao Quyền cho Các Nhà Phát Triển Triển Khai LLM Mã Nguồn Mở trên Phần Cứng của Họ. 👨💻
Tại Eigen Games Hacker House trong ETHDenver, Harish Kotra đã công bố bộ công cụ của Gaia cho AI phi tập trung, cho phép các nhà phát triển triển khai các ứng dụng AI tùy chỉnh trên phần cứng của họ với mã hóa tối thiểu. Gaia tích hợp ví tự chủ cho các hành động trên chuỗi như hoán đổi token và bỏ phiếu quản trị, trong khi API linh hoạt của nó cho phép tích hợp liền mạch với các dịch vụ bên thứ ba. Các nhà phát triển có thể chọn từ các mô hình như Llama 3.2, Qwen hoặc Mistral, với cơ sở dữ liệu vector nhúng mặc định là Qdrant nhưng hỗ trợ PostgreSQL cho các quy trình SQL.
Được cung cấp bởi WasmEdge, các nút Gaia chạy hiệu quả trên các thiết bị từ Raspberry Pis đến máy chủ đám mây. API tương thích với OpenAI của nó cho phép các nhóm chuyển hướng URL API của họ để tích hợp Gaia vào các quy trình dựa trên ChatGPT trong khi nâng cao quyền riêng tư dữ liệu và giảm chi phí. Harish đã trình diễn các trường hợp sử dụng thực tế, bao gồm các bản sao kỹ thuật số do AI điều khiển, các plugin IDE cho việc tạo mã Rust, và các tác nhân tự động trên chuỗi quản lý DAOs, triển khai token, và thực hiện giao dịch. Một buổi trình diễn trực tiếp đã cho thấy các nút Gaia phát hành token trên Celo và Base.
Gaia đơn giản hóa việc đánh giá sự kiện, như đã thấy trong hackathon ETHDenver, nơi các nút phân tích chất lượng mã ở quy mô lớn. Các mẫu mã nguồn mở như công cụ Q&A PDF địa phương và trình khởi động đa nút tăng tốc độ phát triển. Các nút công cộng cung cấp quyền truy cập vào các mô hình mạnh mẽ như Llama 70B và Qwen 72B để thử nghiệm.
Harish khuyến khích các nhà xây dựng khám phá tài liệu của Gaia, các bản demo trên GitHub và các kênh cộng đồng để định hình tương lai của AI phi tập trung. Như ông đã nhấn mạnh, “Gaia không chỉ là một nền tảng mà còn là nền tảng cho một hệ sinh thái AI phi tập trung, chỉ bị giới hạn bởi sự sáng tạo.”
