Costruire app per TEE non è mai stato così semplice!
Oggi, introduciamo oyster-cvm, uno strumento CLI completo che può essere utilizzato per costruire, eseguire il debug, registrare, distribuire, verificare & aggiornare le immagini dell'enclave utilizzando Docker.
La bellezza: se funziona localmente, funziona nel TEE
Per favore, non prendere in giro i bambini per credere in Babbo Natale. Conosco adulti che credono ancora che i TEE non siano necessari in un framework di agenti AI.
Siamo entusiasti di annunciare che Marlin e @cortensor stanno unendo le forze per costruire un'infrastruttura AI decentralizzata e più accessibile. La rete di inferenza AI guidata dalla comunità di Cortensor e la rete di coprocessori basata su TEE di Marlin, Oyster, si integreranno per offrire agli utenti una soluzione AI potente e flessibile per le applicazioni Web2 e Web3.
La rete decentralizzata di Cortensor sfrutta la computazione distribuita e modelli open-source per fornire servizi AI scalabili e convenienti a un vasto pubblico. Consentendo ai collaboratori di eseguire modelli linguistici di grandi dimensioni (LLM) e vari altri modelli GenAI, Cortensor sta spingendo l'AI oltre i confini tradizionali, rendendola più accessibile e conveniente.
La rete Oyster di Marlin completa questa visione con un ambiente TEE sicuro e ad alte prestazioni. I nodi Oyster, progettati per un'esecuzione efficiente e senza server, garantiscono che i compiti possano essere elaborati rapidamente e in modo verificabile, proteggendo i dati. Con i TEE, Marlin fornisce una base sicura che consente agli utenti di delegare le attività di inferenza AI con fiducia.
Insieme, le reti di Cortensor e Marlin consentono agli utenti di eseguire inferenze AI su richiesta e con solide garanzie di sicurezza. Questa collaborazione offre un SLA affidabile agli sviluppatori e alle aziende di AI, aiutandoli a raggiungere flussi di lavoro alimentati dall'AI senza soluzione di continuità, con opzioni di costo e prestazioni flessibili. Siamo anche entusiasti di supportare la comunità di Cortensor mentre iniziano a testare e accogliere nuovi partecipanti.
Non vediamo l'ora di connetterci con altri costruttori e condividere come stiamo sfruttando i TEE e gli H100 per alimentare il computing riservato per l'IA.
Fai un salto allo stand di Marlin e raccogli il nostro merch esclusivo!