Weryfikowalne LLM są już dostępne.

Phala Network, @ionet i Engage Stack właśnie wspólnie opublikowały Confidential Computing on nVIDIA Hopper GPUs: A Performance Benchmark Study.

Przeanalizowaliśmy wpływ Trusted Execution Environments (TEE) na NVIDIA H100 i H200 Hopper GPUs w celu bezpiecznego wnioskowania LLM. Oto, co odkryliśmy.🧵

Link do bloga: