Tesla’s Dojo on Wafer Processor Moves Into Production

Cryptopolitan · 2024-05-02T12:43:06.000Z

Tesla’s Dojo processor has moved on to mass production and will be deployed soon. Dojo is a system on a wafer processor that consists of a 5-by-5 series of individual processor chips that are fixed on another wafer called a carrier wafer and are interconnected by Taiwan Semiconductor’s InFo technology for wafer interconnections. Sounds complex? Let’s simplify it. Tesla’s Dojo will be deployed soon Tesla Dojo Training Tile (the company calls it a training tile) is actually a pack of 25 powerful processors that are joined together to act as one ultra-powerful processor, utilizing TSMC’s connectivity technology, which is specifically designed for high-speed connectivity. Now it has started making a little sense, but first a bit of background on why Tesla needed its own processor when semiconductor giants like Nvidia, IBM, and Intel have already been making hardware for computers and AI. Tesla’s decision to enter AI, chip design, and supercomputing shows how the company, and especially Elon Musk, sees innovation as more than just corporate business expansion. Tesla is trying to develop cars with self-driving capabilities from the start, and all the cars it has sold transmit data to Tesla to help the company build the system. So Dojo is also a part of its vertical integration. Dojo is quite different from other available AI accelerators and tools for super computing. For example, Nvidia’s A100 or A200 GPUs are embedded in many super computers around the world, but these and the others are mostly designed to cater to a wide range of tasks, including research, big data processing, complex simulations, and many more. But Dojo is designed for a specific task like AI computer vision driven by real-world data; what else Dojo will be capable of is unknown, as the company has not revealed much. Wafer-based systems are more efficient Source: TSMC. As said above, Dojo consists of 25 individual high-performance processors, so it has a ravenous appetite for power and requires an effective and sophisticated cooling system. According to Tom’s hardware, to feed the power, Tesla uses a voltage-regulating system, which in itself is a complex module that delivers 18,000 amps of power to the processor. With these high levels of power, the system dissipates 15,000 watts of heat, and to work efficiently, it requires a liquid cooling system. Wafer-based accelerators, such as Tesla’s Dojo, are substantially more effective and give better performance than other multiprocessor systems. They benefit from low latency between the communication cores, high bandwidth, and better energy efficiency due to the system’s wafer technology. Only Tesla and Cerebras have systems on wafer designs up until now, but other industry players are also expected to get in because of the higher efficiency and lower latency. However, there are some limitations to these accelerators as well; wafer systems currently have to rely on on-chip memory, which is usually fixed and may be insufficient for different types of use cases. But it is expected that this will be overcome when the next generation of on the wafer platform enables 3D stacking of HBM4 memory chips on accelerator tiles.

Procesor Dojo Tesli trafił do masowej produkcji i wkrótce zostanie wdrożony. Dojo to system na procesorze waflowym, który składa się z serii pojedynczych chipów procesora o wymiarach 5 na 5, które są przymocowane do innej płytki zwanej płytką nośną i połączone ze sobą za pomocą technologii InFo firmy Taiwan Semiconductor do wzajemnych połączeń płytek. Brzmi skomplikowanie? Uprośćmy to.
Wkrótce zostanie uruchomione Dojo Tesli
Płytka szkoleniowa Tesla Dojo (firma nazywa ją płytką szkoleniową) to w rzeczywistości zestaw 25 potężnych procesorów połączonych razem w celu działania jako jeden niezwykle wydajny procesor, wykorzystujący technologię łączności TSMC zaprojektowaną specjalnie z myślą o szybkiej łączności. Teraz zaczęło to mieć trochę sensu, ale najpierw trochę tła, dlaczego Tesla potrzebowała własnego procesora, skoro giganci półprzewodników, tacy jak Nvidia, IBM i Intel, już produkują sprzęt dla komputerów i sztucznej inteligencji.
Decyzja Tesli o wejściu na rynek sztucznej inteligencji, projektowania chipów i obliczeń superkomputerowych pokazuje, jak firma, a zwłaszcza Elon Musk, postrzega innowacje jako coś więcej niż tylko ekspansję biznesową firmy. Tesla od samego początku stara się opracowywać samochody z możliwością samodzielnego prowadzenia i wszystkie sprzedane przez nią samochody przesyłają dane do Tesli, aby pomóc firmie w budowie systemu. Zatem Dojo jest także częścią jego integracji pionowej.
Dojo znacznie różni się od innych dostępnych akceleratorów AI i narzędzi do super obliczeń. Na przykład procesory graficzne Nvidia A100 lub A200 są wbudowane w wiele superkomputerów na całym świecie, ale te i inne są w większości zaprojektowane do obsługi szerokiego zakresu zadań, w tym badań, przetwarzania dużych zbiorów danych, złożonych symulacji i wielu innych. Ale Dojo zaprojektowano do konkretnych zadań, takich jak wizja komputerowa AI oparta na danych ze świata rzeczywistego; nie wiadomo, do czego jeszcze będzie zdolne Dojo, gdyż firma nie ujawniła zbyt wiele.
Systemy oparte na płytkach są bardziej wydajne
 źródło: TSMC.
Jak wspomniano powyżej, Dojo składa się z 25 oddzielnych, wysokowydajnych procesorów, dlatego ma żarłoczny apetyt na moc i wymaga skutecznego i wyrafinowanego systemu chłodzenia. Według sprzętu Toma do zasilania energią Tesla wykorzystuje system regulacji napięcia, który sam w sobie jest złożonym modułem dostarczającym do procesora moc 18 000 amperów. Przy tak wysokim poziomie mocy system rozprasza 15 000 watów ciepła, a do wydajnej pracy wymaga układu chłodzenia cieczą.
Akceleratory oparte na płytkach, takie jak Dojo Tesli, są znacznie bardziej efektywne i zapewniają lepszą wydajność niż inne systemy wieloprocesorowe. Korzystają z małych opóźnień między rdzeniami komunikacyjnymi, dużej przepustowości i lepszej efektywności energetycznej dzięki technologii płytek w systemie.
Do tej pory tylko Tesla i Cerebra miały systemy oparte na konstrukcjach płytek, ale oczekuje się, że inni gracze z branży również dołączą do nich ze względu na wyższą wydajność i mniejsze opóźnienia. Jednakże akceleratory te mają również pewne ograniczenia; systemy płytkowe muszą obecnie opierać się na pamięci wbudowanej, która jest zwykle stała i może być niewystarczająca w przypadku różnych typów zastosowań. Oczekuje się jednak, że problem ten zostanie przezwyciężony, gdy następna generacja platformy waflowej umożliwi układanie w stosy 3D układów pamięci HBM4 na płytkach akceleratorów.

Odkryj więcej od twórcy

Najnowsze wiadomości