TikTok Owner Develops Advanced AI Chip With US Firm Broadcom – Report

Cryptopolitan · 2024-06-24T20:23:05.000Z

ByteDance, the Chinese owner of TikTok, is working with U.S. chip designer Broadcom to develop an advanced artificial intelligence processor, Reuters reported on Monday. It comes as the company seeks to ensure a stable supply of high-performance chips for its AI products amid U.S. – China tensions. Also read: China’s AI companies start a fierce pricing war The companies are building a customized 5-nanometer chip, also known as an application-specific integrated circuit (ASIC), which complies with U.S. export rules, the report said, citing insiders. Manufacturing will be outsourced to major Taiwanese chipmaker, TSMC, it added. ByteDance wants AI for ‘more powerful algorithms’ ByteDance is making big moves in generative AI and is keen to secure high-end chips “to make its algorithms more powerful.” The firm operates popular apps including TikTok and Douyin, a Chinese version of the short-video app. It also runs a ChatGPT-like AI chatbot service called Doubao. The Beijing-based company has relied on Nvidia’s chipsets like the A100 graphics processing units and others, which it has reportedly stockpiled. However, ByteDance and other Chinese firms have been hit hard by U.S. sanctions aimed at stopping the export of the most advanced chips to the Asian country. Nvidia’s chips are used by companies such as OpenAI and Microsoft to run large language models and other AI apps. According to the Reuters report, the ByteDance and Broadcom tie-up is the first major 5nm chip development deal to be made public since the U.S. export restrictions for ‘cutting-edge semiconductors” to China came into force in 2022. Other deals between the world’s two biggest economies involved less powerful AI processors, the report said. The move is seen as a way for ByteDance to reduce its dependence on Nvidia-made GPUs, which are in short supply not only because of high demand but also due to the U.S. export controls. ByteDance is looking to AI to make its algorithms more powerful. With the planned AI chip, ByteDance will have more control over its hardware, allowing the company to secure a stable supply of chips for its AI projects at a much lower cost and more efficiently. The report says TSMC is “not expected to start manufacturing the new chip this year.” AI chip demand surges ByteDance and Broadcom have been partners since 2022. The TikTok creator has previously bought the U.S. company’s “Tomahawk 5nm high-performance switch chip and its Bailly switch for AI computer clusters.” The development comes at a time when demand for artificial intelligence chips is soaring. LLMs, the technology behind chatbots such as ChatGPT, require massive amounts of computing power to train and run. This has led to a shortage of AI chips, causing prices to rise. The Nvidia A100 GPU reportedly costs $15,000 each. Also read: Chipmaker Nvidia overtakes Microsoft as world’s most valuable company A report released by research firm TrendForce in March last year revealed that the number of Nvidia’s graphics processing units that OpenAI’s GPT model needed to process training data in 2020 came to about 20,000. As ChatGPT continues to evolve, that figure is also expected to continue to grow, it said. Cryptopolitan Reporting by Jeffrey Gogo

ByteDance, proprietarul chinez al TikTok, lucrează cu designerul american de cipuri Broadcom pentru a dezvolta un procesor avansat de inteligență artificială, a raportat luni Reuters. Aceasta vine în timp ce compania încearcă să asigure o aprovizionare stabilă de cipuri de înaltă performanță pentru produsele sale de inteligență artificială pe fondul tensiunilor dintre SUA și China.
Citește și: Companiile AI din China declanșează un război aprig al prețurilor
Companiile construiesc un cip personalizat de 5 nanometri, cunoscut și sub numele de circuit integrat specific aplicației (ASIC), care respectă regulile de export din SUA, se arată în raport, citând persoane din interior. Producția va fi externalizată către un mare producător taiwanez de cipuri, TSMC, a adăugat acesta.
ByteDance vrea AI pentru „algoritmi mai puternici”
ByteDance face mișcări mari în IA generativă și este dornic să securizeze cipuri de ultimă generație „pentru a-și face algoritmii mai puternici”. Firma operează aplicații populare, inclusiv TikTok și Douyin, o versiune chineză a aplicației pentru videoclipuri scurte. De asemenea, rulează un serviciu de chatbot AI asemănător ChatGPT numit Doubao.
Compania din Beijing s-a bazat pe chipset-urile Nvidia, cum ar fi unitățile de procesare grafică A100 și altele, pe care se pare că le-a stocat. Cu toate acestea, ByteDance și alte firme chineze au fost puternic afectate de sancțiunile SUA care vizează oprirea exportului celor mai avansate cipuri către țara asiatică.
Cipurile Nvidia sunt folosite de companii precum OpenAI și Microsoft pentru a rula modele de limbi mari și alte aplicații AI. Potrivit raportului Reuters, legătura ByteDance și Broadcom este primul acord major de dezvoltare a cipurilor de 5 nm care a fost făcut public de la intrarea în vigoare a restricțiilor de export din SUA pentru „semiconductori de ultimă generație” în China, în 2022.
Alte tranzacții între cele mai mari două economii ale lumii au implicat procesoare AI mai puțin puternice, se arată în raport. Mișcarea este văzută ca o modalitate prin care ByteDance își reduce dependența de GPU-urile produse de Nvidia, care sunt insuficiente nu numai din cauza cererii mari, ci și din cauza controalelor exporturilor din SUA.
 ByteDance caută AI pentru a-și face algoritmii mai puternici.
Cu cipul AI planificat, ByteDance va avea mai mult control asupra hardware-ului său, permițând companiei să asigure o aprovizionare stabilă de cipuri pentru proiectele sale de AI la un cost mult mai mic și mai eficient. Raportul spune că TSMC „nu este de așteptat să înceapă fabricarea noului cip anul acesta”.
Cererea de cipuri AI crește
ByteDance și Broadcom sunt parteneri din 2022. Creatorul TikTok a cumpărat anterior „cipul de comutare de înaltă performanță Tomahawk 5nm” al companiei americane și comutatorul său Bailly pentru clustere de computere AI.
Dezvoltarea vine într-un moment în care cererea pentru cipuri de inteligență artificială este în creștere. LLM-urile, tehnologia din spatele chatbot-urilor precum ChatGPT, necesită cantități masive de putere de calcul pentru a se antrena și a rula. Acest lucru a dus la o lipsă de cipuri AI, ceea ce a determinat creșterea prețurilor. GPU-ul Nvidia A100 costă 15.000 USD fiecare.
Citește și: Chipmaker Nvidia depășește Microsoft ca cea mai valoroasă companie din lume
Un raport lansat de firma de cercetare TrendForce în martie anul trecut a dezvăluit că numărul de unități de procesare grafică Nvidia de care modelul GPT OpenAI avea nevoie pentru a procesa datele de antrenament în 2020 a ajuns la aproximativ 20.000. Pe măsură ce ChatGPT continuă să evolueze, se așteaptă și că această cifră va continua să crească, se spune.
Raportare Cryptopolitan de Jeffrey Gogo

Explorați mai multe de la acest creator

Ultimele știri