TikTok Owner Develops Advanced AI Chip With US Firm Broadcom – Report

Cryptopolitan · 2024-06-24T20:23:05.000Z

ByteDance, the Chinese owner of TikTok, is working with U.S. chip designer Broadcom to develop an advanced artificial intelligence processor, Reuters reported on Monday. It comes as the company seeks to ensure a stable supply of high-performance chips for its AI products amid U.S. – China tensions. Also read: China’s AI companies start a fierce pricing war The companies are building a customized 5-nanometer chip, also known as an application-specific integrated circuit (ASIC), which complies with U.S. export rules, the report said, citing insiders. Manufacturing will be outsourced to major Taiwanese chipmaker, TSMC, it added. ByteDance wants AI for ‘more powerful algorithms’ ByteDance is making big moves in generative AI and is keen to secure high-end chips “to make its algorithms more powerful.” The firm operates popular apps including TikTok and Douyin, a Chinese version of the short-video app. It also runs a ChatGPT-like AI chatbot service called Doubao. The Beijing-based company has relied on Nvidia’s chipsets like the A100 graphics processing units and others, which it has reportedly stockpiled. However, ByteDance and other Chinese firms have been hit hard by U.S. sanctions aimed at stopping the export of the most advanced chips to the Asian country. Nvidia’s chips are used by companies such as OpenAI and Microsoft to run large language models and other AI apps. According to the Reuters report, the ByteDance and Broadcom tie-up is the first major 5nm chip development deal to be made public since the U.S. export restrictions for ‘cutting-edge semiconductors” to China came into force in 2022. Other deals between the world’s two biggest economies involved less powerful AI processors, the report said. The move is seen as a way for ByteDance to reduce its dependence on Nvidia-made GPUs, which are in short supply not only because of high demand but also due to the U.S. export controls. ByteDance is looking to AI to make its algorithms more powerful. With the planned AI chip, ByteDance will have more control over its hardware, allowing the company to secure a stable supply of chips for its AI projects at a much lower cost and more efficiently. The report says TSMC is “not expected to start manufacturing the new chip this year.” AI chip demand surges ByteDance and Broadcom have been partners since 2022. The TikTok creator has previously bought the U.S. company’s “Tomahawk 5nm high-performance switch chip and its Bailly switch for AI computer clusters.” The development comes at a time when demand for artificial intelligence chips is soaring. LLMs, the technology behind chatbots such as ChatGPT, require massive amounts of computing power to train and run. This has led to a shortage of AI chips, causing prices to rise. The Nvidia A100 GPU reportedly costs $15,000 each. Also read: Chipmaker Nvidia overtakes Microsoft as world’s most valuable company A report released by research firm TrendForce in March last year revealed that the number of Nvidia’s graphics processing units that OpenAI’s GPT model needed to process training data in 2020 came to about 20,000. As ChatGPT continues to evolve, that figure is also expected to continue to grow, it said. Cryptopolitan Reporting by Jeffrey Gogo

ByteDance, čínský vlastník TikTok, spolupracuje s americkým návrhářem čipů Broadcomem na vývoji pokročilého procesoru umělé inteligence, uvedla v pondělí agentura Reuters. Přichází, když se společnost snaží zajistit stabilní dodávky vysoce výkonných čipů pro své produkty AI uprostřed napětí mezi USA a Čínou.
Čtěte také: Čínské společnosti s umělou inteligencí zahajují zuřivou cenovou válku
Společnosti staví přizpůsobený 5nanometrový čip, známý také jako aplikačně specifický integrovaný obvod (ASIC), který vyhovuje americkým exportním pravidlům, uvádí zpráva s odkazem na zasvěcené osoby. Výrobu bude outsourcovat významný tchajwanský výrobce čipů TSMC, dodal.
ByteDance chce AI pro „výkonnější algoritmy“
ByteDance dělá velké kroky v oblasti generativní umělé inteligence a má zájem zajistit špičkové čipy, „aby byly jeho algoritmy výkonnější“. Firma provozuje oblíbené aplikace včetně TikTok a Douyin, čínské verze aplikace pro krátké video. Provozuje také službu chatbota AI podobnou ChatGPT s názvem Doubao.
Společnost se sídlem v Pekingu se spoléhala na čipové sady Nvidia, jako jsou grafické procesorové jednotky A100 a další, které údajně skladovala. Společnost ByteDance a další čínské firmy však byly tvrdě zasaženy americkými sankcemi, jejichž cílem bylo zastavit vývoz nejpokročilejších čipů do asijské země.
Čipy Nvidie používají společnosti jako OpenAI a Microsoft ke spouštění velkých jazykových modelů a dalších aplikací AI. Podle zprávy agentury Reuters je spojení ByteDance a Broadcom první velkou dohodou o vývoji 5nm čipů, která byla zveřejněna od roku 2022, kdy vstoupila v platnost americká vývozní omezení pro „špičkové polovodiče“ do Číny.
Další dohody mezi dvěma největšími světovými ekonomikami zahrnovaly méně výkonné procesory AI, uvádí zpráva. Tento krok je vnímán jako způsob, jak ByteDance snížit svou závislost na GPU vyrobených společností Nvidia, kterých je nedostatek nejen kvůli vysoké poptávce, ale také kvůli kontrole vývozu z USA.
 ByteDance hledá AI, aby její algoritmy byly výkonnější.
S plánovaným čipem AI bude mít ByteDance větší kontrolu nad svým hardwarem, což společnosti umožní zajistit stabilní dodávky čipů pro své projekty AI za mnohem nižší náklady a efektivněji. Zpráva říká, že se od TSMC „neočekává, že by letos začala vyrábět nový čip“.
Poptávka po AI čipech roste
ByteDance a Broadcom jsou partnery od roku 2022. Tvůrce TikTok již dříve od americké společnosti koupil „vysoce výkonný přepínací čip Tomahawk 5nm a jeho přepínač Bailly pro počítačové clustery AI.“
Vývoj přichází v době, kdy poptávka po čipech umělé inteligence prudce stoupá. LLM, technologie stojící za chatboty, jako je ChatGPT, vyžadují k trénování a běhu obrovské množství výpočetního výkonu. To vedlo k nedostatku AI čipů, což způsobilo růst cen. Každý GPU Nvidia A100 údajně stojí 15 000 $.
Čtěte také: Výrobce čipů Nvidia předběhl Microsoft jako nejhodnotnější společnost světa
Zpráva zveřejněná výzkumnou firmou TrendForce v březnu loňského roku odhalila, že počet grafických procesorových jednotek Nvidia, které GPT model OpenAI potřeboval ke zpracování tréninkových dat v roce 2020, dosáhl přibližně 20 000. Jak se ChatGPT nadále vyvíjí, očekává se, že toto číslo bude dále růst, uvedl.
Cryptopolitan Reporting od Jeffreyho Goga

Vlastník TikTok vyvíjí pokročilý AI čip s americkou firmou Broadcom – zpráva

Prozkoumat více od tvůrce

Nejnovější zprávy