😲Bývalý hlavní vědec OpenAI Ilya se rozohnil! Na konferenci NeurIPS 2024 otevřeně řekl, že AI předtrénování musí "přestat dostávat krmení", data se brzy vyčerpají~ je to jako když fosilní paliva docházejí, internet má už plno lidsky generovaného obsahu😰. Jak dál s modely? Musí se změnit tréninkové přístupy a vstoupit do nové fáze.

👀Budoucí modely budou super úžasné, už se nebudou soustředit na shodu vzorů, ale na autonomii a schopnost odvozování! Budou schopny řešit problémy jako my, čím silnější bude jejich odvozování, tím více budou "nepolapitelné". Také je jasné, že inteligentní agenti a syntetická data jsou klíčem.

📣Přednášky velkých osobností byly velmi informativní, zhodnotily hluboké učení a odpovídaly na otázky bez vytáček~ například, zda si modely mohou opravit své iluze, odpověděl, že je to možné; zda LLMs mohou generalizovat, ve srovnání s námi lidmi jsou ještě daleko, ale také se zlepšují! Bouře revoluce AI se blíží, těšíme se na to~💥