Dalam wawancara baru-baru ini di podcast Data Pelatihan Sequoia Capital, CTO Microsoft Kevin Scott menegaskan kembali keyakinannya pada nilai abadi undang-undang penskalaan model bahasa besar (LLM).
Baca Juga: Aplikasi AI menampilkan ‘label keselamatan’ yang menyoroti risiko dan pengujian
Scott, yang berperan besar dalam kesepakatan senilai $13 miliar antara Microsoft dan OpenAI, tetap optimis tentang potensi kemajuan yang berkelanjutan. Ia menanggapi perdebatan yang sedang berlangsung dengan menyatakan bahwa gagasan undang-undang penskalaan masih relevan dengan bidang AI.
Penelitian OpenAI mendukung manfaat penskalaan
Undang-undang penskalaan LLM yang diusulkan oleh peneliti OpenAI pada tahun 2020 menyatakan bahwa efisiensi model bahasa meningkat secara proporsional dengan ukuran model. Scott mendiskreditkan hukum hasil yang semakin berkurang, dengan mengatakan bahwa pertumbuhan eksponensial masih mungkin dicapai, tetapi mungkin diperlukan superkomputer generasi berikutnya untuk mewujudkannya.
Meskipun beberapa pakar mempertanyakan keberlanjutan undang-undang penskalaan, OpenAI masih mengandalkan undang-undang tersebut sebagai komponen utama rencana AI-nya. Pernyataan Scott sejalan dengan pendekatan Microsoft terhadap prinsip-prinsip ini, yang menyiratkan bahwa raksasa teknologi tersebut tidak berniat menghentikan pengembangan model AI yang lebih besar.
Komunitas AI memperdebatkan perbaikan model di masa depan
Pendirian Scott sangat berlawanan dengan beberapa kritikus AI yang berpendapat bahwa pertumbuhan telah berhenti di GPT-4 dan model serupa lainnya. Beberapa kritikus mengutip model terbaru, termasuk Google Gemini 1.5 Pro dan Claude Opus dari Anthropic, karena tidak menunjukkan peningkatan yang signifikan dibandingkan model sebelumnya. Kritikus AI Gary Marcus menyoroti sudut pandang ini pada bulan April, mempertanyakan kurangnya kemajuan signifikan sejak dirilisnya GPT-4.
Namun tetap saja, Scott optimis dengan kemungkinan adanya penemuan baru. Dia juga menerima kenyataan bahwa hanya ada sedikit titik data dalam AI, namun menekankan bahwa hal ini tidak akan lagi menjadi masalah di masa depan.
“Sampel berikutnya akan segera hadir, dan saya tidak dapat memberi tahu Anda kapan waktunya, dan saya tidak dapat memperkirakan secara pasti seberapa bagus sampel tersebut, namun hampir pasti sampel tersebut akan lebih baik dalam hal-hal yang rapuh saat ini.”
Kevin Scott
Pendanaan besar Microsoft di OpenAI merupakan bukti keyakinannya terhadap kemajuan LLM di masa depan. Beberapa fitur AI termasuk Microsoft Copilot, yang membuktikan bahwa perusahaan tertarik untuk meningkatkan penggunaan AI. Ed Zitron, seorang kritikus AI, mengatakan bahwa, pada tingkat tertentu, AI mungkin terhenti karena orang berharap terlalu banyak terhadapnya.
