Microsoft đang phát triển một mô hình ngôn ngữ lớn mới có tên MAI-1 và cạnh tranh với OpenAI, Google và Anthropic. Theo báo cáo của The Information, dự án được giám sát bởi Mustafa Suleyman, Giám đốc điều hành AI của Microsoft. Mục đích của mô hình LLM mới vẫn chưa rõ ràng nhưng nó sẽ lớn hơn các mô hình LLM nguồn mở được Microsoft phát hành trước đó.
MAI-1, GPT4 hay Grok?
MAI-1 là LLM nội bộ đầu tiên có tầm cỡ này. Nó sẽ có 500 tỷ tham số, khiến nó trở thành một trong những mô hình ngôn ngữ lớn nhất do Microsoft phát triển. MAI-1 vượt qua tất cả các mẫu nguồn mở được gã khổng lồ công nghệ phát triển, bao gồm cả Phi-3 mini mới ra mắt gần đây.
GPT4 được đồn đại là có 1,74 nghìn tỷ thông số tùy theo tốc độ chạy của nó. Grok-1 của Elon Musk có 314 tỷ tham số và được coi là LLM nguồn mở lớn nhất. DeepMind và Claude 3 không tiết lộ số lượng thông số mô hình AI của họ.
Tại sao xây dựng MAI-1?
Không rõ tại sao Microsoft lại phát triển mô hình LLM mới trong khi đầu tư 10 tỷ USD vào OpenAI. Theo The Information, mục đích của MAI-1 sẽ phụ thuộc vào hiệu suất của nó. Gã khổng lồ công nghệ sẽ đào tạo mô hình bằng nhiều nguồn dữ liệu khác nhau và sẽ sử dụng GPU Nvidia để xây dựng một cụm máy chủ.
Kevin Scott, CTO của Microsoft cho biết trên LinkedIn rằng ông không chắc tại sao đây lại là tin tức; tuy nhiên, ông đã xác nhận sự phát triển của MAI-1.
nguồn: LinkedIn
Microsoft đang dẫn đầu trong cuộc đua AI và đã tích hợp công nghệ của OpenAI trên các sản phẩm của mình bao gồm Copilot và Dynamics 365 AI. The Information đưa tin rằng Microsoft có thể xem trước MAI-1 ngay tại hội nghị nhà phát triển Build vào cuối năm nay. Việc xem trước mô hình phụ thuộc vào tiến độ đạt được trong những tuần tới.
Microsoft đang tập trung toàn lực vào AI
Microsoft tham gia rất nhiều vào trí tuệ nhân tạo và các mô hình ngôn ngữ lớn. Tháng trước, hãng đã ra mắt mẫu AI hạng nhẹ có tên Phi-3 mini. Theo Sébastien Bubeck, phó chủ tịch nghiên cứu GenAI của Microsoft, Phi-3 mini rẻ hơn đáng kể và tiết kiệm chi phí hơn gấp 10 lần so với các mẫu khác có khả năng tương tự.
Hôm nay, Microsoft đã công bố một trung tâm dữ liệu AI mới ở Wisconsin. Tổng thống Joe Biden đã cùng gã khổng lồ công nghệ đưa ra thông báo. Microsoft không ngừng mở rộng quan hệ đối tác trong lĩnh vực AI. Hai tháng trước, Microsoft hợp tác với công ty Mistral AI của Pháp. Nó cũng đã hợp tác với Vodafone trong mười năm để tích hợp AI vào công ty viễn thông.
