Илон Маск подтвердил: Grok 3 выйдет скоро – новые возможности ИИ от xAI на суперкомпьютере Colossus

суббота, 11 января 2025 г.

Илон Маск, основатель компании xAI, объявил о скором выпуске новой версии большой языковой модели — Grok 3. По его словам, предварительное обучение модели уже завершено, и для этого потребовалось в 10 раз больше вычислительных ресурсов по сравнению с Grok 2.

Предполагается, что обучение Grok 3 проводилось на суперкомпьютере Colossus, оснащенном около 100 000 графических процессоров Nvidia H100. Это подтверждает стремление xAI конкурировать с такими гигантами, как OpenAI, Google DeepMind и Anthropic, в разработке передовых моделей искусственного интеллекта.

Ранее сообщалось, что для обучения Grok 2 использовалось около 20 000 графических процессоров Nvidia H100, а запуск модели был запланирован на август 2024 года. Маск также отмечал, что Grok 3 станет «действительно чем-то особенным» благодаря использованию 100 000 чипов Nvidia H100 для его обучения.

Компания xAI планирует дальнейшее расширение вычислительных мощностей. В ближайшие месяцы суперкомпьютер Colossus будет увеличен до 200 000 графических процессоров H100 и H200, чтобы обеспечить обучение следующих версий Grok на еще более мощной системе. В перспективе xAI намерена развернуть суперкомпьютер с более чем миллионом графических процессоров для создания моделей с триллионами параметров, что приблизит их к созданию общего искусственного интеллекта.

Таким образом, xAI делает значительные шаги в развитии искусственного интеллекта, стремясь создать модели, превосходящие существующие стандарты и обладающие более продвинутыми возможностями рассуждения.

Александр

Fullstack-разработчик в Москве

Профессиональная разработка веб-приложений на Node.js с использованием современных frontend и backend фреймворков. Создание, продвижение, поддержка и обслуживание сайтов. Эффективно, прибыльно.