Новый чип Microsoft AI не представляет угрозы для Nvidia, но растущие потребности в LLM стимулируют создание специализированных микросхем

Присоединяйтесь к топ-менеджерам в Сан-Франциско 11–12 июля и узнайте, как лидеры интегрируют и оптимизируют инвестиции в искусственный интеллект для достижения успеха. Узнать больше

Согласно сегодняшнему сообщению The Information, Microsoft разрабатывает новый чип искусственного интеллекта (ИИ) под кодовым названием Athena еще с 2019 года. Компания может сделать Athena широко доступной для использования внутри самой компании и OpenAI уже в следующем году.

Эксперты говорят, что эти шаги Nvidia не поставят под угрозу, но это сигнализирует о необходимости гиперскейлеров разрабатывать свои собственные чипы.

Чип, как и чипы, разработанные Google (TPU) и Amazon (процессорные архитектуры Trainium и Inferentia), предназначен для обучения на больших языковых моделях (LLM). Это очень важно, поскольку масштаб передовых генеративных моделей искусственного интеллекта растет быстрее, чем вычислительные возможности, необходимые для их обучения, сообщил VentureBeat по электронной почте аналитик Gartner Чираг Декате.

По данным John Peddie Research, Nvidia является лидером рынка на рынке поставок ИИ-чипов с долей рынка около 88%. Компании соперничают только за то, чтобы зарезервировать доступ к высокопроизводительным графическим процессорам A100 и H100, каждый из которых стоит десятки тысяч долларов, что приводит к тому, что можно назвать кризисом графических процессоров.

Трансформация 2023

Присоединяйтесь к нам в Сан-Франциско 11–12 июля, где топ-менеджеры расскажут, как они интегрировали и оптимизировали инвестиции в искусственный интеллект для достижения успеха и избежания распространенных ошибок.

«В передовых генеративных моделях искусственного интеллекта сейчас используются сотни миллиардов параметров, требующих экзафлопсных вычислительных возможностей», — пояснил он. «Поскольку модели следующего поколения имеют триллионы параметров, неудивительно, что ведущие технологические новаторы изучают различные вычислительные ускорители для ускорения обучения, одновременно сокращая время и стоимость обучения».

Поскольку Microsoft стремится ускорить свою стратегию генеративного искусственного интеллекта при одновременном сокращении затрат, имеет смысл разработать дифференцированную стратегию индивидуального ускорения искусственного интеллекта, добавил он, которая «может помочь им добиться революционной экономии за счет масштаба, превосходящей то, что возможно при использовании традиционных подходов к коммерциализированным технологиям». "

Необходимость ускорения также применима, что немаловажно, к чипам искусственного интеллекта, которые поддерживают выводы машинного обучения — то есть, когда модель сводится к набору весов, которые затем используют живые данные для получения практических результатов. Вычислительная инфраструктура используется для вывода, например, каждый раз, когда ChatGPT генерирует ответы на вводимые данные на естественном языке.

Nvidia производит очень мощные чипы искусственного интеллекта общего назначения и предлагает свою платформу параллельных вычислений CUDA (и ее производные) как способ обучения машинному обучению, сказал аналитик Джек Голд из J Gold Associates в электронном письме VentureBeat. Но вывод, как правило, требует меньшей производительности, пояснил он, и гипермасштаберы видят способ также повлиять на потребности своих клиентов в выводе с помощью индивидуального чипа.

«В конечном итоге рынок Inference станет гораздо более обширным, чем рынок машинного обучения, поэтому важно, чтобы все поставщики предлагали здесь свои продукты», — сказал он.

Голд сказал, что он не считает Athena от Microsoft большой угрозой положению Nvidia в сфере искусственного интеллекта и машинного обучения, где она доминировала с тех пор, как компания способствовала «революции» глубокого обучения, произошедшей десять лет назад; разработал мощную стратегию платформы и подход, ориентированный на программное обеспечение; и увидел рост ее акций в эпоху генеративного искусственного интеллекта с большим количеством графических процессоров.

«Поскольку потребности расширяются, а также расширяется разнообразие использования, для Microsoft и других гипермасштабировщиков важно создавать собственные оптимизированные версии чипов искусственного интеллекта для своих собственных архитектур и оптимизированных алгоритмов (не специально для CUDA)», — сказал он.

Он объяснил, что речь идет об эксплуатационных расходах на облако, а также о предоставлении более дешевых вариантов для различных клиентов, которым может не понадобиться или не нужен дорогостоящий вариант Nvidia. «Я ожидаю, что все гиперскейлеры продолжат разработку собственных микросхем, чтобы конкурировать не только с Nvidia, но и с Intel в области облачных вычислений общего назначения».