Запуск чип ИИ Graphcore входит в систему бизнеса утверждая экономики значительно лучше, чем от Nvidia

gc011-ipurack-011-w4k.jpg

Стоечные Graphcore по 1У М2000 «МПС машина» — это сервер, посвященный алгоритм обработки ИИ. За $32,450, вы получаете производительностью более вычислительной мощности в 4-х микросхемах, подключение к сети 2.8 терабит в секунду и до 450 гигабайт памяти.


Ник Rochowski Фотографии

В чем проявляется тенденция в мире искусственного интеллекта, аппаратное и программное обеспечение, АИ чип дизайнер Graphcore в среду утром заявил, что его последний очень большой чип на АИ будет продаваться в четырех-чип-сервер компьютер который находится в стойке, положив Graphcore в расширении рынка для выделенного Ай-серверов.

Graphcore, основанная в Бристоле, в Великобритании, которая получила более $300 млн в венчурный капитал, представила, что она называет Мк2 GC200, или Марк-2, так как компания относится к нему, его последний процессор, предназначенный для обработки операций машинного обучения нейронных сетей. Она также заявила, что начнет продажи четырех-чип компьютера под названием М2000, который расположен в стандартном корпусе 1U коробки пиццы.

«Это действительно то, что мы работаем, так как мы начали компанию,» Найджел мультяшек, исполнительным директором Graphcore, рассказал ZDNet в интервью через зум.

Строит собственный компьютер-это место для Graphcore от своей бизнес-модели, при которой компания продает плагин карты PCIe, который предназначен, чтобы жить в чужом компьютере-сервере. Ранее, Graphcore сотрудничает с Dell, чтобы разработать системы из этих карт.

Но растущая потребность в кластер машины означало, что кто-то должен был решить масштабирование фишки на очень больших систем, — сказал Тоон.

«Ключевым является то, что вы знаете, люди хотят сделать действительно большие модели», — сказал Тоон, ссылаясь на нейронные модели сетевого компьютера в искусственный интеллект. Все больше программ от Google и другие настолько ресурсоемкие, что они могут потребовать несколько десятков или сотен чипов, работающих на параллели. Мультяшек ранее сообщил ZDNet, такие модели лучше подходят на подходе Graphcore для обработки.

Также: ИИ меняется весь характер вычислений

«Они хотят построить эти большие компьютерные системы, а они хотят на самом деле поезд, очень быстро, и поэтому то, что мы делаем здесь это мы строим более эффективных компьютеров.»

«Вы хотите, чтобы иметь возможность масштабирования системы, так как вы соедините эти ящики вместе?» он спросил риторически. «Вам нужен выделенный Ай [сеть] ткани, так у нас получилось, что в этой машине МПС.»

Пивот Graphcore к системам эхо шагов нескольких поставщиков чип ИИ кремния в последний год или около того.

Несмотря на то, что доминирующей силой в микросхемах ИИ, в мае рассказал его новый сервер DGX100 работает несколько процессоров А100 предназначен для AI, подчеркивая сложность его инженерных систем, воплощенных в его материнской платы. Cerebras систем запуска прошлой осенью представила систему, которая сродни супер-компьютер в коробку размером общаге холодильник, работает большая микросхема в мире. Родриго Лян, руководитель запуска АИ SambaNova, выразил формирующегося мировоззрения, когда он рассказал ZDNet, в начале этого года: «вы должны строить всю систему».

gc009-ipupod-001-w4k.jpggc009-ipupod-001-w4k.jpg

РМО-64 Graphcore является 16-путь 1U серверного шкафа, содержащего 64 индивидуальных чипов Мк2. Такие шкафы можно объединять с помощью компании МС-технология ткани, чтобы построить центр обработки данных до 64000 сколов.


Ник Rochowski Фотография / СТУ

В центре компьютерных Graphcore является процессор Мк2 GC200, что даже больше, чем уже гигантские Мк1, первый продукт компании. Компания перешла от 16-нанометровому техпроцессу в Тайване полупроводника в 7-нанометровой технологии, в результате чего 59.4 миллиардов транзистор умирает измерения 823 квадратных миллиметров. Это более чем вдвое превышает 23,6 млрд. транзисторов в Мк1, но лишь немногим больше, чем Мк1 в 815 квадратных миллиметров.

Отдельных вычислительных ядер процессора, что хруст чисел в параллельных, выросло до 1 472 от 1,280, и быстрой памяти SRAM памяти вырос в три раза до 900 мегабайт. Чип может выполнять эквивалентные работает 9,000 отдельные программы параллельно, отметил мультяшек.

Все, что дает некоторые непосредственные большой скорости-UPS, таких, как в 9,3 раза увеличить скорость подготовки Берт-большой естественного языка нейронные сети от Google.

Прямое сравнение в производительности с NVIDIA еще не доступны, самая непосредственная причина Graphcore еще получить в свои руки на NVIDIA DGX по А100 работать против, хотя говорит Тун намерен эталоном непосредственно в ближайшие месяцы.

Но мультяшек сделали так, что грубая сила и связность делает М2000 значительно более экономичны при покупке машины. База 4-Путь сервера стоит $32,450. Покупка восьми машин, на $259,600, дает характеристики, которые, по крайней мере, на бумаге намного выше, что можно было бы сделать, купив 8 DGX без машины по сопоставимой цене $199,000: два петафлопс вычислительных способен обрабатывать 32-разрядные числа с плавающей точкой математике, по сравнению с 156 терафлопс для DGX по; 3.6 терабайт памяти и 320 гигов в DGX по.

graphcore-ipu-pod64k.pnggraphcore-ipu-pod64k.png

«Чтобы получить такую же пропускную способность, вам надо потратить три миллиона долларов на NVIDIA кит по сравнению с менее чем $300.000 на машинах МПС», — сказал Тоон.

Идея переносится дальше путем сборки нескольких машин в кластер, сказал Тоон. Шестнадцать из четырех фишек сервера могут быть подключены в шкафу в компании называют РМО-64, на общую сумму 64 фишки. И 1,024 из этих блоков могут быть объединены вместе для общей 64,000 процессоров, работающих параллельно. Что позволяет в общей сложности 16 экзафлопсах вычислений, и 3.2 petabits в секунду пропускной способности.

С кластерными системами, нагрузка может быть динамически назначается программного обеспечения Graphcore на любом из этих процессоров 64,000 так что сочетание процессоров, работающих на разных рабочих местах может меняться в течение дня.

«Может быть, ты делаешь вывод в течение дня, и тогда вы переподготовке модели в ночное время», — предложил мультяшек. «Или, может быть, у вас есть группа, которая группа, а затем они переключаются на разные модели требуют разных конфигураций пси соединены вместе, поэтому он создает абсолютно бесшовный конфигурации».

Также: ‘Это очень важно’: Graphcore генеральный директор считает, что новые виды ИИ будет доказать ценность нового вида компьютер

Чтобы включить кластеризацию, компания изобрела собственную технологию кластеризации, связности, называется «МС-ткани».Технологию, либо в качестве прямой связи между M2000s или через Ethernet, поддерживает пропускную способность до 2,8 терабит в секунду в то, что компании с низкой задержкой. Компания говорит, что МС-ткань оптимизирован для таких операций, как сокращение и других данных, необходимых для поддержки рабочих нагрузок ИИ на нескольких машинах.

Мультяшек воспользовался возможностью, чтобы высмеять NVIDIA, которая в апреле закрыт на приобретение 7 млрд. долл технологий Mellanox для того, чтобы получить высокоскоростных межсоединений для систем DGX по.

«У нас была команда из 100 человек, работающих в Осло в течение более трех лет, эту штуку с нуля для AI, а Nvidia ушла и потратила семь миллиардов долларов, чтобы купить Mellanox, просто чтобы быть с нами, может быть».

gc010-ipu2-001-w4k.jpggc010-ipu2-001-w4k.jpg

Чип Graphcore, что полномочия свои компьютеры, GC200 Мк2, содержит отдельные 59,4 миллиарда транзисторов в кусок кремния для измерения 823 квадратных миллиметров.


Ник Rochowski Фотография / СТУ

Помимо пользы для масштабирования, сказал мультяшек сервер, устраняют необходимость для других, чтобы создавать собственные сервера, что является дорогостоящим процессом для производителей оригинального оборудования, такими как Dell. «То, что мы делаем, что мы говорим, посмотрите, можно использовать серверы, которые ваши клиенты уже хочу пойти и купить».

«Вы просто подключите наша машина МПС в стойку рядом с тем, положить в столько, сколько вам нужно, и вы добавили обработку AI в вашей системе.» Подобный аргумент выступил генеральный директор компании Nvidia Дженсен Хуанг представил машину DGX ПО в июне — ослабление бремени аппаратных партнеров компании NVIDIA.

Спросил на второй день, что делать с крупных компаний, которые просто хотят купить PCIe карты, мультяшек отметил, что на самом деле большинство клиентов не поменять старые карты на новые, потому что новые карты требуют больше энергии, чем было поставлено на старые карты. Отсюда и привлекательность карту против закрытой коробке меньше, чем казалось бы.

«Что мы делаем здесь это мы даем людям платформу через систему управления, так что вы можете просто изменить и установить власть, чтобы дать вам представление, что вам нужно на поле.»

Еще: видеокарты NVIDIA Ампер, плюс наиболее сложных материнской платы, будет питать гигантский ИИ модели

Graphcore и внутренне развитых PCIe карты, мультяшек отметить, и «мы могли бы пойти и построить этот продукт», — сказал он. «Мы смотрим на него, мы можем пойти по этому пути», — сказал Тоон. «Я думаю, что на данный момент, мы думаем, что есть много преимуществ в МПС машина», — сказал он, добавив, что «если клиенты действительно развернуться и сказать, Нет, Нет, мы просто хочу, чтобы карту подключить, тогда можно включить, что.»

На данный момент, кажется, раньше отзывы довольно восторженные. Graphcore, которые предоставляет котировки от клиентов для М2000, в том числе профессор Эндрю Бриггс из отдела материаловедения Оксфордского университета, который с помощью машины для ускорения квантовых вычислений. Он сказал, что отдел «чрезвычайно взволнован» о новой технологии и как она будет «продвинуть нас дальше и быстрее в будущее квантовых вычислений».

Похожие светящиеся замечания пришли из Национальной лаборатории Лоуренса Беркли, Оксфорд нанопор, и китайская компания Ай EspresoMedia. Сказал Graphcore Джей-Пи Морган Чейз сказал, что это оценка системы, чтобы «увидеть, если наше решение может ускорить их достижений в области искусственного интеллекта, в частности, в НЛП и распознавания объектов».

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *