1500py470 (1500py470) wrote,
1500py470
1500py470

Categories:

И опять о мегачипах

Компания Tesla давеча про роботов антропоморфных Tesla Bot презентацию делала, а нынче представила свой новый специализированный процессор Tesla D1 для машинного обучения ИИ. 50 млрд транзисторов, 400 Вт мощности и возможность объединения их в мультичип сборку по 25 штук. Процессор производится по технологическим нормам 7 нм. Площадь при этом составляет 645 кв. мм, что относительно много по нынешним временам, хотя и меньше чем например у Nvidia, и много-много-много меньше чем у Cerebras у которой их Wafer Scale Engine занимает всю 300-мм пластину!




Tesla D1 оснащён 354 обучающими узлами на базе 64-разрядного суперскалярного процессора с четырьмя ядрами. Решение поддерживает инструкции FP32, BFP16, CFP8, INT32, INT16 и INT8. Производительность в вычислениях с одинарной точностью (FP32) составляет 22,6 TFLOPS, а в случае режима BF16/CFP8 речь идёт о 362 TFLOPS. Такие результаты достигаются при TDP 400 Вт.



Так как для машинного обучения важна масштабируемость, Tesla разработала специализированный интерфейс с пропускной способностью 10 ТБ/с. Кольцо ввода-вывода включает 576 полос, каждая из которых имеет пропускную способность в 112 ГБит/с. В итоге Tesla может собирать чипы D1 в мультичип сборки по 25 процессоров Tesla D1 в каждой. И такие сборки также можно соединять между собой. Tesla продемонстрировала такую мультичип сборку с процессорами, работающими на частоте 2 ГГц. Производительность такого решения составила 9 PFLOPS (BF16/CFP8).



Также у Tesla есть планы по созданию суперкомпьютера на основе процессоров D1. Система ExaPOD будет собрана из 120 плиток-мультичипсборок с 3000 процессоров на борту. Жрать этот ExaPOD будет по нынешним зелёным временам умерено, всего 1,8 МВт без системы охлаждения :) Итоговая производительность достигнет 1,1 ExaFLOPS (FP16/CFP8). После постройки система будет самым мощным суперкомпьютером для обучения ИИ. В сравнении с нынешними суперкомпьютерами Tesla на основе GPU Nvidia такая система предложит в четыре раза большую производительность и в 1,3 раза большую производительность на ватт при пятикратном снижении занимаемой площади.



Разумеется по сравнению с мегачипами от Cerebras эти самые Tesla D1 по гамбургскому счёту сосут, но они могут оказаться и намного успешнее. Cerebras Wafer Scale Engine Generation 2. Второе поколение WSE содержит 850000 ядер AI, что более чем в два раза превышает их в WSE-1. Число транзисторов увеличивается с 1,2 трлн. до 2,6 трлн. Для сравнения, NVIDIA GA100 GPU содержит 54 млрд. транзисторов на площади 826 мм². Второе поколение WSE производится по 7-нм техпроцессу на заводах TSMC, вместо 16-нм в WSE-1. И по-прежнему чип занимает всю 300-мм подложку.



Весьма вероятно, что цена и выход годных D1 будет лучше чем у WSE-1 и WSE-2.



И глядя на всё это хочется задаться вопросом, а когда все эти мегачипы будут смотрятся также архаично как эта старая советская техника внизу?







ЗЫ Добавить нужно будет пост про мультичип сборки от НИИЦЭВТ как-нибудь.

Tags: "ИИ да AI", hardware history, heavy metal, semiconductors, Первочипы, СБИС БИС ИС, Схемотехника, туя Америка, этот/другой/безумный мир
Subscribe

Posts from This Journal “semiconductors” Tag

  • Байкал или не Байкал?

    Департамент инвестиционной и промышленной политики города Москвы сообщил о том, что в Москве освоено серийное производство материнских плат на…

  • 100 лет со дня рождения Джека Килби, между прочим Сент-Клэра

    После Нобеливки у Килби причёска стала заметно лучше. Джек Сент-Клэр Килби (англ. Jack St. Clair Kilby, 8 ноября 1923 года, Джефферсон-Сити…

  • О Полонии и Интеле

    Сегодня исполнилось 125 лет как открыли химический элемент Полоний (широко печально известный благодаря одному нашему человеку) и 55 лет как основали…

  • World UFO Day

    Сегодня на дворе World UFO Day, который совпадает с Made in the USA Day, а потому на замечание solar_front – " Есть теория,…

  • 75 лет первой открытой публикации о транзисторе

    Прошедшая 30 июня 1948 года в Нью-Йорке "транзисторная" пресс-конференция почти не нашла отклика у приглашённой прессы свободного мира. Но благодаря…

  • 75 лет с первой публичной презентации транзистора

    30 июня 1948 года в Нью-Йорке Ральф Боун, зам. директора по науке американской компании Bell Laboratories продемонстрировал журналистам транзистор. В…

  • The Transistor

    По ту сторону от Диканьки акурат в этот день двести лет назад появилась в Британии у джентельменов хулиганская игра (регби называется), а по эту…

  • 75 лет самому известному транзистору в мире!

    16 декабря 1947 года в опытно-конструкторском подразделении Bell Telephone Laboratories фирмы American Telephone and Telegraph исследователь Уолтер…

  • Внутри CDC Cyber 205

    месячник или скорее уже ежегодник КРЕЯ и КРАСНОГО КРЕЯ (Электроника СС БИС) часть x'71 На дворе сегодня Ведьмин день, это самый страшный…

  • Post a new comment

    Error

    default userpic

    Your reply will be screened

    Your IP address will be recorded 

    When you submit the form an invisible reCAPTCHA check will be performed.
    You must follow the Privacy Policy and Google Terms of use.
  • 35 comments

Posts from This Journal “semiconductors” Tag

  • Байкал или не Байкал?

    Департамент инвестиционной и промышленной политики города Москвы сообщил о том, что в Москве освоено серийное производство материнских плат на…

  • 100 лет со дня рождения Джека Килби, между прочим Сент-Клэра

    После Нобеливки у Килби причёска стала заметно лучше. Джек Сент-Клэр Килби (англ. Jack St. Clair Kilby, 8 ноября 1923 года, Джефферсон-Сити…

  • О Полонии и Интеле

    Сегодня исполнилось 125 лет как открыли химический элемент Полоний (широко печально известный благодаря одному нашему человеку) и 55 лет как основали…

  • World UFO Day

    Сегодня на дворе World UFO Day, который совпадает с Made in the USA Day, а потому на замечание solar_front – " Есть теория,…

  • 75 лет первой открытой публикации о транзисторе

    Прошедшая 30 июня 1948 года в Нью-Йорке "транзисторная" пресс-конференция почти не нашла отклика у приглашённой прессы свободного мира. Но благодаря…

  • 75 лет с первой публичной презентации транзистора

    30 июня 1948 года в Нью-Йорке Ральф Боун, зам. директора по науке американской компании Bell Laboratories продемонстрировал журналистам транзистор. В…

  • The Transistor

    По ту сторону от Диканьки акурат в этот день двести лет назад появилась в Британии у джентельменов хулиганская игра (регби называется), а по эту…

  • 75 лет самому известному транзистору в мире!

    16 декабря 1947 года в опытно-конструкторском подразделении Bell Telephone Laboratories фирмы American Telephone and Telegraph исследователь Уолтер…

  • Внутри CDC Cyber 205

    месячник или скорее уже ежегодник КРЕЯ и КРАСНОГО КРЕЯ (Электроника СС БИС) часть x'71 На дворе сегодня Ведьмин день, это самый страшный…