Новости про HBM3

В настоящее время опытные образцы данных чипов начали поставляться заказчикам. Модули HBM3 являются третьим поколением этой высокоскоростной памяти, после HBM, HBM2 и HBM2E.

В модулях объёмом 24 ГБ разработчики увеличил плотность на 50%, по сравнению с предшествующим поколением, выпущенным в июне прошлого года. Выпуск новой памяти является ответом SK Hynix на высокие требования в сегментах ИИ-чатботов. Данная память будет доступна во второй половине текущего года.

Для увеличения эффективности и производительности своих продуктов инженеры SK Hynix применили технологию Advanced Mass Reflow Molded Underfill (MR-MUF), а также сквозные связи Through Silicon Via (TSV), что позволило на 40% уменьшить толщину чипа DRAM, и общий размер новой микросхемы остался таким же, как был у 16 ГБ чипов.

С момента объявления разработки памяти HBM3 до начала промышленного производства прошло 7 месяцев, что лишь подтверждает ведущую роль компании на этом рынке. С развитием таких передовых технологий, как искусственный интеллект и Big data, крупнейшие мировые компании ищут способы ускорить обработку данных, для чего и требуется максимально быстрая память.

Недавно компания NVIDIA завершила апробацию образцов памяти HBM3 от SK Hynix. В результате память получила подтверждение возможности работы с системами NVIDIA, которые должны поступить в продажу в III квартале. Наиболее ожидаемым и большим ускорителем расчётов станет NVIDIA H100, и именно для него SK Hynix начнёт производство памяти с пропускной способностью 819 ГБ/с.

В октябре SK Hynix сообщила, что увеличит скорость новой 12-Hi (слоёв) памяти HBM3 DRAM до скорости 820 ГБ/с. Теперь же компания уверяет, что скорость будет составлять 896 ГБ/с, о чём она объявила на форуме ISSCC 2022 (IEEE International Solid-State Circuits Conference).

Детали пока не оговариваются, однако в заголовке сессии на конференции указана её скорость. Новые микросхемы также будут состоять из 12 слоёв ёмкостью по 196 Гб (24 ГБ). Высокая скорость будет достигаться за счёт автокалибровки и оптимизации на основе машинного обучения сквозных связей TSV. Также пока не ясно, идёт ли речь о первых прототипах, или же компания всерьёз задумывается о выпуске этих микросхем в продажу.

Первые спецификации HBM3 от SK Hynix должны были обеспечивать скорость в 5,5 Гб/с на контакт (665 ГБ/с суммарно). И уже через несколько месяцев была заявлена скорость в 819 ГБ/с. Теперь же скорость увеличена ещё на 10%, до 7 Гб/с на контакт.

Кроме этого компания также планирует обсудить 27 Гб/с память GDDR6 с технологией Merged-MUX TX, оптимизированной работой WCK и альтернативной шиной данных. Подобная память станет самой быстрой в мире и позволит обойти выпускаемые в настоящее время модули Samsung, имеющих скорость в 24 Гб/с. Память SK Hynix также будет выпускаться в микросхемах объёмом 16 Гб, как и решения GDDR6 от Samsung и GDDR6X от Micron.

Память типа HBM3 сможет обеспечить скорость в 819 ГБ/с и объём 64 ГБ. Для сравнения, память HBM2e, используемая в AMD MI250 обеспечивает вдвое меньшую скорость, 410 ГБ/с, и вчетверо меньший объём, 16 ГБ.

Из восьми стеков MI250 можно собрать модуль на 128 ГБ и 3277 ГБ/с. В то же время 8 стеков HBM3 дадут 512 ГБ и 6552 ГБ/с. При этом пока в мире не существует модулей HBM2e, которые бы отвечали максимальной спецификации.

Кроме этого HBM3 получит удвоение независимых каналов, с 8 до 16, а также получит «псевдоканалы», которые могут создавать до 32 виртуальных каналов.

JEDEC ожидает, что первое поколение продуктов HBM3 появится на рынке в ближайшее время, однако они не будут отвечать максимальным спецификациям. Скорее всего, стоит ждать появления 12-слойных стеков объёмом 2 ГБ.

Эпоха DDR5 только-только началась, а технологические гиганты уже смотрят в будущее. Спецификация памяти DDR6 ещё не разработана JEDEC, однако корейские гигант уже занят её проектированием. Ожидается, что эта память будет работать с пропускной способностью в 12800 Мб/с, а разогнанные модели смогут выдавать до 17000 Мб/с. Кроме того, в DDR6 количество банков памяти будет увеличено в 4 раза, по сравнению с DDR4, до 64. Первые модули типа DDR6 должны появиться в 2024 году.

В ходе мероприятия компания Samsung также рассказала о 1z нм процессе для производства GDDR6, которую она назвала GDDR6+. Этот новый вариант графической памяти сможет развить скорость от 18000 Мб/с до 24000 Мб/с, что на 33% больше, чем у предшественника. На смену GDDR6+ придёт GDDR7, которая получит защиту от ошибок в реальном времени и максимальную скорость передачи данных до 32000 Мб/с.

Говоря о LPDDR6, компания Samsung особое внимания уделила вопросу энергоэффективности, хотя и скорость также должна возрасти. Компания ожидает повысить эффективность примерно на 20%, а скорость передачи данных возрастёт до 17000 Мб/с.

Наконец, компания рассказала о своих планах по производству памяти HBM3 со скоростью 800 ГБ/с и HBM2E с пропускной способностью 450 ГБ/с. Первые модули типа HBM3 южнокорейский гигант должен выпустить во II квартале 2022 года.

Компания SK Hynix официально заявила, что её память HBM3 обеспечивает максимальную скорость передачи данных в 819 ГБ/с.

Таким образом SK Hynix стала первой в мире фирмой, представившей рыночный образец памяти HBM3. Разработчики уверяют, что это самая быстрая память в мире, и скорость её работы на 78% выше, чем у предшественницы HBM2E. Для понимания, 819 ГБ/с — это передача 163 фильмов в FullHD за одну секунду.

Модули новой памяти предлагаются в объёмах 24 ГБ или 16 ГБ. Все они имеют коррекцию ошибок данных благодаря встроенной системе ECC. Модули объёмом 24 ГБ имеют толщину 30 мкм, что в три раза тоньше листа бумаги. Память HBM3 предназначена для высокопроизводительных центров обработки данных и платформ машинного обучения, обеспечивает высокую скорость в задачах искусственного интеллекта и суперкомпьютерах.

По сути, HBM3 является четвёртым поколением этой высокоскоростной памяти. По данным SK Hynix новый стандарт обеспечит производительность в 665 ГБ/с и скорость ввода-вывода на уровне 5,2 Гб/с.

Это значит, что будущая память будет почти на 50% быстрее, чем нынешнее поколение. При этом нам по-прежнему неизвестно, какой высоты будут стеки, также неизвестна плотность ядер и техпроцесс, по которому их будут производить. Не имея этих данных невозможно определить и максимальный объём памяти каждого из этих стеков.

Что касается выпуска HBM3, то, по всей видимости, ждать эту память пока не стоит. Память HBM2E полностью выполняет свои задачи, а значит, современным GPU обновления не нужны.

Дизайнер решений в области памяти отметил, что микросхемы обоих типов при готовности выйти на рынок будут произведены по 7 нм технологии. Таким образом, эти решения в области памяти не появятся раньше 2019 года. При этом конечные спецификации пока не утверждены и в будущем ещё могут измениться.

У Rambus уже есть работающий прототип DDR5. В фирме ожидают, что официальный стандарт будет нацелен на частоту от 4800 МГц до 6400 МГц, что вдвое больше, чем у DDR4.

Слайд также сообщает, что HBM3 вдвое увеличит пропускную способность по сравнению с HBM2, но при этом будет иметь более сложную конструкцию архитектуры.