Ангара (интерконнект): различия между версиями

Материал из Википедии — свободной энциклопедии
Перейти к навигации Перейти к поиску
[отпатрулированная версия][непроверенная версия]
Содержимое удалено Содержимое добавлено
Метки: с мобильного устройства из мобильной версии
м Проект:Check Wikipedia → middle priority → Раздел без содержимого, replaced: == Протоколы и API == == История == → == История ==
 
(не показано 9 промежуточных версий 9 участников)
Строка 1: Строка 1:
{{Другие значения}}
{{Другие значения}}


'''Ангара''' — высокоскоростная отказоустойчивая [[Сетевой коммутатор|коммутируемая]] [[компьютерная сеть]], используемая в высокопроизводительных вычислениях с большой [[пропускная способность|пропускной способностью]] и низкой задержкой приёма/передачи пакетов. Используется в высокопроизводительных коммутаторах и для прямого соединения суперкомпьютерных вычислительных узлов<ref>[https://servernews.ru/931123 ПаВТ 2016: Высокоскоростная сеть «Ангара» для суперкомпьютеров и кластеров сделано в России / ServerNews<!-- Заголовок добавлен ботом -->]</ref>. [[Карта расширения|Контроллеры]] Ангара (''[[HBA|host bus adapter]]'') и [[Сетевой коммутатор|сетевые коммутаторы]] спроектированы и производятся в [[НИЦЭВТ]]<ref>http://angara.nicevt.ru</ref><ref>{{Cite web |url=http://www.nicevt.ru/production/computer-engineering/angara |title=Архивированная копия |accessdate=2019-09-21 |archiveurl=https://web.archive.org/web/20190916062710/http://www.nicevt.ru/production/computer-engineering/angara |archivedate=2019-09-16 |deadlink=yes }}</ref>, входящей в холдинг «[[Росэлектроника]]».
'''Ангара''' — высокоскоростная отказоустойчивая [[Сетевой коммутатор|коммутируемая]] [[компьютерная сеть]], используемая в высокопроизводительных вычислениях с большой [[пропускная способность|пропускной способностью]] и низкой задержкой приёма/передачи пакетов. Используется в высокопроизводительных коммутаторах и для прямого соединения суперкомпьютерных вычислительных узлов<ref>{{Cite web |url=https://servernews.ru/931123 |title=ПаВТ 2016: Высокоскоростная сеть «Ангара» для суперкомпьютеров и кластеров — сделано в России / ServerNews<!-- Заголовок добавлен ботом --> |access-date=2019-09-21 |archive-date=2019-09-22 |archive-url=https://web.archive.org/web/20190922105100/https://servernews.ru/931123 |deadlink=no }}</ref>. [[Карта расширения|Контроллеры]] Ангара (''[[HBA|host bus adapter]]'') и [[Сетевой коммутатор|сетевые коммутаторы]] спроектированы и производятся в [[НИЦЭВТ]]<ref>{{Cite web |url=http://angara.nicevt.ru/ |title=Архивированная копия |access-date=2019-09-22 |archive-date=2019-09-13 |archive-url=https://web.archive.org/web/20190913235709/http://angara.nicevt.ru/ |deadlink=no }}</ref><ref>{{Cite web |url=http://www.nicevt.ru/production/computer-engineering/angara |title=Архивированная копия |accessdate=2019-09-21 |archiveurl=https://web.archive.org/web/20190916062710/http://www.nicevt.ru/production/computer-engineering/angara |archivedate=2019-09-16 |deadlink=yes }}</ref>, входящей в холдинг «[[Росэлектроника]]».


В качестве коммуникационной сети [[Кластер (группа компьютеров)|кластеров]] Ангара конкурирует со стандартами [[Ethernet]] и [[InfiniBand]], а также проприетарными технологиями, например, компаний [[Cray]] и [[IBM]].
В качестве коммуникационной сети [[Кластер (группа компьютеров)|кластеров]] Ангара конкурирует со стандартами [[Ethernet]] и [[InfiniBand]], а также проприетарными технологиями, например, компаний [[Cray]] и [[IBM]]. Производительность: 75 Гбит/c (7,5 ГБ/c)<ref name="автоссылка1"/>.


== Описание ==
== Описание ==
Высокоскоростная отказоустойчивая коммуникационная сеть Ангара (серия ЕС843Х) имеет топологию «многомерный тор» и создана на базе отечественной СБИС. Сеть Ангара совместима с коммерчески доступными вычислительными платформами на базе процессоров с архитектурами [[X86|х86]], [[ARM (архитектура)|ARM]] и [[Эльбрус (компьютер)|Эльбрус]], а также с аппаратными ускорителями на основе [[Графический процессор|GPU]] и [[ПЛИС|FPGA]].
Высокоскоростная отказоустойчивая коммуникационная сеть Ангара (серия ЕС843Х) имеет топологию «многомерный тор» и создана на базе российской СБИС. Сеть Ангара совместима с коммерчески доступными вычислительными платформами на базе процессоров с архитектурами [[X86|х86]], [[ARM (архитектура)|ARM]] и [[Эльбрус (компьютер)|Эльбрус]], а также с аппаратными ускорителями на основе [[Графический процессор|GPU]] и [[ПЛИС|FPGA]].


Высокопроизводительная вычислительная платформа Ангара — базовый элемент для построения энергоэффективных масштабируемых вычислительных кластеров и суперкомпьютеров с высокой плотностью компоновки. Платформы серии ЕС1740.000х разработаны и серийно выпускаются на производственных мощностях АО «НИЦЭВТ». Технические и технологические решения, использованные при разработке платформы, обеспечивают высокую реальную производительность, надежность и отказоустойчивость вычислительной системы.
Высокопроизводительная вычислительная платформа Ангара — базовый элемент для построения энергоэффективных масштабируемых вычислительных кластеров и суперкомпьютеров с высокой плотностью компоновки. Платформы серии ЕС1740.000х разработаны и серийно выпускаются на производственных мощностях АО «НИЦЭВТ». Технические и технологические решения, использованные при разработке платформы, обеспечивают высокую реальную производительность, надежность и отказоустойчивость вычислительной системы.
Строка 24: Строка 24:


Варианты исполнения:
Варианты исполнения:
# Высокопроизводительное решение на базе FHFL адаптера и Samtec HDLSP кабеля
# Высокопроизводительное решение на базе FHFL-адаптера и Samtec HDLSP кабеля
# Универсальное решение на базе 24-портового коммутатора, low-profile адаптера и CXP кабеля
# Универсальное решение на базе 24-портового коммутатора, low-profile адаптера и CXP кабеля
# Заказное решение на базе объединительной платы и оптических кабелей
# Заказное решение на базе объединительной платы и оптических кабелей
Строка 42: Строка 42:
** Core 1,0 В ± 5 %
** Core 1,0 В ± 5 %
** I/O 2,5 В ± 10 %
** I/O 2,5 В ± 10 %
* Температурный диапазон 0—70 °C
* Температурный диапазон 0—70&nbsp;°C
* Корпус FCBGA-1521 размером 40×40 мм
* Корпус FCBGA-1521 размером 40×40 мм


== Топология и соединения ==
== Топология и соединения ==
Поддерживаемые топологии: кольцо, 2D, 3D, 4D-top (решётка).

Применяются сетевые PCI-E 2.0 адаптер EC8430, ЕС8431, EC8432 и коммутаторы EC8433 c портами CXP, а также кабеля типа Samtec для физического соединения.


== Производительность ==
== Производительность ==
Ангара ЕС8430
Ангара ЕС8430, EC8431, EC8432
* соединение: 75 Гбит/c (7,5 ГБ/c)<ref name="автоссылка1">http://2013.nscf.ru/TesisAll/Section%201/12_2761_SimonovAS_S1.pdf{{Недоступная ссылка|date=Март 2020 |bot=InternetArchiveBot }} {{Архивировано|url=https://archive.org/download/12-2761-simonov-as-s-1_202007/12_2761_SimonovAS_S1.pdf|date=2020-07-19}}</ref>
* соединение: 75 Гбит/c (7,5 ГБ/c)<ref name="автоссылка1">http://2013.nscf.ru/TesisAll/Section%201/12_2761_SimonovAS_S1.pdf{{Недоступная ссылка|date=Март 2020 |bot=InternetArchiveBot }} {{Архивировано|url=https://archive.org/download/12-2761-simonov-as-s-1_202007/12_2761_SimonovAS_S1.pdf|date=2020-07-19}}</ref>
* агрегатная: 1,2 Тбит/c (120 ГБ/c)<ref name="автоссылка1" />
* агрегатная: 1,2 Тбит/c (120 ГБ/c)<ref name="автоссылка1" />

== Протоколы и API ==


== История ==
== История ==
Первое поколение «Ангары» выпущено в 2016 году, когда «[[Объединенная приборостроительная корпорация]]», входящая в состав «Ростеха», разработала сетевой адаптер, предназначенный для соединения вычислительных кластеров. Адаптер представлял собой плату с интерфейсом PCI Express х16, оснащённую сверхбольшой интегральной схемой (СБИС).<ref>https://finance.rambler.ru/economics/36718333-roselektronika-nachala-postavki-kommunikatsionnyh-adapterov-angara/</ref>
Первое поколение «Ангары» выпущено в 2016 году, когда «[[Объединенная приборостроительная корпорация]]», входящая в состав «[[Ростех]]а», разработала сетевой адаптер, предназначенный для соединения вычислительных кластеров. Адаптер представлял собой плату с интерфейсом PCI Express х16, оснащённую сверхбольшой интегральной схемой (СБИС).<ref>[https://finance.rambler.ru/economics/36718333-roselektronika-nachala-postavki-kommunikatsionnyh-adapterov-angara/ «Росэлектроника» начала поставки коммуникационных адаптеров «Ангара» — Рамблер/финансы<!-- Заголовок добавлен ботом -->]</ref>


В 2018 году «Росэлектроника» представила второе поколение сети, в котором скорость передачи данных между подключенными компьютерами выросла в три раза по сравнению с первым поколением.<ref>[http://www.cnews.ru/news/top/2018-07-23_v_rossii_razrabotali_sistemu_dlya_sozdaniya_superkompyuterov В России разработали «систему для создания суперкомпьютеров в домашних условиях» - CNews<!-- Заголовок добавлен ботом -->]</ref>
В 2018 году «Росэлектроника» представила второе поколение сети, в котором скорость передачи данных между подключенными компьютерами выросла в три раза по сравнению с первым поколением.<ref>{{Cite web |url=http://www.cnews.ru/news/top/2018-07-23_v_rossii_razrabotali_sistemu_dlya_sozdaniya_superkompyuterov |title=В России разработали «систему для создания суперкомпьютеров в домашних условиях» — CNews<!-- Заголовок добавлен ботом --> |access-date=2019-09-21 |archive-date=2019-09-02 |archive-url=https://web.archive.org/web/20190902042126/http://www.cnews.ru/news/top/2018-07-23_v_rossii_razrabotali_sistemu_dlya_sozdaniya_superkompyuterov |deadlink=no }}</ref>


== Применение ==
== Применение ==
[[Объединённый институт высоких температур РАН]]:
[[Объединённый институт высоких температур РАН]]:
* Суперкомпьютер «Десмос» из 32 гибридных (CPU + GPU) вычислительных узлов. Сеть Ангара в конфигурации 4D-тор 4х2х2х2. Общая производительность суперкомпьютера — 52,24 Тфлоп/с<ref>[http://top50.supercomputers.ru/systems/5295 Top50 | Суперкомпьютеры<!-- Заголовок добавлен ботом -->]</ref>
* Суперкомпьютер «Десмос» из 32 гибридных (CPU + GPU) вычислительных узлов. Сеть Ангара в конфигурации 4D-тор 4х2х2х2. Общая производительность суперкомпьютера — 52,24 Тфлоп/с<ref>{{Cite web |url=http://top50.supercomputers.ru/systems/5295 |title=Top50 {{!}} Суперкомпьютеры<!-- Заголовок добавлен ботом --> |access-date=2019-09-22 |archive-date=2019-09-22 |archive-url=https://web.archive.org/web/20190922105056/http://top50.supercomputers.ru/systems/5295 |deadlink=no }}</ref>
* Суперкомпьютер «Фишер» из 24 вычислительных узлов. Узлы объединены коммуникационной сетью «Ангара» в коммутаторном исполнении. Пиковая производительность составляет 13,5 Тфлоп/с<ref>[https://servernews.ru/994318 НИЦЭВТ и «Скирус» создали модульный суперкомпьютер «Фишер» для Российской академии наук / ServerNews<!-- Заголовок добавлен ботом -->]</ref>
* Суперкомпьютер «Фишер»<ref>{{Cite web|url=https://rostec.ru/news/rostekh-sozdal-modulnyy-superkompyuter-fisher-dlya-rossiyskoy-akademii-nauk/|title=Ростех создал модульный суперкомпьютер «Фишер» для Российской академии наук|website=rostec.ru|access-date=2024-03-14}}</ref> из 24 вычислительных узлов. Узлы объединены коммуникационной сетью «Ангара» в коммутаторном исполнении. Пиковая производительность составляет 13,5 Тфлоп/с<ref>{{Cite web |url=https://servernews.ru/994318 |title=НИЦЭВТ и «Скирус» создали модульный суперкомпьютер «Фишер» для Российской академии наук / ServerNews<!-- Заголовок добавлен ботом --> |access-date=2019-09-22 |archive-date=2019-09-22 |archive-url=https://web.archive.org/web/20190922105049/https://servernews.ru/994318 |deadlink=no }}</ref>


[[НИЦЭВТ|Научно-исследовательский центр электронной вычислительной техники]]<ref>[http://angara.nicevt.ru/angaraK1/#x1-40003 Руководство пользователя кластера Ангара-К1<!-- Заголовок добавлен ботом -->]</ref>:
[[НИЦЭВТ|Научно-исследовательский центр электронной вычислительной техники]]<ref>{{Cite web |url=http://angara.nicevt.ru/angaraK1/#x1-40003 |title=Руководство пользователя кластера Ангара-К1<!-- Заголовок добавлен ботом --> |access-date=2019-09-22 |archive-date=2019-09-16 |archive-url=https://web.archive.org/web/20190916065256/http://angara.nicevt.ru/angaraK1/#x1-40003 |deadlink=no }}</ref>:
* Кластер «Ангара-К1» из 36 вычислительных узлов, которые объединены сетью Ангара с топологией 3D-тор 4×3×3. Пиковая производительность кластера — 6,998 Тфлоп/с<ref>https://www.dislab.org/docs/rsd2016-angara-bench.pdf</ref>
* Кластер «Ангара-К1» из 36 вычислительных узлов, которые объединены сетью Ангара с топологией 3D-тор 4×3×3. Пиковая производительность кластера — 6,998 Тфлоп/с<ref>{{Cite web |url=https://www.dislab.org/docs/rsd2016-angara-bench.pdf |title=Архивированная копия |access-date=2019-09-22 |archive-date=2019-09-22 |archive-url=https://web.archive.org/web/20190922105054/https://www.dislab.org/docs/rsd2016-angara-bench.pdf |deadlink=no }}</ref>
Омский НИИ приборостроения и компания Промобит (BITBLAZE):
Омский НИИ приборостроения и компания Промобит (BITBLAZE):


* [[Система хранения данных|Системы хранения данных]] на процессорах [[Эльбрус (процессорная архитектура)|Эльбрус]] с использованием сети Ангара<ref>http://kvnews.ru/news-feed/123221</ref>
* [[Система хранения данных|Системы хранения данных]] на процессорах [[Эльбрус (процессорная архитектура)|Эльбрус]] с использованием сети Ангара<ref>{{Cite web |url=http://kvnews.ru/news-feed/123221 |title=Максим КОПОСОВ, «Промобит»: «Российский „Эльбрус“ при более низкой тактовой частоте может достигать той же производительности, как процессор Intel при более высокой» |access-date=2020-10-24 |archive-date=2020-10-22 |archive-url=https://web.archive.org/web/20201022122338/http://kvnews.ru/news-feed/123221 |deadlink=no }}</ref>


== См. также ==
== См. также ==
* {{нп3|RoCE||en|RDMA over Converged Ethernet}}
* {{нп3|RoCE||en|RDMA over Converged Ethernet}}
* {{нп3|iWARP||en|iWARP}}
* [[iWARP]]
* [[RapidIO]]
* [[RapidIO]]
* [[Omni-Path]]
* [[Omni-Path]]
Строка 78: Строка 79:


== Примечания ==
== Примечания ==
{{примечания|2}}
{{примечания}}


{{Компьютерные шины}}
{{Компьютерные шины}}

Текущая версия от 21:41, 8 августа 2024

Ангара — высокоскоростная отказоустойчивая коммутируемая компьютерная сеть, используемая в высокопроизводительных вычислениях с большой пропускной способностью и низкой задержкой приёма/передачи пакетов. Используется в высокопроизводительных коммутаторах и для прямого соединения суперкомпьютерных вычислительных узлов[1]. Контроллеры Ангара (host bus adapter) и сетевые коммутаторы спроектированы и производятся в НИЦЭВТ[2][3], входящей в холдинг «Росэлектроника».

В качестве коммуникационной сети кластеров Ангара конкурирует со стандартами Ethernet и InfiniBand, а также проприетарными технологиями, например, компаний Cray и IBM. Производительность: 75 Гбит/c (7,5 ГБ/c)[4].

Высокоскоростная отказоустойчивая коммуникационная сеть Ангара (серия ЕС843Х) имеет топологию «многомерный тор» и создана на базе российской СБИС. Сеть Ангара совместима с коммерчески доступными вычислительными платформами на базе процессоров с архитектурами х86, ARM и Эльбрус, а также с аппаратными ускорителями на основе GPU и FPGA.

Высокопроизводительная вычислительная платформа Ангара — базовый элемент для построения энергоэффективных масштабируемых вычислительных кластеров и суперкомпьютеров с высокой плотностью компоновки. Платформы серии ЕС1740.000х разработаны и серийно выпускаются на производственных мощностях АО «НИЦЭВТ». Технические и технологические решения, использованные при разработке платформы, обеспечивают высокую реальную производительность, надежность и отказоустойчивость вычислительной системы.

Ключевые особенности сети Ангара:

  • Топология сети: 1D—4D-тор
  • Адаптер на базе СБИС
  • До 8 каналов связи с соседними узлами
  • Прямой доступ в память удаленного узла (RDMA)
  • Поддержка многоядерности
  • Адаптивная передача пакетов
  • Задержка на MPI ping-pong: 0,85/1,54 мкс (x86/Эльбрус-8С)
  • Задержка на хоп: 130 нс
  • Масштабирование: до 32 тысяч узлов
  • Энергопотребление: до 20 Вт
  • Различные физические среды передачи данных

Варианты исполнения:

  1. Высокопроизводительное решение на базе FHFL-адаптера и Samtec HDLSP кабеля
  2. Универсальное решение на базе 24-портового коммутатора, low-profile адаптера и CXP кабеля
  3. Заказное решение на базе объединительной платы и оптических кабелей

Характеристики СБИС ЕС8430:

  • Техпроцесс TSMC 65 нм GP
  • Размер кристалла 13×10,5 мм
  • Кол-во транзисторов 180 млн
  • Частота 500 МГц
  • TDP 36 Вт
  • Интерфейсы:
    • GEN II PCI-E x16 (5,0 Гб/с на линию, 80 Гб/с на один коннект)
    • Links x8 (1-12 линий/соединение 3,125—6,25 Гб/с на линию, макс. 75 Гб/с на соединение в каждом направлении, всего макс. 600 Гб/с)
    • DDR3 SDRAM 8,5 ГБ/с (72 бит, 1066 MT/с)
  • Электропитание:
    • SerDes 1,0 В ± 5 %
    • Core 1,0 В ± 5 %
    • I/O 2,5 В ± 10 %
  • Температурный диапазон 0—70 °C
  • Корпус FCBGA-1521 размером 40×40 мм

Топология и соединения

[править | править код]

Поддерживаемые топологии: кольцо, 2D, 3D, 4D-top (решётка).

Применяются сетевые PCI-E 2.0 адаптер EC8430, ЕС8431, EC8432 и коммутаторы EC8433 c портами CXP, а также кабеля типа Samtec для физического соединения.

Производительность

[править | править код]

Ангара ЕС8430, EC8431, EC8432

  • соединение: 75 Гбит/c (7,5 ГБ/c)[4]
  • агрегатная: 1,2 Тбит/c (120 ГБ/c)[4]

Первое поколение «Ангары» выпущено в 2016 году, когда «Объединенная приборостроительная корпорация», входящая в состав «Ростеха», разработала сетевой адаптер, предназначенный для соединения вычислительных кластеров. Адаптер представлял собой плату с интерфейсом PCI Express х16, оснащённую сверхбольшой интегральной схемой (СБИС).[5]

В 2018 году «Росэлектроника» представила второе поколение сети, в котором скорость передачи данных между подключенными компьютерами выросла в три раза по сравнению с первым поколением.[6]

Применение

[править | править код]

Объединённый институт высоких температур РАН:

  • Суперкомпьютер «Десмос» из 32 гибридных (CPU + GPU) вычислительных узлов. Сеть Ангара в конфигурации 4D-тор 4х2х2х2. Общая производительность суперкомпьютера — 52,24 Тфлоп/с[7]
  • Суперкомпьютер «Фишер»[8] из 24 вычислительных узлов. Узлы объединены коммуникационной сетью «Ангара» в коммутаторном исполнении. Пиковая производительность составляет 13,5 Тфлоп/с[9]

Научно-исследовательский центр электронной вычислительной техники[10]:

  • Кластер «Ангара-К1» из 36 вычислительных узлов, которые объединены сетью Ангара с топологией 3D-тор 4×3×3. Пиковая производительность кластера — 6,998 Тфлоп/с[11]

Омский НИИ приборостроения и компания Промобит (BITBLAZE):

Примечания

[править | править код]
  1. ПаВТ 2016: Высокоскоростная сеть «Ангара» для суперкомпьютеров и кластеров — сделано в России / ServerNews. Дата обращения: 21 сентября 2019. Архивировано 22 сентября 2019 года.
  2. Архивированная копия. Дата обращения: 22 сентября 2019. Архивировано 13 сентября 2019 года.
  3. Архивированная копия. Дата обращения: 21 сентября 2019. Архивировано из оригинала 16 сентября 2019 года.
  4. 1 2 3 http://2013.nscf.ru/TesisAll/Section%201/12_2761_SimonovAS_S1.pdf (недоступная ссылка) Архивировано 19 июля 2020 года.
  5. «Росэлектроника» начала поставки коммуникационных адаптеров «Ангара» — Рамблер/финансы
  6. В России разработали «систему для создания суперкомпьютеров в домашних условиях» — CNews. Дата обращения: 21 сентября 2019. Архивировано 2 сентября 2019 года.
  7. Top50 | Суперкомпьютеры. Дата обращения: 22 сентября 2019. Архивировано 22 сентября 2019 года.
  8. Ростех создал модульный суперкомпьютер «Фишер» для Российской академии наук. rostec.ru. Дата обращения: 14 марта 2024.
  9. НИЦЭВТ и «Скирус» создали модульный суперкомпьютер «Фишер» для Российской академии наук / ServerNews. Дата обращения: 22 сентября 2019. Архивировано 22 сентября 2019 года.
  10. Руководство пользователя кластера Ангара-К1. Дата обращения: 22 сентября 2019. Архивировано 16 сентября 2019 года.
  11. Архивированная копия. Дата обращения: 22 сентября 2019. Архивировано 22 сентября 2019 года.
  12. Максим КОПОСОВ, «Промобит»: «Российский „Эльбрус“ при более низкой тактовой частоте может достигать той же производительности, как процессор Intel при более высокой». Дата обращения: 24 октября 2020. Архивировано 22 октября 2020 года.