10-гигабитный Ethernet: советы новичку +59




Вдохновившись интернет-запросами в стиле «как сделать спиннер из картонки», я решил рассказать о том, что близко мне: как самому построить 10-гигабитную сеть. Гигабитный Ethernet вопросов уже не вызывает – справится даже школьник: потребуется коммутатор, медная витая пара и привычные RJ-45 разъемы.

А если хочется больше? Например, 10-гигабитное соединение для небольшого офиса или серверной. Какое оборудование понадобится и как его подключать – просто и по шагам в моей сегодняшней статье.

Выбираем коммутатор


Выбор коммутатора – то, с чего нужно начинать. Конечно, сразу хочется посмотреть в сторону любимого вендора. И если финансы позволяют, выбор очевиден. А если нет? Тогда есть два варианта: идем на eBay или смотрим предложения российской розницы. Здесь будет полезен маркет на nag.ru. Одна из последних находок – коммутатор NetGear на 8 портов стоимостью менее $85 за порт.

Обязательно проверяем находку по форумам – я рекомендую smallnetworkbuilder и reddit. Обращаем внимание на функции, которые коммутатор поддерживает. Не забываем и про такую особенность, как уровень шума, – особенно если выбираем коммутатор для дома.


Коммутатор NetGear на 8 портов.

Если мы выбрали коммутатор с RJ-45 портами, тут все просто: мы ограничены расстоянием в 55 метров с кабелями Cat6 и в 100 метров – с Cat6A. В этом случае используем привычные RJ-45 разъемы, изучаем плюсы и минусы 10GBASE-T и радуемся. Такие коммутаторы подходят для ToR (top-of-the-rack) – использования внутри стоек, когда нет нужды в длинных линках.

Если же мы получили коммутатор в SFP+ портами, то нужно выбрать трансиверы.


Коммутатор с портами SFP+.

Выбираем трансиверы  


SFP+ – это разновидность SFP-разъема, который поддерживает скорости выше 4,25 Гбит/сек и используется для установки трансиверов со скоростями до 10 Гбит/сек (16GB FC). Трансивер, в народе «эсэфпишка» или «gbic», обеспечивает преобразование электрических сигналов в световые и обратно.


Трансивер на 10 Гбит/сек.

К сожалению, SFP+ трансиверы на 10 Гбит/сек с портами RJ-45 встречаются редко и стоят слишком дорого. Поэтому будем использовать оптический кабель.

При выборе трансивера нужно учитывать дальность передачи. Правило «чем больше – тем лучше» здесь не работает:
  • на расстояниях до 300 метров нужны трансиверы с маркировкой SR (short reach),
  • на дистанциях от 300 метров и до 30 км – LR (long reach),
  • а от 30 км до 40 км – ER (extended reach).
У трансиверов с разной дальностью передачи отличается длина волны и мощность излучателя. Для дома или офиса чаще всего достаточно трансивера SR.

Кроме того, от расстояния зависит и тип применяемого оптического кабеля:
  • до 300 м используем multimode (MM, «мультимод»),
  • более 300 м – singlemode (SM, «синглмод»).
В 98% случаев ваш выбор – 10G MM SR LC-трансивер. LC – тип разъемов для подключения оптики. Об этом речь пойдет ниже.


Трансивер на 10 Гбит/сек short reach для оптического кабеля multimode.

Что делать, если вы хотите подключить к SFP+ разъему оборудование на 1 Гбит/сек с портами RJ-45? Не проблема – для этого есть соответствующие трансиверы.


Трансивер на 1 Гбит/сек с разъемом RJ-45.

Есть три момента, в которых легко ошибиться, выбирая трансивер:

  • Трансиверы на 10 Гбит/сек выглядят абсолютно так же, как трансиверы для FC.  
  • Трансиверы производятся разными вендорами, и, к сожалению, вендорская прошивка может быть несовместима с частью оборудования. Можно временно стать хакером и перепрошить трансивер, но тогда вы лишитесь вендорской поддержки. Да и сложность такой операции довольно высокая.
  • Трансиверы могут быть нужны и на стороне вашего Ethernet-адаптера, если они в него не встроены. И у адаптера могут быть другие требования к трансиверу, чем у коммутатора. Читаем документацию на адаптер.

Подключаем оптику


Коммутатор есть, трансиверы есть, еще раз проверяем оптические кабели. Как писал выше, для небольших расстояний подойдет мультимод. Бывает синего, фиолетового или красного цветов. Для больших расстояний, от 300 м, понадобится синглмод. Он, как правило, желтого цвета.
К трансиверу оптоволокно подключается с помощью LC-разъемов.


LC-разъемы для подключения оптики к трансиверу.

Обратите внимание!
Если ваша пара оптики оканчивается дуплексными разъемами, то вы не перепутаете левый и правый оптический провод, или «rx\tx». Один из них используется для приема данных, другой –
для передачи. А вот если разъемы отдельные, то легко перепутать левый провод с правым. Тогда соединение не установится, порт не поднимется. В такой ситуации надо поменять местами провода и попробовать установить соединение снова.
Будьте аккуратны с LC-коннекторами и открытыми торцами оптоволокна в них. Одна пылинка – и ваша сеть не будет работать стабильно. Производители рекомендуют включать каждый LC-разъем только один раз без переподключений.

Протирать тряпочкой и дуть на торцы оптоволокна нельзя!
В исключительных случаях для проведения профилактики можно использовать специальные чистящие средства. Универсальным будет One-Click Cleaner MU/LC. Подходит для очистки оптики и портов с LC-разъемом.


Средство для очистки оптики One-Click Cleaner MU/LC.

Подключение в стойке


Создать 10-гигабитное Ethernet-соединение в пределах стойки или пары стоек можно по-другому. Здесь подойдут DAC-кабели, или твинаксы (twinaxial cable). Твинакс – это медный кабель, соединяющий два SFP+ трансивера. Пассивные твинаксы бывают длиной до 7 метров.


Это твинакс.

Использование твинаксов позволяет сэкономить бюджет. Но кабели эти довольно толстые и жесткие, аккуратный монтаж в стойке большого количества твинаксов очень сложен.

Резюмирую сказанное выше. Для соединения 10-гигабитной Ethernet-карты c портом 10G SFP+ коммутатора дома, в офисе или в стойке серверной вам нужны:

  • пара совместимых с вашим оборудованием SFP+ трансиверов MM SR на 10 Гбит/сек,
  • двухволоконный мультимод с LC-разъемами нужной длины.
Я понимаю, что в этой статье не вывел бином Ньютона. Ее цель – помочь начинающим быстро разобраться в физической коммутации оборудования в 10-гигабитных Ethernet-сетях.

В моей практике несколько раз приходилось помогать довольно опытным системным администраторам с подключением. Не единожды наблюдал примерно следующую картину: в 10-гигабитном порту СХД установлен 10G MM SFP+ трансивер. В него подключен single mode LC LC провод. Другой конец провода приходит в 8G FC трансивер, установленный в FC адаптер сервера. Мало того, что ошибка с типом оптики, так и вообще вся схема логически неверная. «Брат, что ты хотел сделать?» – «Поднять iSCSI.» Вот такая быль из цикла «админы шутят».

UPD: добавлю по вашим комментариям
1) SFP+ трансивер 10Base-T (на витую пару) может стоить $300, а SFP+ на оптику MM $30. Это нужно учитывать при построении инфраструктуры.
2) в трансиверах и модулях на концах твинаксов зашиты определенные прошивки, обеспечивающие совместимость трансиверов с активным оборудованием. Существует возможность смены этих прошивок, при которой вы, конечно, теряете поддержку вендора, но получаете возможность работы оборудования с официально не совместимыми трансиверами.

Буду рад прочитать в комментариях, чего вам не хватает в рамках данной темы. Спасибо!




К сожалению, не доступен сервер mySQL