Моя сетевая инфраструктура: различия между версиями
Владимир (обсуждение | вклад) мНет описания правки |
Владимир (обсуждение | вклад) мНет описания правки |
||
| (не показаны 4 промежуточные версии этого же участника) | |||
| Строка 1: | Строка 1: | ||
== Этап первый. == | |||
Описывается инфраструктура моей сети и то, как она организована. | Описывается инфраструктура моей сети и то, как она организована. | ||
Делается как инструкция для самого себя. Так как разрослась, и уже в голове не удержать все нюансы. Также описана пошагово установка и настройка всего. | Делается как инструкция для самого себя. Так как разрослась, и уже в голове не удержать все нюансы. Также описана пошагово установка и настройка всего. | ||
===Состав=== | |||
*[[Сервер Proxmox]] | |||
*[[Облачный сервер Nextcloud]] | |||
*Nginx прокси сервер | |||
*Файловый сервер SMB | |||
*Plex media server | |||
*Zabbix | |||
*[[Установка MediaWiki|Сервис MediaWiki]] | |||
<br /> | |||
===Введение=== | ===Введение=== | ||
[[Файл:Фото_моего_севера.jpg|альт=| | [[Файл:Фото_моего_севера.jpg|альт=|мини|Фото сервера]] | ||
Есть некий сервер. Задача которого стоять на полочке, быть домашним, совершенно беззвучным, потреблять не более 15 ватт. | Есть некий сервер. Задача которого стоять на полочке, быть домашним, совершенно беззвучным, потреблять не более '''15 ватт'''. | ||
Выбор не пал на специальные платы с распаянным центральным процессором, хоть и казалось, что это вариант. Но выявилось не мало ограничений. Низкая производительность, мало портов [https://ru.wikipedia.org/wiki/SATA SATA], требуется специальный корпус, цена за производительность. | |||
В итоге решено собрать на базе [https://ru.wikipedia.org/wiki/%D0%9D%D0%B0%D1%81%D1%82%D0%BE%D0%BB%D1%8C%D0%BD%D1%8B%D0%B9_%D0%BA%D0%BE%D0%BC%D0%BF%D1%8C%D1%8E%D1%82%D0%B5%D1%80 десктопного] [https://ru.wikipedia.org/wiki/%D0%A1%D0%BE%D0%BA%D0%B5%D1%82_(%D0%BF%D1%80%D0%BE%D0%B3%D1%80%D0%B0%D0%BC%D0%BC%D0%BD%D1%8B%D0%B9_%D0%B8%D0%BD%D1%82%D0%B5%D1%80%D1%84%D0%B5%D0%B9%D1%81) сокета]. Выбор пал на '''[https://ark.intel.com/content/www/ru/ru/ark/products/90741/intel-celeron-processor-g3900-2m-cache-2-80-ghz.html Intel Celeron G3900]''', был под рукой, от "[https://ru.wikipedia.org/wiki/%D0%9C%D0%B0%D0%B9%D0%BD%D0%B8%D0%BD%D0%B3 майнеров]". На сайте производителя хоть и указан [https://ru.wikipedia.org/wiki/%D0%A2%D1%80%D0%B5%D0%B1%D0%BE%D0%B2%D0%B0%D0%BD%D0%B8%D1%8F_%D0%BA_%D1%81%D0%B8%D1%81%D1%82%D0%B5%D0%BC%D0%B5_%D0%BE%D1%85%D0%BB%D0%B0%D0%B6%D0%B4%D0%B5%D0%BD%D0%B8%D1%8F_%D0%BF%D1%80%D0%BE%D1%86%D0%B5%D1%81%D1%81%D0%BE%D1%80%D0%B0 тепловой пакет] 51 ватт. Тесты указывают на то, что этот [https://ru.wikipedia.org/wiki/%D0%A6%D0%B5%D0%BD%D1%82%D1%80%D0%B0%D0%BB%D1%8C%D0%BD%D1%8B%D0%B9_%D0%BF%D1%80%D0%BE%D1%86%D0%B5%D1%81%D1%81%D0%BE%D1%80 ЦП] не потребляет более 16 ватт в нагрузке. | |||
[https://ru.wikipedia.org/wiki/%D0%9C%D0%B0%D1%82%D0%B5%D1%80%D0%B8%D0%BD%D1%81%D0%BA%D0%B0%D1%8F_%D0%BF%D0%BB%D0%B0%D1%82%D0%B0 Материнская плата] взята самая дешёвая, что была на данный [https://ru.wikipedia.org/wiki/%D0%A1%D0%BE%D0%BA%D0%B5%D1%82_(%D0%BF%D1%80%D0%BE%D0%B3%D1%80%D0%B0%D0%BC%D0%BC%D0%BD%D1%8B%D0%B9_%D0%B8%D0%BD%D1%82%D0%B5%D1%80%D1%84%D0%B5%D0%B9%D1%81) сокет] формата [https://ru.wikipedia.org/wiki/Mini-ITX mITX]. 8 гигабайт [https://ru.wikipedia.org/wiki/%D0%9E%D0%BF%D0%B5%D1%80%D0%B0%D1%82%D0%B8%D0%B2%D0%BD%D0%B0%D1%8F_%D0%BF%D0%B0%D0%BC%D1%8F%D1%82%D1%8C оперативной памяти] DDR4 с [https://aliexpress.ru/ Ali], также самый дешёвой [https://ru.wikipedia.org/wiki/%D0%A2%D0%B2%D0%B5%D1%80%D0%B4%D0%BE%D1%82%D0%B5%D0%BB%D1%8C%D0%BD%D1%8B%D0%B9_%D0%BD%D0%B0%D0%BA%D0%BE%D0%BF%D0%B8%D1%82%D0%B5%D0%BB%D1%8C SSD] [https://ru.wikipedia.org/wiki/SATA SATA] накопитель на 120 гигабайт, что был, который совместим со [https://ru.wikipedia.org/wiki/M.2 слотом M2], под систему. Корпус очень интересного внешнего вида на удивление дешевый и качественный. К такому корпусу нужен Pico PSU блок питания. Это преобразователь с 12 вольт на [https://ru.wikipedia.org/wiki/%D0%9A%D0%BE%D0%BC%D0%BF%D1%8C%D1%8E%D1%82%D0%B5%D1%80%D0%BD%D1%8B%D0%B9_%D0%B1%D0%BB%D0%BE%D0%BA_%D0%BF%D0%B8%D1%82%D0%B0%D0%BD%D0%B8%D1%8F стандарт питания] [https://ru.wikipedia.org/wiki/ATX ATX]. И внешний блок питания на 60 ватт 12 вольт. | |||
[[Файл:Фото открытого сервера .jpg|мини|Фото в открытом состоянии|альт=]] | |||
Система охлаждения очень странная. По расчету она должна была работать на малых оборотах, не слышно. Но оказалась совсем не бесшумной. Это радиатор, состоящий из пластин и крыльчатки из алюминия. Было принято решение, поставить в БИОСе порог включения вентилятора - включать минимальные обороты при достижении 65 градусов. Оказалось, что до таких температур процессор ни разу не прогрелся. | |||
Это именно сервер, на котором все крутится. Сейчас он включен. | |||
Далее идёт система хранения, в корпус следом ставится SSD на 1 терабайт. Почему не HDD? Во-первых, дисковый накопитель не является бесшумным, во-вторых, на момент сборки в Китае SSD нужной ёмкости можно взять на 20 - 30 процентов дороже дискового накопителя. Взамен получаем полное отсутствие подвижных компонентов в сервере. А это чего да стоит. | |||
Дорого - не поспоришь, но за компактность и малое энергопотребление, а вследствие отсутствие активного охлаждения нужно переплачивать. | |||
Изначально это было только облако. То есть стояла ubuntu server (версия без оболочки) и все работало на отлично. Мониторинг показал, что в 99 процентах случаях Celeron нагружен на 0 процентов. Потому что спрос на собственное облако небольшой, 2 - 3 клиента максимум. Негоже технике простаивать. | |||
Решено подгрузить к данному серверу ещё пару тройку задач. | |||
Теперь о них: | |||
[[Файл:Фотография одного из накопителей.jpg|мини|Фот одного из накопителей|альт=]] | |||
Имеется некое хранилище для фильмов, если конкретно, то Blu ray Remux коллекция, UHD если таковые имеются. Файлы от 20 до 70 гигабайт, несколько сотен. К этому еще несколько десятков сериалов. | |||
Для такой задачи приобретен накопитель Энтерпрайз класса Toshiba [MG07ACA12TE]. Серверный накопитель на 12 терабайт. Как ни странно, но линейки начиная от ёмкости более 10 терабайт, имеют очень невысокое энергопотребление. Другими словами энергоэффективные. В сравнении, даже с WD Blue на 1 терабайт, первый потребляет на 30 процентов меньше. Удивительно не правда ли? Технически это самый дешевый дисковый накопитель на 12 терабайт, что есть на рынке. | |||
Как ни странно, было решено поставить такой дисковый накопитель в кейс для 3.5 накопителей. Подключение к серверу осуществлять через USB 3.0. Благо МП имеет в себе несколько портов. Скорость передачи данных отличная, она явно больше, чем возможности самого накопителя 220 - 240 мегабайт. | |||
Подразумевается следующий режим работы или сценарий: | |||
Есть домашняя локальная сеть, 2 - 3 клиента. Потребности которых получить фильм или сериал по средствам - зашел в папку, открыл и начал смотреть или зашел в приложение Plex, начал смотреть в нем. | |||
Самый главный нюанс. Plex работает именно в режиме прямого декодирования. То есть, кодирования контента нет. Это не ограничение для меня, а фишка. Так как я бы не хранил Remux версии фильмов если бы знал, что смотреть будут после кодирования. Требуется просмотр именно исходника. Поэтому производительности Celeron хватает для такой задачи. Все что ему нужно делать это передавать данные. Так же "зашел в приложение Plex" — это конкретное указание на версию не в браузере. Так как браузер попросту не позволяет воспроизвести исходник закодированный в HEVC, VC1 и VP9, что применяется в 95 процентах случаях с UHD видео. | |||
[[Файл:Скрин представления Plex.jpg|мини|Представление Plex|альт=]] | |||
В итоге получается 2 дополнительных сервера SMB для предоставления сетевого доступа к папке Windows клиентам и Plex. | |||
Дополнение: | |||
*Возникала потребность в мониторинге. Сервер Zabbix | |||
*Чтобы все это красиво описывать, пригодился сервер MediaWiki | |||
'''Теперь по факту:''' | |||
Крутиться это все в гипервизоре Proxmox. (Операционная система для операционных систем). Основа на Debian - поэтому команды все выполняются как обычно. | |||
Корпус: PowerCool M101-U3S - 1237 рублей (НИКС) | |||
Центральный процессор: Intel Celeron G3900 - 1000 рублей | |||
Материнская плата: GIGABYTE GA-H110N (rev. 1.0) - 4 602 рублей (НИКС) | |||
Оперативная память: Reeinno DDR4 8GB 2400 МГц - 2409 рублей (AIi Express) | |||
Накопитель под систему: SSD M2 SATA Kingston A400 120 ГБ - 1620 рублей (НИКС) | |||
Кулер процессора: Thermaltake Engine 17 - 1030 рублей (ОНЛАЙН ТРЕЙД) | |||
Накопитель под облако: Netac SATA 2.5 SSD N500S 960GB - 4204 рубля (AIi Express) | |||
Блок питания: Pico PSU RGEEK RG150D - 800 рублей (Авито) | |||
Блок питания: 12 вольт 5 ампер - 600 рублей (Авито) | |||
Накопитель под файловый сервер: | |||
12 ТБ Жесткий диск Toshiba [MG07ACA12TE] - 21399 рублей (DNS) | |||
3.5" Внешний бокс AGE STAR 3UB3A8-6G - 2050 рублей (DNS) | |||
'''Итого:''' | |||
Сервер под облако 17 502 рубля. | |||
Файлохранилище 23449 рублей. | |||
'''Всего''' 40951 рубль. | |||
== Этап второй == | |||
[[Файл:Фото мини сервера этап второй 01.jpg|мини|Фото мини сервера в сборе]] | |||
В конечном счете 12 ТБ стало не хватать. Также стало понятно, что нужно резервировать информацию. Так как слишком много сил и времени было потрачено. | |||
Также имелся в наличии Seagate barracuda exos 8TB, представитель накопителей с черепичной записью. | |||
Как показала практика, нахождение накопителя в кейсе, долгое время приводит к нагреву, не критичному, но в моменты длительных нагрузок это заметно. Что может в итоге сильно повлиять на срок службы. | |||
Но самым большим недостатком является именно шум и вибрация. Местонахождение накопителя на открытом месте на полке, сильно нарушает тишину. | |||
Так как у мня появился самодельный принтер, неплохого класса, он нем я быть может также напишу, решил спроектировать и напечатать корпус, с более приятными характеристиками, а именно 2 накопителя 3.5 внутри, 1 накопитель 2.5 и самое главное сквозной продув. Цель именно в том чтобы снизить температуру накопителей до сверх комфортных 35 - 38 градусов. Данная температура является максимально не влияющей на срок службы накопителя. | |||
[[Файл:Фото мини сервера этап второй 03.jpg|мини|Фото отсеков мини сервера]] | |||
Как обычно, моя цель это максимальная компактность конструкции. | |||
Что и было достигнуто. Корпус состоял из 3х отсеков: Материнской платы, вентиляторов и накопителей. | |||
Материнская плата устанавливается на дно корпуса, после чего отсек вентиляторов и сверху крепиться рамка с накопителями. | |||
Места настолько мало, что кабель менеджмент занял несколько часов. | |||
Но вся проделанная работа стоила того, внутри корпуса температура была именно такой какая требовалась. | |||
В целом данный сервер проработал. | |||
Он был бесшумным, но только до тех пор пока не начинался процесс записи или чтения на накопителях. Кто бы что не говорил, а это теперь в ПК является самой шумной частью. | |||
Находясь на той же полке, это все мешало спать. | |||
Проект провалился. | |||
Сервер не проработал и 3х месяцев. | |||
Время близилось к зиме. И чтобы перестать мучится от стука жестких дисков, было принято решение... | |||
Текущая версия от 03:54, 19 мая 2021
Этап первый.
Описывается инфраструктура моей сети и то, как она организована.
Делается как инструкция для самого себя. Так как разрослась, и уже в голове не удержать все нюансы. Также описана пошагово установка и настройка всего.
Состав
- Сервер Proxmox
- Облачный сервер Nextcloud
- Nginx прокси сервер
- Файловый сервер SMB
- Plex media server
- Zabbix
- Сервис MediaWiki
Введение

Есть некий сервер. Задача которого стоять на полочке, быть домашним, совершенно беззвучным, потреблять не более 15 ватт.
Выбор не пал на специальные платы с распаянным центральным процессором, хоть и казалось, что это вариант. Но выявилось не мало ограничений. Низкая производительность, мало портов SATA, требуется специальный корпус, цена за производительность.
В итоге решено собрать на базе десктопного сокета. Выбор пал на Intel Celeron G3900, был под рукой, от "майнеров". На сайте производителя хоть и указан тепловой пакет 51 ватт. Тесты указывают на то, что этот ЦП не потребляет более 16 ватт в нагрузке.
Материнская плата взята самая дешёвая, что была на данный сокет формата mITX. 8 гигабайт оперативной памяти DDR4 с Ali, также самый дешёвой SSD SATA накопитель на 120 гигабайт, что был, который совместим со слотом M2, под систему. Корпус очень интересного внешнего вида на удивление дешевый и качественный. К такому корпусу нужен Pico PSU блок питания. Это преобразователь с 12 вольт на стандарт питания ATX. И внешний блок питания на 60 ватт 12 вольт.

Система охлаждения очень странная. По расчету она должна была работать на малых оборотах, не слышно. Но оказалась совсем не бесшумной. Это радиатор, состоящий из пластин и крыльчатки из алюминия. Было принято решение, поставить в БИОСе порог включения вентилятора - включать минимальные обороты при достижении 65 градусов. Оказалось, что до таких температур процессор ни разу не прогрелся.
Это именно сервер, на котором все крутится. Сейчас он включен.
Далее идёт система хранения, в корпус следом ставится SSD на 1 терабайт. Почему не HDD? Во-первых, дисковый накопитель не является бесшумным, во-вторых, на момент сборки в Китае SSD нужной ёмкости можно взять на 20 - 30 процентов дороже дискового накопителя. Взамен получаем полное отсутствие подвижных компонентов в сервере. А это чего да стоит.
Дорого - не поспоришь, но за компактность и малое энергопотребление, а вследствие отсутствие активного охлаждения нужно переплачивать.
Изначально это было только облако. То есть стояла ubuntu server (версия без оболочки) и все работало на отлично. Мониторинг показал, что в 99 процентах случаях Celeron нагружен на 0 процентов. Потому что спрос на собственное облако небольшой, 2 - 3 клиента максимум. Негоже технике простаивать.
Решено подгрузить к данному серверу ещё пару тройку задач.
Теперь о них:

Имеется некое хранилище для фильмов, если конкретно, то Blu ray Remux коллекция, UHD если таковые имеются. Файлы от 20 до 70 гигабайт, несколько сотен. К этому еще несколько десятков сериалов.
Для такой задачи приобретен накопитель Энтерпрайз класса Toshiba [MG07ACA12TE]. Серверный накопитель на 12 терабайт. Как ни странно, но линейки начиная от ёмкости более 10 терабайт, имеют очень невысокое энергопотребление. Другими словами энергоэффективные. В сравнении, даже с WD Blue на 1 терабайт, первый потребляет на 30 процентов меньше. Удивительно не правда ли? Технически это самый дешевый дисковый накопитель на 12 терабайт, что есть на рынке.
Как ни странно, было решено поставить такой дисковый накопитель в кейс для 3.5 накопителей. Подключение к серверу осуществлять через USB 3.0. Благо МП имеет в себе несколько портов. Скорость передачи данных отличная, она явно больше, чем возможности самого накопителя 220 - 240 мегабайт.
Подразумевается следующий режим работы или сценарий:
Есть домашняя локальная сеть, 2 - 3 клиента. Потребности которых получить фильм или сериал по средствам - зашел в папку, открыл и начал смотреть или зашел в приложение Plex, начал смотреть в нем.
Самый главный нюанс. Plex работает именно в режиме прямого декодирования. То есть, кодирования контента нет. Это не ограничение для меня, а фишка. Так как я бы не хранил Remux версии фильмов если бы знал, что смотреть будут после кодирования. Требуется просмотр именно исходника. Поэтому производительности Celeron хватает для такой задачи. Все что ему нужно делать это передавать данные. Так же "зашел в приложение Plex" — это конкретное указание на версию не в браузере. Так как браузер попросту не позволяет воспроизвести исходник закодированный в HEVC, VC1 и VP9, что применяется в 95 процентах случаях с UHD видео.

В итоге получается 2 дополнительных сервера SMB для предоставления сетевого доступа к папке Windows клиентам и Plex.
Дополнение:
- Возникала потребность в мониторинге. Сервер Zabbix
- Чтобы все это красиво описывать, пригодился сервер MediaWiki
Теперь по факту:
Крутиться это все в гипервизоре Proxmox. (Операционная система для операционных систем). Основа на Debian - поэтому команды все выполняются как обычно.
Корпус: PowerCool M101-U3S - 1237 рублей (НИКС)
Центральный процессор: Intel Celeron G3900 - 1000 рублей
Материнская плата: GIGABYTE GA-H110N (rev. 1.0) - 4 602 рублей (НИКС)
Оперативная память: Reeinno DDR4 8GB 2400 МГц - 2409 рублей (AIi Express)
Накопитель под систему: SSD M2 SATA Kingston A400 120 ГБ - 1620 рублей (НИКС)
Кулер процессора: Thermaltake Engine 17 - 1030 рублей (ОНЛАЙН ТРЕЙД)
Накопитель под облако: Netac SATA 2.5 SSD N500S 960GB - 4204 рубля (AIi Express)
Блок питания: Pico PSU RGEEK RG150D - 800 рублей (Авито)
Блок питания: 12 вольт 5 ампер - 600 рублей (Авито)
Накопитель под файловый сервер:
12 ТБ Жесткий диск Toshiba [MG07ACA12TE] - 21399 рублей (DNS)
3.5" Внешний бокс AGE STAR 3UB3A8-6G - 2050 рублей (DNS)
Итого:
Сервер под облако 17 502 рубля.
Файлохранилище 23449 рублей.
Всего 40951 рубль.
Этап второй

В конечном счете 12 ТБ стало не хватать. Также стало понятно, что нужно резервировать информацию. Так как слишком много сил и времени было потрачено.
Также имелся в наличии Seagate barracuda exos 8TB, представитель накопителей с черепичной записью.
Как показала практика, нахождение накопителя в кейсе, долгое время приводит к нагреву, не критичному, но в моменты длительных нагрузок это заметно. Что может в итоге сильно повлиять на срок службы.
Но самым большим недостатком является именно шум и вибрация. Местонахождение накопителя на открытом месте на полке, сильно нарушает тишину.
Так как у мня появился самодельный принтер, неплохого класса, он нем я быть может также напишу, решил спроектировать и напечатать корпус, с более приятными характеристиками, а именно 2 накопителя 3.5 внутри, 1 накопитель 2.5 и самое главное сквозной продув. Цель именно в том чтобы снизить температуру накопителей до сверх комфортных 35 - 38 градусов. Данная температура является максимально не влияющей на срок службы накопителя.

Как обычно, моя цель это максимальная компактность конструкции.
Что и было достигнуто. Корпус состоял из 3х отсеков: Материнской платы, вентиляторов и накопителей.
Материнская плата устанавливается на дно корпуса, после чего отсек вентиляторов и сверху крепиться рамка с накопителями.
Места настолько мало, что кабель менеджмент занял несколько часов.
Но вся проделанная работа стоила того, внутри корпуса температура была именно такой какая требовалась.
В целом данный сервер проработал.
Он был бесшумным, но только до тех пор пока не начинался процесс записи или чтения на накопителях. Кто бы что не говорил, а это теперь в ПК является самой шумной частью.
Находясь на той же полке, это все мешало спать.
Проект провалился.
Сервер не проработал и 3х месяцев.
Время близилось к зиме. И чтобы перестать мучится от стука жестких дисков, было принято решение...