Розділ 1


Огляд RAID

Що таке RAID?

Надлишковий масив незалежних дисків (RAID) – це технологія зберігання, яка поєднує кілька фізичних жорстких дисків для створення логічного накопичувача з кращою продуктивністю та надійністю, ніж окремі одиниці. Це збільшує швидкість зберігання та доступу до даних, запобігаючи втраті даних та простоїв.

Ренді Катц, Девід Паттерсон, Гарт Гібсон і в 1987 р. Були розроблені технологією RAID, спочатку відомою як надмірний масив недорогих дисків. збитків. Сьогодні їх створення – яке було вдосконалено та вдосконалено – дозволяє організувати дані на декількох дисках та реконструювати відсутню інформацію у разі відмови обладнання на одному чи декількох дисках.

Хоча традиційно розроблено для серверів, RAID також використовується на робочих станціях, комп’ютерах, що інтенсивно зберігають дані, та інших програмах, які потребують безпеки даних, високої швидкості передачі даних та великої ємності. Типові програми, де важливі операції швидкого читання та запису великих файлів, включають редагування відео, CAD, графічний дизайн тощо.

Конфігурація RAID досягає однієї або комбінації наступних переваг.

Поліпшення продуктивності читання / запису даних, що забезпечує швидше передачу даних.

Реплікація даних на два або більше диска для збільшення надмірності та запобігання втрати даних у разі відмови диска.

Поєднання декількох дисководів для забезпечення більшої ємності.

Як працює RAID?

RAID – це технологія налаштування та підтримки різних комбінацій фізичних жорстких дисків з метою підвищення надійності, продуктивності та потужності. Він складається з декількох фізичних дисків і контролера для їх налаштування та управління.

Існують різні схеми RAID для поширення або тиражування даних на різних дисках-членах. Кожна з конфігурацій забезпечує унікальний баланс між потужністю, продуктивністю та стійкістю. Як правило, три основні поняття – це смуга, дзеркальне відображення та паритет. Кожна з них має свої достоїнства та обмеження, але їх можна комбінувати для кращої продуктивності.

Смуга рівномірно поширює дані на декілька фізичних дисків, дзеркальне відображення реплікує дані на двох або більше дисках, тоді як парність використовує необроблені дані для обчислення та зберігання інформації парності для виправлення помилок. Одночасно записуючи або отримуючи доступ до інформації у смузі, RAID покращує продуктивність, а дзеркальне відображення дозволяє отримувати доступ до даних із залишків гарних накопичувачів у разі відмови диска.

Коли я повинен використовувати RAID

RAID ідеально підходить для додатків високої надійності та тих, хто потребує більшого зберігання або високої швидкості передачі даних. Усі веб-сайти та критичні онлайн-та офлайн-програми повинні використовувати RAID для підвищення продуктивності, запобігання втрати даних або простоїв.

Більшість сучасних серверів використовують швидкі диски SSD, отже, можливо, не знадобиться подальше підвищення продуктивності. Однак потрібно додати надмірність, щоб забезпечити надійність та доступність веб-сайту у разі відмови диска. Для серверів, що використовують старі повільні диски, може знадобитися використання рівня RAID, який поєднує в собі підвищення продуктивності та надмірність даних. Для подальшого читання на HDD та SSD прочитайте наш посібник з хостингу на SSD та HDD.

Практично всі фізичні сервери в спільному хостінгу, VPS або виділених серверах мають дискові накопичувачі, які працюють в налаштуваннях RAID. Зазвичай, принаймні один з накопичувачів налаштований на паритет, і всі скопійовані тут дані мають додатковий біт, який допомагає відновити дані у разі відмови на одному з дисків.

RAID на виділених, VPS або спільних серверах збільшує продуктивність сервера та надмірність даних. Однак це не усуває необхідності в резервному резервному копіюванні даних, лише у випадку вірусної атаки чи катастрофи.

Як правило, більшість провайдерів використовують RAID як для тамтешніх серверів, так і для резервних систем. Це збільшує рівень захисту даних та швидкість відновлення даних у разі проблеми з будь-якими дисками на сервері чи резервним сховищем.

Хоча RAID спочатку був розроблений для серверів, люди та редагуючі дані, такі як відео- та аудіоредактори, можуть використовувати його для поліпшення операцій читання та запису.

Використання RAID з контролером Raid

Контролер RAID – апаратний пристрій або драйвер програмного забезпечення для налаштування та управління жорсткими дисками в масиві. Він надає інтерфейс для комбінування фізичних дисків та подання їх в ОС як єдиний логічний блок.

Апаратний RAID-контролер – це фізичний пристрій, який інтегрований на материнській платі, або доступний у вигляді додаткової PCI або розширення PCI Express. Для апаратного RAID контролер працює усім і має свій процесор і пам’ять. Контролери призначені для підтримки конкретних інтерфейсів жорсткого диска та рівня рейду. Наприклад, є унікальні контролери для приводів SCSI, SATA, SAS або SSD і не є взаємозамінними.

Деякі апаратні контролери мають додатковий кеш, щоб уникнути втрати даних у разі відключення живлення, а також збільшити операції читання та запису. Перевагами апаратного рейду є краща продуктивність, підтримка завантаження з масиву та забезпечення кращої абстракції. Однак вони дорожчі і є ризики блокування постачальника, оскільки більшість із них використовують власні програми.

На основі програмного забезпечення RAID використовується операційна система та наявне обладнання, наприклад, комп’ютерний процесор і стандартні контролери SAS, IDE або SATA. Це більш гнучко, менш затратно і доступно в більшості серверів і настільних операційних систем. Однак установка часто прив’язана до певної операційної системи і може не бути сумісною з іншими типами. Оскільки він використовує потужність та пам’ять комп’ютера, це може погіршити продуктивність сервера. Інші обмеження включають неможливість завантаження з масиву RAID та відсутність підтримки гарячої заміни, якщо не використовувати сумісний апаратний контролер.

Розділ 2

Рівень рейду

Що таке рівні RAID?

Рівень RAID відноситься до техніки розподілу, організації та управління даними на декількох дисках у масиві. Кожен рівень має різні відмовостійкість, надмірність даних та властивості, а вибір залежить від вимог чи цілей, а також витрат. Деякі рівні забезпечують більш високий захист даних, а інші пропонують краще підвищення продуктивності, ніж інші методи.

Як правило, всі масиви RAID класифікуються як стандартні, нестандартні або вкладені рівні залежно від конфігурації та типу та рівня вдосконалень, які він пропонує.

Стандартні рівні RAID покладаються на основні та прості конфігурації. До них відносяться початкові рівні, від одного до п’яти, плюс два інші (0 і 6), які були додані пізніше. Інші рівні за межами зазначеного визначаються як нестандартні. Однак рівень 0 іноді не вважається RAID, оскільки він не пропонує надмірності.

Вкладений або гібридний RAID поєднує стандартний рівень RAID, який забезпечує надмірність з RAID 0 для поліпшення продуктивності передачі даних. Цей рівень вимагає більше драйверів, більш якісних апаратних контролерів та більш потужних комп’ютерів. Деякі контролери та драйвери недорогих програм не підтримують вкладений RAID. Це робить його більш дорогим у впровадженні та часто ідеально підходить для великих підприємств та підприємств.

Нестандартні рівні RAID – це ті, які не покладаються на базові архітектури або методи, що застосовуються в традиційних рівнях RAID. Деякі з них є власником і використовуються лише для певних програм. Вони забезпечують більш високий рівень продуктивності і зазвичай підходять для конкретних застосувань.

Стандартні рівні RAID

Стандартні рівні RAID засновані на простих та базових конфігураціях обладнання та ідеально підходять для широкого кола підприємств та приватних осіб. Типовим стандартним рівнем є RAID 0, 1, 2,3,4,5 і 6. Кожен з них забезпечує унікальне поєднання надмірності та продуктивності.

Хоча рівні 1, 5 і 6 забезпечують певну ступінь відхилення відмов, рівень 0 не забезпечує, але забезпечує найвищу ефективність. RAID 1 є найнадійнішим у захисті даних, тоді як рівень 5 забезпечує найкращий баланс між продуктивністю, відмовою та надійністю.

RAID 0

Рівень RAID 0 використовує смугу блоків для поширення даних на декілька фізичних дисків. Це найшвидший показник вводу / виводу, оскільки він записує або копіює невеликі різні частини файлу на – або з – декількох дисків одночасно.

Він вимагає як мінімум двох фізичних накопичувачів і забезпечує максимальний простір на диску, який становить загальну ємність окремих пристроїв. Однак він не пропонує надмірності даних або відмовостійкості, і найкраще підходить для організацій, які шукають ефективність. Поломка будь-якого з дисків у масиві RAID 0 призводить до повної втрати даних, включаючи дані, збережені на хороших дисках.

Рівень RAID 0 найкращий для програм, що обробляють некритичні дані, але вимагає високої продуктивності.

Схема установки RAID 0

РАЙД 1

RAID 1 відображає дані на двох або більше дисках без паритету. Рівень вимагає щонайменше двох приводів, а загальний об’єм простору дорівнює розміру одного диска.

Усі диски мають однакові копії даних. У разі відмови диска система продовжує використовувати наявний диск або диски в хорошому робочому стані.

Рівень RAID 1 забезпечує кращу надмірність даних і ідеально підходить для програм, де доступність даних є критичною. Це проста технологія з базовою відмовою, але не покращує продуктивність, оскільки вона повинна записувати дані двічі.

Це ідеально підходить для програм, де важлива доступність даних та надмірність даних.

Схема установки RAID 1

RAID 2

RAID 2 використовує розрядність бітового рівня з паритетом порівняно з блокуванням смужок у RAID 0. Крім того, він використовує код Hamming для виявлення помилок і тому вимагає дисків без можливості перевірки помилок самодиска. Оскільки більшість сучасних дисків мають цю особливість, рівень використовується рідко. Крім того, йому потрібен додатковий диск для зберігання інформації про парність для виявлення помилок. Ефективна ємність диска – n-1, де n – кількість дисків.

RAID 2 працює як RAID 0, але використовує розрядку на рівні бітів разом із механізмом захисту від помилок для захисту втрат даних через пошкодження. Цей ресурс обширний і не використовується широко.

Схема установки RAID 2

РАЙД 3

RAID 3 використовує смугу на рівні байтів з паритетом для відновлення даних. Для цього потрібно як мінімум три накопичувачі, з яких один зберігає інформацію про паритет. Рівень має високі швидкості передачі даних для великих файлів, оскільки доступ до даних відбувається паралельно, але повільніше для невеликих файлів.

Цей рівень є кращим при тривалих послідовних передачах даних, таких як відео, але не в додатках, де є багато запитів, таких як база даних. У разі виходу з ладу диску з паритетом немає можливості відновити дані. Рівень використовується не так багато, як і RAID 2, його корисна ємність n-1.

Схема установки RAID 3

РАЙД 4

RAID 4 майже схожий на RAID 3, але використовує блокування на рівні блоку. Він поєднує в собі смугу на рівні блоку на декількох дисках з виділеним паритетом диска. Рівень вимагає як мінімум трьох дисків, де один зарезервований для інформації про паритет. Доступ до даних з кожного накопичувача здійснюється незалежно лише в одному блоці за один раз, отже, повільні операції. Крім того, операції запису проходять повільніше, оскільки система повинна записувати інформацію про паритет.

Це ідеально підходить для послідовного доступу до даних. Однак диск парності може сповільнити програми запису. Рівень використовується рідко.

Схема установки RAID 4

РАЙД 5

RAID 5 має смугу рівня блоку разом з розподіленим паритетом. Це економічно вигідна всебічна конфігурація, яка врівноважує між надмірністю, продуктивністю та місткістю зберігання.

Смугання покращує продуктивність зчитування вводу / виводу, тоді як паритет має важливе значення для відновлення даних у разі відмови диска. Однак він не може пережити кілька відмов диска і потребує більше часу для відновлення даних, оскільки процес включає обчислення парності з кожного з доступних дисків. Він вимагає як мінімум трьох дисків, але має корисний простір диска n-1.

Рівень RAID 5 підходить для програм та файлових серверів з обмеженими пристроями зберігання даних.

Схема установки RAID 5

РАЙД 6

RAID 6 використовує блокування смужок, як RAID 5, але з подвійним розподіленим паритетом. Два блоки інформації про паритет забезпечують додаткову надмірність та відмовостійкість. Цей рівень може пережити два одночасних відмови диска. Однак це дорого; що вимагає щонайменше чотирьох дисків при наданні корисного простору – це n-2 диски.

Він є більш надійним і поширеним у середовищах SATA та додатках, таких як резервні копії та архіви даних на основі диска, де необхідно тривале зберігання даних. Він також підходить для середовищ, де доступність даних важливіша за продуктивність.

Недоліки рівня 6 включають додатковий диск для інформації про подвійний паритет, а також є складним для впровадження порівняно з рівнем 5. Завдяки подвійному паритету швидкість запису та відновлення відбувається повільніше.

Схема установки RAID 6

Вкладені (гібридні) рівні RAID

Вкладений RAID – це комбінація рівня, що забезпечує надмірність та RAID 0, що підвищує продуктивність. Для цього можуть використовуватися RAID-масиви або окремі диски. Зазвичай найкраща комбінація – це мати RAID 0 поверх надлишкового масиву, оскільки менша кількість дисків потребує регенерації у разі відмови диска.

Вкладені рівні забезпечують кращі показники та більш високу толерантність. Однак для них потрібні складні конфігурації та більше накопичувачів, тоді як ефективна ємність вдвічі зменшується встановленим дисковим простором. Вони також дорогі і мають обмежену масштабованість.

Загальні рівні включають 0 + 1, 1 + 0 (10), 0 + 3, 3 + 0 (30), 0 + 5, 5 + 0 (50) та 6 + 0 (60)

RAID 0 + 1

RAID 0 + 1 поєднує RAID 0 і 1 для забезпечення надмірності та підвищення продуктивності. Процес починається з роздягання даних на декількох дисках, що підвищує продуктивність з подальшим дзеркальним відображенням для надмірності даних.

RAID 0 + 1 вимагає як мінімум чотирьох фізичних жорстких дисків і є складною конфігурацією, яка забезпечує високу продуктивність і відмовостійкість. Він може пережити більше одного збою диска в одному дзеркальному наборі за умови, що немає одночасних несправностей двох дзеркальних дисків.

Цей рівень вимагає дисків у кратних розмірах два, але загальна ємність, яка використовується, зазвичай становить половину загального місця на диску. Крім того, він дорожчий і не легко масштабується.

Вкладена конфігурація RAID 01

Вкладена конфігурація RAID 01

Гібридна конфігурація RAID 01

Гібридна конфігурація RAID 01

RAID 1 + 0

RAID 1 + 0 або RAID 10 починається з дзеркальних даних, перш ніж знімати їх через дзеркальні масиви. Цей підхід робить його більш вигідним, надійним та ефективним, ніж RAID 0 + 1, і може пережити кілька помилок накопичувача. Для цього потрібно як мінімум чотири диски і може пережити кілька одночасних відмов диска, поки жодне з дзеркал не втратить усі диски.

RAID 1 + 0 має кращу толерантність до відмов, надмірність даних та відновлення в порівнянні з RAID 0 + 1. Однак це дуже дорого і так само, як 0 + 1, має обмежену масштабованість. Рівень ідеально підходить для організацій, які шукають високу продуктивність та безпеку даних. Корисна ємність становить половину всього встановленого місця на диску.

Схема установки RAID 1 + 0

RAID 0 + 3

Це також називається RAID 53 і складається з масиву Raid 0, смугастого в масив RAID 3. Крім того, у нього є виділений масив парності, який смугастий поперек дисків.

Рівень має високі темпи передачі даних та толерантність до відмов, пропоновані сегментами RAID 3. Цей рівень забезпечує високу толерантність і має чудову продуктивність як для послідовного, так і для випадкового читання та запису. Однак він складніший і дорожчий, оскільки вимагає більше приводів.

На жаль, рівень дорогий і вимагає дисків зі шпинделями, які повинні бути синхронізовані разом. Це може обмежити вибір дисків для використання.

Схема установки RAID 0 + 3

RAID 5 + 0

RAID 5 +0 або RAID 50 поєднує розподілений паритет RAID 5 з смугастим RAID 0. Він складається з двох або більше масивів RAID 5, в яких дані та дані про парність масивів смугаються по дисках. Потрібний мінімум шість фізичних дисків, він покращує захист даних, продуктивність запису, а також більш швидкі перебудови порівняно з RAID 5. Це ідеально підходить для програм, де важлива висока доступність.

Помилка одного диска вплине лише на цей масив і не погіршить продуктивність, як це відбувається в RAID 5. Крім того, він може витримати до чотирьох відмов диска, якщо кожен знаходиться в іншому масиві RAID 5. Однак для цього потрібен складний RAID-контролер.

Схема установки RAID 0 + 5

JBOD RAID N + N

JBOD (Just A Bunch Of Disks) поєднує кілька дисків, які він представляє ОС як один привід з більшою ємністю, але без надмірності. На відміну від інших рівнів RAID, ця схема дозволяє отримувати доступ до окремих накопичувачів окремо. Це насправді не рівень RAID, а просто домовленість.

JBOD складається з декількох стандартних дисків, які можуть мати різні розміри. Загальна ємність – це сума окремих дисків, і її можна збільшити, додавши додатковий привід. Так само, як і RAID 0, він забезпечує найкращу ефективність, оскільки також не має паритету, який би додав більше витрат. Однак у нього немає захисту даних, і кожен диск є потенційною точкою відмови. Тому він ідеально підходить для інтенсивного введення / виводу додатків та тих, хто потребує більшого зберігання.

Схема установки диска JBOD

Нестандартні рівні RAID

Нестандартні рівні RAID покладаються на архітектури або алгоритми, що відрізняються від стандартних RAID. Деякі засновані на системах з відкритим кодом, а інші покладаються на фірмові технології та пропонуються лише певними постачальниками для конкретних програм.

Ті, хто використовують власницьке обладнання та програмне забезпечення, можуть бути не сумісні з іншими системами різних виробників. Приклади включають RAID-3D Pure Storage і захист даних XtremIO Dell EMC (XDP).

Нестандартні рівні RAID забезпечують кращі показники продуктивності та відмовостійкості, ніж стандартні. Вони використовуються для спеціалізованих програм, які вимагають більшої доступності та надійності, ніж стандартний рівень.

RAID 3D

Це фірмовий RAID, розроблений Pure Storage і використовує флешки замість жорстких дисків. Зазвичай використовується для запобігання втрати даних у разі відмови компонента у флеш-пам’яті. Завдяки більшій швидкості передачі в твердотільних накопичувачах масив має високу продуктивність вводу / виводу. Якщо RAID 3d виявляє збій пристрою, який часто спричиняє затримку вводу / виводу, він відновлює дані з інших пристроїв у межах тієї ж групи паритету.

Розширений RAID 1E

RAID 1 Enhanced (RAID 1E) поєднує дзеркальні та смугасті дані на декількох дисках. Він майже схожий на RAID 1, але має смугастий і вимагає непарної кількості дисків, з яких мінімум – 3 диски. Удосконалений RAID 1E відображає повну смугу даних до іншої смуги всередині набору дисків, а іноді її називають дзеркальною смугою. Завдяки дзеркальному відображенню цей рівень має хорошу надмірність даних.

Схема установки RAID 1E

Розширений RAID 5 E

RAID 5 E – це варіант RAID 5, але з додатковим гарячим запасним приводом. Гаряча запасна частина, як правило, активна в очікуванні виходу з ладу іншого диска. Як тільки відбувається помилка, гаряча запасна частина стає доступною для відновлення даних. RAID 5E вимагає як мінімум чотирьох дисків і має кращу продуктивність, ніж традиційний RAID 5. Однак поділити запасний диск між масивами неможливо. Крім того, він страждає від повільних перебудов.

Схема установки RAID 5E

Розділ 3

Плюси і мінуси RAID

Переваги використання RAID

Переваги системи RAID залежать від рівня. Масив може збільшити продуктивність, стійкість або надмірність даних, але рівень поліпшення залежить від типу конфігурації та кількості дисків. Як правило, масив надасть одну чи більше переваг, але не всі максимуми одночасно.

  • Запобігання втраті даних у разі відмови диска: RAID із надмірністю даних забезпечує кращу безперервність ділових операцій. У таких випадках, як система, збій диска не заважає додаткам або доступу до даних, оскільки сервер буде використовувати решта хороших дисків. Крім того, заміна несправного диска в RAID-масивах, що змінюється гарячою можливістю, не вимагає припинення чи переривання операцій. Більше дисків забезпечують кращий рівень стійкості до відмов.
  • Поліпшення швидкості читання / запису отже, продуктивність серверів або комп’ютера, таких як робочі станції для редагування відео та інші додатки, що вимагають великих даних. Однак це залежатиме від рівня RAID та кількості фізичних накопичувачів.
  • Збільшення ємності зберігання за допомогою простих і дешевших дисків: Це вигідніше, ніж купувати великий одиничний привід.
  • Підвищення відмовостійкості через використання декількох дисків.

Зниження витрат та підвищення надійності: Використовуючи кілька менш дорогих, менших дисків, масив дозволяє збільшити ємність за менші витрати, ніж придбання одного накопичувача великої ємності.

Недоліки використання RAID

Хоча існують різні рівні RAID для задоволення різних потреб у зберіганні даних, технологія є вразливою до ряду збоїв, які можуть призвести до втрат даних або простоїв. До недоліків можна віднести:

  • Оскільки диски RAID зазвичай знаходяться на сервері всередині одного і того ж центру обробки даних, катастрофа може пошкодити диски або весь масив, отже, потенційно знищивши всі дані. Інші системи, такі як CDP, зберігають дані на віддалених накопичувачах, отже, додаючи додатковий захисний рівень у випадку катастрофи.
  • Зберігання RAID містить поточну версію даних, що забезпечує більш легку перебудову в разі відмови. Однак відновити старішу версію файлу неможливо, особливо якщо сталася вірусна атака, помилкова зміна файлів або шкідливі редагування.
  • Завдяки більшій накопичувальній здатності, RAID зазнає тривалих періодів відновлення, коли один або кілька дисків виходять з ладу. Для відновлення обсягу RAID потрібно більше часу, коли виникає збій, і якщо інші диски виходять з ладу до завершення відновлення, всі дані будуть неможливими. Це також збільшить час простою.
  • Реалізація масиву RAID коштує дорого, оскільки для цього потрібно кілька дисків. Для RAID, що пропонує надмірність, використовувати повну потужність неможливо. Корисний простір часто менший, ніж загальна встановлена ​​потужність.
  • Складний і не передається. Хоча вікна, керовані апаратним забезпеченням або RAID, можуть передаватися, програмні масиви RAID – це не програмне забезпечення.
  • Потрібні навички ІТ та знайомство з технологіями. Оскільки такі організації можуть зажадати витрачати більше грошей на підготовку персоналу або найму сторонніх постачальників послуг, особливо для відновлення даних або усунення несправностей.

Висновок

RAID продовжить надавати переваги продуктивності та захисту даних ще кілька років. Однак, для її підвищення ефективності та сумісності з новими технологіями та потребами потрібні нові стратегії. В даний час існують критичні вимоги до зберігання, які виходять за рамки існуючих технологій RAID.

Деякі виробники вже використовують нові підходи для задоволення зростаючих та мінливих потреб, а також вирішують сучасні дискові технології та обмеження. Наприклад, замість використання RAID 0 для підвищення продуктивності сучасні системи можуть використовувати DRAM, флеш-кеші, автоматизований рівень зберігання даних (AST) та інші технології, такі як широка смужка.

Сьогоднішні диски, такі як SSD, є більшими та швидшими. Це виключає необхідність видаляти дані для підвищення продуктивності. Однак на великих накопичувачах виникає проблема тривалішого часу відновлення, який може тривати від 4 годин до декількох днів для жорсткого диска 2 Тб.

Таким чином, організації, які обробляють велику кількість даних, наприклад, в петабайтній шкалі, потребують різних стратегій. Вони повинні бути спрямовані на те, щоб зробити RAID більш ефективним, дозволяючи йому конкурувати з існуючими та майбутніми альтернативами, такими як кодування стирання та постійний захист даних (CDP).

Кодування стирання починається з розбиття даних на фрагменти; Потім він розширюється та кодує їх із зайвими фрагментами даних. Потім вони зберігаються в різних носіях інформації та місцях. Технологія має невеликі накладні витрати порівняно з традиційними RAID. Для реконструкції даних потрібно менше часу та накладних витрат. Однак він є інтенсивним процесором і має більшу затримку порівняно з RAID.

У майбутньому одним із підходів є збереження захисту даних, що забезпечується фізичним зберіганням на основі RAID, а потім їх віртуалізація. Таке розташування створить віртуальний об’єм, який не залежить від конкретної конфігурації обладнання. Повторне використання таких обсягів у різних місцях зменшує потенційний ризик повного виходу з ладу у випадку катастрофи чи іншої критичної несправності.

Jeffrey Wilson Administrator
Sorry! The Author has not filled his profile.
follow me