| |
— | zabbix_raid [2022/03/25 14:00] (текущий) – создано - внешнее изменение 127.0.0.1 |
---|
| ====== Введение ====== |
| Есть у меня в парке серверов множество различных рейд-контроллеров, в том числе софтовых(mdadm). У каждого из них имеются различные средства мониторинга, но хотелось бы все это отслеживать централизовано, например через zabbix, а в случае изменения состояния любого из массивов - получать уведомления, например по почте. Данная статья не является пошаговым руководством, а представляет из себя набор заметок на память для различных контроллеров. В каждом подразделе описана техника получения информации о состоянии массивов zabbix-агентом. |
| |
| ===== Sudoers ===== |
| |
| Большинство утилит управления рейд-контроллером требуют root-привелегий, создаем файл /etc/sudoers.d/zabbix: |
| |
| Defaults:zabbix !requiretty |
| Cmnd_Alias ZABBIX_CMD = /usr/sbin/tw_cli, /usr/sbin/MegaCli64, /usr/sbin/arcconf |
| zabbix ALL = (other_user) NOPASSWD: ALL |
| zabbix ALL = (root) NOPASSWD: ZABBIX_CMD |
| |
| ===== mdadm ===== |
| |
| В Linux mdadm есть файл /proc/mdstat, в котором содержится информаци о всех массивах и их состоянии. У каждого массива есть вот такое текстовое обозначение: [UU] (кол-во букв U зависит от кол-ва дисков в массиве). Если один или более дисков выходит из строя, то вместо буквы U появляется знак подчеркивания: _ Соответственно ищем подобные массивы и подсчитываем их кол-во, если их больше 0, то поднимаем панику. В конфиге агента добавляем такой пользовательский параметр: |
| |
| UserParameter=custom.softraid.status,egrep -c "\[.*_.*\]" /proc/mdstat |
| |
| И тестируем: |
| |
| # zabbix_agentd -t custom.softraid.status |
| custom.softraid.status[egrep -c "\[.*_.*\]" /proc/mdstat] [t|0] |
| |
| Как видно, параметр вернул ноль( [t|0] ), все нормально. |
| |
| ===== 3Ware ===== |
| |
| Для мониторинга контроллеров 3ware (теперь уже LSI) понадобится утилита 3w_cli, скачать ее можно с оф. сайта производителя контроллера, либо поставить из стороннего репозитория(в случае с debian): [[http://hwraid.le-vert.net|hwraid]]. |
| |
| Теперь добавляем в конфиг забикса пользовательский параметр: |
| |
| UserParameter=custom.3ware.status,sudo tw_cli /c0 show allunitstatus | grep "Not Optimal" | awk '{print $6}' |
| |
| Этот параметр аналогичным образом подсчитывает кол-во массивов(на первом контроллере), которое имеет статус "Not Optimal". Если в сервере установлено несколько контроллеров, то можно будет сделать скрипт с несколькими подобными командами и в конце сумировать результат. |
| |
| Проверяем работоспособность: |
| |
| # zabbix_agentd -t custom.3ware.status |
| custom.3ware.status[sudo /opt/3ware/CLI/tw_cli /c0 show allunitstatus | grep "Not Optimal" | awk '{print $6}'] [t|0] |
| |
| Все массивы в норме ([t|0]). |
| ===== Adaptec ===== |
| |
| Для мониторинга контроллеров Adaptec понадобится утилита arcconf, скачать ее можно с оф. сайта производителя контроллера, либо поставить из стороннего репозитория(в случае с debian): [[http://hwraid.le-vert.net|hwraid]]. Делаем симлинк на arcconf в /usr/sbin/arcconf. |
| |
| В конфиг zabbix-агента добавляем следующий пользовательский параметр: |
| |
| UserParameter=custom.adaptec.status,sudo arcconf GETCONFIG 1 | grep -i "Status of logical device" | grep -cv Optimal |
| |
| Этот параметр производит подсчет кол-ва массивов первого контроллера, статус которых отличается от "Optimal". Если в системе более одного контроллера, то нужно создать скрипт, который будет выполнять подобную команду для каждого контроллера и суммировать результат. |
| |
| Проверяем: |
| |
| # zabbix_agentd -t custom.adaptec.status |
| custom.adaptec.status[/opt/adaptec/arcconf GETCONFIG 1 | grep "Status of logical device" | grep -cv Optimal] [t|0] |
| |
| Все нормально, кол-во отказавших массивов ноль ([t|0]). |
| |
| Со стороны сервера: |
| # zabbix_get -s X.X.X.X -k "custom.adaptec.status" |
| 0 |
| |
| |
| ===== LSI ===== |
| |
| Контроллеры LSI можно мониторить с помощью утилиты MegaCLI, в том числе контроллеры, которые установлены в серверах IBM серии X, например x3650 ставят контроллеры LSI. Скачать ее можно с сайта IBM(например ibm_utl_sraidmr_megacli-8.04.10_linux_32-64.zip), но проще [[https://docs.broadcom.com/docs-and-downloads/raid-controllers/raid-controllers-common-files/3DM2_CLI-linux_10-2-2-1_9-5-5-1.zip|с сайта производителя последнюю версию]], это универсальный установщик для любого дистрибутива. |
| |
| На сайте IBM есть пакеты только для redhat и suse, но не составляет труда конвертировать их в deb с поомщью alien. Делается это командой: |
| |
| # alien --scripts _pakage_name_.rpm |
| |
| После конвертирования устанавливаем пакеты и добавляем пользовательский параметр в zabbix-агент: |
| |
| UserParameter=custom.lsi.status,sudo MegaCli64 -LDInfo -Lall -aAll | grep State | grep -vc Optimal |
| |
| Этот параметр выполняет подсчет всех массивов со статусом отличным от "Optimal". |
| |
| Проверяем: |
| |
| # zabbix_agentd -t custom.lsi.status |
| custom.lsi.status[MegaCli64 -LDInfo -Lall -aAll | grep State | grep -vc Optimal] [t|0] |
| |
| ===== Intel ===== |
| |
| В некоторых сервера с мат. платами intel устанавливали интегрированные контроллеры axx4sasmod. Управлять и мониторить их можно с помощью RAID Web Console 2(не понятно, почему она называется Web, когда работает не через браузер, а требует установки на клиенте), либо с помощью snmp. Команднострочная утилита CmdTool2 почему-то контроллер не обнаружила. Корректно настроить работу через snmp на Debian мне не удалось, как это сделать на редхат-подобных описано в статье, ссылка на которую дана ниже. |
| |
| ===== Пример создания тригера ===== |
| |
| Создадим тригер отслеживания состояния массивов на примере mdadm. |
| |
| Создаем шаблон Configuration -> Templates -> Create template, задаем имя и добавляем в группу Templates: |
| |
| {{ :zabbix:raid:step1.png?direct&300 |}} |
| |
| В шаблоне открываем вкладку Items и создаем элемент. Указываем ключ(имя пользовательского параметра в zabbix-агенте) и уменьшаем кол-во дней хранения значений: |
| |
| {{ :zabbix:raid:step2.png?direct&300 |}} |
| |
| Дальше переходим во вкладку Triggers и создаем тригер, в поле Expression нажимаем на конпке Add и в появившемся окне в поле Item нажимаем Select, в появившемся окне выбираем группу Templates и только что созданый шаблон, там у нас один единственный элемент(Item), выбираем его. В выпадающем меню Function выбираем "Last (most recent) T value is NOT N" и проверяем, что в поле N стоит ноль, таким образом трегер будет проверять, что полученное значение от zabbix-клиента(кол-во отказавших массивов) равняется нолю, если это не так - он сработает. Вот что должно получиться(если все нормально, нажимаем Insert): |
| |
| {{ :zabbix:raid:step3.png?direct&300 |}} |
| |
| Ну и в заключении задаем имя тригера и уровень серъезности произшествия, я оценил его как Hight: |
| |
| {{ :zabbix:raid:step4.png?direct&300 |}} |
| |
| Нажимаем сохранить(Save). |
| |
| ===== Решение проблем ===== |
| Если сервер не получает данные по рейду(в веб-интерфейсе в разделе latest data ничего нет, а должен быть 0), то в первую очередь нужно проверить что файл /etc/sudoers.d/zabbix создан и симлинк из /opt/... сделан в /usr/sbin/... Иначе будет такая ошибка: |
| |
| Мы полагаем, что ваш системный администратор изложил вам основы |
| безопасности. Как правило, всё сводится к трём следующим правилам: |
| |
| №1) Уважайте частную жизнь других. |
| №2) Думайте, прежде что-то вводить. |
| №3) С большой властью приходит большая ответственность. |
| |
| sudo: нет tty и не указана программа askpass |
| |
| Также была проблема с arcconf, он очень долго выполняется(5-6 секунд) и срабатывает таймаут сервера, по-умолчанию он 4 секунды. Ошибка очень не очевидная, потому как при тестировании через командную строку все срабатывает штатно, увидеть это я смог только при тестировании через веб-интерфейс: в разделе "Configuration -> Templates" выбираем нужный темплат и заходим в "Items -> Number of faild Adaptec devices", внизу нажимаем кнопку "Test" и в появившемся окне указываем адрес хоста, порт и нажимаем "Get Value". Если все в порядке, мы должны получить в поле Value 0, если нет, там будет сообщение об ошибке, либо как на скрине ниже, сообщение о таймауте. |
| |
| {{ :zabbix:raid:zabbix_web_test.png?direct&600 |}} |
| |
| Чтобы это избежать на стороне клиента и сервера увеличиваем Timeout хотя бы до 10 секунд. |
| |
| ===== Ссылки ===== |
| |
| - [[http://www.alsigned.ru/?p=2556|Мониторинг LSI MegaRAID по SNMP]] |
| - [[http://hwraid.le-vert.net/wiki/DebianPackages| HWRAID]] |
| - [[https://wiki.debian.org/LinuxRaidForAdmins|LinuxRaidForAdmins]] |
| - [[http://lab4.org/wiki/Zabbix_3ware_raidcontroller_ueberwachen|Zabbix 3ware raidcontroller ueberwachen]] |
| - [[http://blog.nexcess.net/2010/12/28/managing-hardware-raid-with-megacli/|Managing hardware RAID with MegaCLI]] |
| - [[http://undefinederror.org/installing-intel-raid-web-console-2-ubuntu/|Installing Intel Raid Web Console 2 on Ubuntu]] |
| - [[https://downloadcenter.intel.com/Detail_Desc.aspx?lang=rus&changeLang=true&DwnldID=18441|Программа RAID Web Console 2 для ОС Linux]] |
| - [[https://downloadcenter.intel.com/Detail_Desc.aspx?agr=Y&DwnldID=23474&keyword=Command+Line+Tool+for+linux&lang=eng|Command Line Tool 2]] |