Утилита обновления (апдейтер) сама скачивает и отдаёт «Подсказкам», «Фактору» и «Единому клиенту» новые версии справочников. Вам остаётся только настроить работу по расписанию.
Установка
Утилита работает на Linux и требует наличия Python 2.7 или Python 3.5+. Скорее всего, в вашем дистрибутиве он есть, проверьте:
$ python --version Python 2.7.15
Если версия Python < 2.7.9, предварительно установите pip (команды для CentOS 7):
sudo yum install epel-release sudo yum install python-pip
Архив с утилитой (последняя версия): https://fs.hflabs.ru/sgt-flight/updater/updater-20.3.zip
Установка (Python 2):
unzip updater-20.3.zip -d /opt/updater cd /opt/updater pip install virtualenv python -m virtualenv env env/bin/pip install -r requirements.txt
Установка (Python 3):
unzip updater-20.3.zip -d /opt/updater cd /opt/updater python -m venv env env/bin/pip install -r requirements.txt
Настройка
Для работы утилите надо знать базовый путь к справочникам, а также пользователя, под которым они работают. Настройки по умолчанию — в файле updater.env. Лучше всего их и использовать.
Файл подключается командой «.»:
. updater.env
Если вы хотите поменять настройки по умолчанию, не меняйте файл updater.env — он будет затёрт при очередном обновлении. Вместо этого создайте собственный файл с настройками и подключайте его после updater.env:
. updater.env && . custom.env && env/bin/fab название_команды название_справочника
В custom.env укажите только те настройки, которые меняются по сравнению с умолчательными.
Запуск
Утилиту можно запускать с самого сервера приложения, либо с любой другой машины, с которой есть доступ по SSH к серверу приложения.
Запуск с сервера приложения
Синтаксис следующий:
env/bin/fab название_команды название_справочника
Запуск с другой машины
В этом варианте утилита использует настройки ~/.ssh/config для подключения к серверу приложения. Например:
Host 10.0.1.34 User root IdentityFile ~/.ssh/suggestions_rsa
Для пользователя, под которым происходит подключение, должен быть настроен paswordless sudo.
Авторизацию рекомендуем настроить по сертификату. В противном случае придётся каждый раз вводить пароль, и настроить автоматический запуск утилиты не получится.
Синтаксис запуска следующий:
env/bin/fab -H IP_адрес_сервера название_команды название_справочника
Если вы всё-таки выберете авторизацию по паролю, укажите дополнительный ключ:
env/bin/fab -H IP_адрес_сервера --prompt-for-login-password название_команды название_справочника
Работа через прокси-сервер
Чтобы апдейтер работал через прокси-сервер, требуется прописать его настройки в двух местах. Во-первых, в updater.env:
export HTTP_PROXY="http://proxy_server_ip:port" export HTTPS_PROXY="https://proxy_server_ip:port"
Во-вторых, в ~/.wgetrc для пользователя, под которым запускается апдейтер:
use_proxy=yes http_proxy=http://proxy_server_ip:port https_proxy=https://proxy_server_ip:port
Команды и справочники
Утилита умеет:
- Скачать справочник на сервер приложения — команда download
- Скачать справочник на локальную машину — команда download-to
- Скопировать справочник с локальной машины на сервер приложения — команда scp
- Обновить предварительно скачанный справочник на сервере приложения — команда update
Поддерживаются справочники «Фактора»:
Код | Описание |
---|---|
factor_dispemail | Одноразовые адреса эл. почты |
factor_fias | Адреса |
factor_geocode | Геокоординаты |
factor_invpassport | Недействительные паспорта |
factor_transphone | Перенесённые телефонные номера |
factor_flatarea | Площади квартир |
factor_flatprice | Стоимости квартир |
Справочники «Подсказок»:
Код | Описание | Версия |
---|---|---|
suggestions_address | Адреса | |
suggestions_geonames | города мира | |
suggestions_house | дополнительные дома | 19.10+ |
suggestions_iso3166 | ISO-коды | 19.10+ |
suggestions_geo | Координаты | 19.2+ |
suggestions_fias | ФИАС | 20.2+ |
suggestions_bank | Банки | |
suggestions_email | Эл. почта | 18.11+ |
suggestions_fio | ФИО | 18.11+ |
suggestions_ip | IP-адреса | |
suggestions_party | Компании | |
suggestions_partyext | Компании (ранжирование + реестры) | 19.7 — опциональный 19.8+ — обязательный |
И справочники «Единого клиента»:
Код | Описание |
---|---|
cdi_egr | ЕГРЮЛ в плоском виде |
cdi_egrnorm | ЕГРЮЛ в нормализованном виде |
Скачивание справочников
Если на сервере приложения разрешён доступ к репозиторию HFLabs, для скачивания справочника достаточно команды download:
# Команды выполняются на сервере приложения # - скачать справочники Подсказок env/bin/fab download suggestions_address env/bin/fab download suggestions_geonames env/bin/fab download suggestions_geo env/bin/fab download suggestions_bank env/bin/fab download suggestions_ip env/bin/fab download suggestions_party env/bin/fab download suggestions_partyext env/bin/fab download suggestions_email env/bin/fab download suggestions_fio # - скачать справочники Фактора env/bin/fab download factor_geocode env/bin/fab download factor_fias env/bin/fab download factor_flatarea env/bin/fab download factor_flatprice env/bin/fab download factor_invpassport env/bin/fab download factor_transphone # - скачать справочники Единого клиента env/bin/fab download cdi_egr
Если же на сервере приложения внешний доступ полностью закрыт, воспользуйтесь командами download-to и scp:
# Команды выполняются на внешней машине # 10.0.1.34 — адрес сервера приложения # 1) скачать справочник локально в каталог /tmp/dictionaries/address env/bin/fab download-to suggestions_address /tmp/dictionaries/address # 2) затем скопировать скачанный справочник на сервер приложения env/bin/fab -H 10.0.1.34 scp suggestions_address /tmp/dictionaries/address
Обновление справочников
Обновление справочника всегда выполняется командой update, предварительно справочник должен быть скопирован на сервер приложения.
Если утилита выполняется на сервере приложения:
# Команды выполняются на сервере приложения # - обновить справочники Подсказок env/bin/fab update suggestions_geonames env/bin/fab update suggestions_address env/bin/fab update suggestions_geo env/bin/fab update suggestions_bank env/bin/fab update suggestions_ip env/bin/fab update suggestions_partyext env/bin/fab update suggestions_party env/bin/fab update suggestions_email env/bin/fab update suggestions_fio # - обновить справочники Фактора env/bin/fab update factor_geocode env/bin/fab update factor_fias env/bin/fab update factor_flatarea env/bin/fab update factor_flatprice env/bin/fab update factor_invpassport env/bin/fab update factor_transphone # - обновить справочники Единого клиента env/bin/fab update cdi_egr
Если утилита выполняется с внешней машины:
# Команды выполняются на внешней машине # 10.0.1.34 — адрес сервера приложения # - обновить справочники Подсказок env/bin/fab -H 10.0.1.34 update suggestions_address ... # - обновить справочники Фактора env/bin/fab -H 10.0.1.34 update factor_geocode ... # - обновить справочники Единого клиента env/bin/fab -H 10.0.1.34 update cdi_egr
Проверка версии
Чтобы проверить версию утилиты, выполните команду version:
env/bin/fab version
Работа по расписанию
Чтобы регулярно скачивать и обновлять справочники, добавьте задачи в крон.
Пример для запуска с сервера приложения, если полный путь к утилите /opt/updater:
00 21 * * 6 cd /opt/updater && . /opt/updater/updater.env && /opt/updater/download-dictionaries.sh 00 01 * * 0 cd /opt/updater && . /opt/updater/updater.env && /opt/updater/env/bin/fab update suggestions_bank 05 01 * * 0 cd /opt/updater && . /opt/updater/updater.env && /opt/updater/env/bin/fab update suggestions_ip 10 01 * * 0 cd /opt/updater && . /opt/updater/updater.env && /opt/updater/env/bin/fab update suggestions_geonames update suggestions_address 00 03 * * 0 cd /opt/updater && . /opt/updater/updater.env && /opt/updater/env/bin/fab update suggestions_partyext update suggestions_party 00 04 * * 0 cd /opt/updater && . /opt/updater/updater.env && /opt/updater/env/bin/fab update factor_geocode 30 04 * * 0 cd /opt/updater && . /opt/updater/updater.env && /opt/updater/env/bin/fab update factor_fias
/opt/updater/env/bin/fab download suggestions_bank /opt/updater/env/bin/fab download suggestions_ip /opt/updater/env/bin/fab download suggestions_address /opt/updater/env/bin/fab download suggestions_geonames /opt/updater/env/bin/fab download suggestions_party /opt/updater/env/bin/fab download suggestions_partyext /opt/updater/env/bin/fab download suggestions_email /opt/updater/env/bin/fab download suggestions_fio /opt/updater/env/bin/fab download factor_geocode /opt/updater/env/bin/fab download factor_fias
Пример для запуска с внешней машины, если полный путь к утилите /opt/updater, а 10.0.1.34 — адрес сервера приложения:
00 21 * * 6 cd /opt/updater && . /opt/updater/updater.env && /opt/updater/download-dictionaries.sh 00 23 * * 6 cd /opt/updater && . /opt/updater/updater.env && /opt/updater/copy-dictionaries.sh 00 01 * * 0 cd /opt/updater && . /opt/updater/updater.env && /opt/updater/env/bin/fab -H 10.0.1.34 update suggestions_bank 05 01 * * 0 cd /opt/updater && . /opt/updater/updater.env && /opt/updater/env/bin/fab -H 10.0.1.34 update suggestions_ip 10 01 * * 0 cd /opt/updater && . /opt/updater/updater.env && /opt/updater/env/bin/fab -H 10.0.1.34 update suggestions_geonames update suggestions_address 55 02 * * 0 cd /opt/updater && . /opt/updater/updater.env && /opt/updater/env/bin/fab -H 10.0.1.34 update suggestions_geo 00 03 * * 0 cd /opt/updater && . /opt/updater/updater.env && /opt/updater/env/bin/fab -H 10.0.1.34 update suggestions_partyext update suggestions_party 00 04 * * 0 cd /opt/updater && . /opt/updater/updater.env && /opt/updater/env/bin/fab -H 10.0.1.34 update factor_geocode 30 04 * * 0 cd /opt/updater && . /opt/updater/updater.env && /opt/updater/env/bin/fab -H 10.0.1.34 update factor_fias
/opt/updater/env/bin/fab download-to suggestions_bank /tmp/dictionaries/suggestions_bank /opt/updater/env/bin/fab download-to suggestions_ip /tmp/dictionaries/suggestions_ip /opt/updater/env/bin/fab download-to suggestions_address /tmp/dictionaries/suggestions_address /opt/updater/env/bin/fab download-to suggestions_geonames /tmp/dictionaries/suggestions_geonames /opt/updater/env/bin/fab download-to suggestions_party /tmp/dictionaries/suggestions_party /opt/updater/env/bin/fab download-to suggestions_partyext /tmp/dictionaries/suggestions_partyext /opt/updater/env/bin/fab download-to suggestions_email /tmp/dictionaries/suggestions_email /opt/updater/env/bin/fab download-to suggestions_fio /tmp/dictionaries/suggestions_fio /opt/updater/env/bin/fab download-to factor_geocode /tmp/dictionaries/factor_geocode /opt/updater/env/bin/fab download-to factor_fias /tmp/dictionaries/factor_fias
SERVER="10.0.1.34" /opt/updater/env/bin/fab -H $SERVER scp suggestions_bank /tmp/dictionaries/suggestions_bank /opt/updater/env/bin/fab -H $SERVER scp suggestions_ip /tmp/dictionaries/suggestions_ip /opt/updater/env/bin/fab -H $SERVER scp suggestions_address /tmp/dictionaries/suggestions_address /opt/updater/env/bin/fab -H $SERVER scp suggestions_geonames /tmp/dictionaries/suggestions_geonames /opt/updater/env/bin/fab -H $SERVER scp suggestions_party /tmp/dictionaries/suggestions_party /opt/updater/env/bin/fab -H $SERVER scp suggestions_partyext /tmp/dictionaries/suggestions_partyext /opt/updater/env/bin/fab -H $SERVER scp suggestions_email /tmp/dictionaries/suggestions_email /opt/updater/env/bin/fab -H $SERVER scp suggestions_fio /tmp/dictionaries/suggestions_fio /opt/updater/env/bin/fab -H $SERVER scp factor_geocode /tmp/dictionaries/factor_geocode /opt/updater/env/bin/fab -H $SERVER scp factor_fias /tmp/dictionaries/factor_fias
Особенности обновления справочника ЕГРЮЛ в «Едином клиенте»
Путь к каталогу справочника на сервере приложения ($CDI_DICTIONARY_HOME/egr) должен быть заранее прописан в настройках задачи EgrDictionaryImport.
Пользователь $CDI_API_USERNAME должен иметь права на работу с SOAP-сервисом TaskWS.