Как исправить дубликат machine-id после клонирования VPS
Дубликат /etc/machine-id может вызвать конфликт DHCP-аренды. Узнайте, как безопасно создать новый ID и очистить его перед созданием golden image.
Что такое /etc/machine-id и почему важна его уникальность
Клонированная VPS загружается с тем же /etc/machine-id, что и исходный сервер, хотя это значение должно принадлежать только одной установке. Исправление состоит из четырех команд: очистить файл, удалить копию D-Bus, если это обычный файл, перегенерировать идентификатор и перезагрузиться. Перезагрузка — это шаг, который часто пропускают, хотя именно он делает изменения эффективными.
/etc/machine-id содержит 32-символьную шестнадцатеричную строку в нижнем регистре, завершающуюся символом новой строки. В декодированном виде это 16-байтовое (128-битное) значение. В справочной странице machine-id(5) оно названо конфиденциальным; его нельзя передавать по сети, так как любой, кто его считает, сможет распознать вашу машину при повторном обращении. Обычно оно генерируется во время установки или при первой загрузке и остается неизменным при последующих запусках системы.
Здесь часто путают три идентификатора, поэтому их стоит различать. Hostname — это метка, которую вы выбираете и можете изменить в любой момент. UUID продукта DMI (desktop management interface) в /sys/class/dmi/id/product_uuid предоставляется гипервизором и доступен для чтения только пользователю root. Machine ID — это третий идентификатор: его генерирует операционная система, и его может прочитать любой пользователь в системе.
Что именно считывает machine ID
DHCP-клиент. Это наиболее критичный момент. Параметр ClientIdentifier= в секции [DHCPv4] файла .network использует значение, заданное в networkd.conf(5), которое по умолчанию равно duid: это идентификатор клиента согласно RFC 4361, состоящий из IAID и DUID (DHCP unique identifier). В networkd.conf(5) указано, что типом DUID по умолчанию является vendor, где значение DUID формируется с использованием идентификатора производителя 43793 (systemd) и хешированного содержимого machine ID. DHCPv6 использует тот же DUID. Два клона с одинаковым machine ID имеют одинаковый хеш DUID, и если их IAID также совпадают, они отправляют идентичные идентификаторы клиента. Автоматически генерируемый IAID хеширует постоянное имя, полученное от udev, или, если предсказуемое имя недоступно, использует MAC-адрес. Совпадение текущих имен интерфейсов не гарантирует совпадения IAID, поэтому разные MAC-адреса могут приводить к созданию разных идентификаторов клиента, несмотря на идентичные machine ID и имена интерфейсов. Когда полные идентификаторы клиента совпадают, DHCP-сервер видит одного клиента вместо двух и предлагает обоим узлам одну и ту же аренду (lease). Симптомом является «миграция» IP-адреса между двумя серверами или потеря адреса одним сервером при обновлении аренды другим.
journald. Постоянные журналы хранятся в /var/log/journal/<machine-id>/; временные журналы находятся в /run/log/journal/. Имя каталога буквально совпадает с ID. Коллектор, группирующий журналы по machine ID, объединяет идентификаторы клонов; systemd-journal-remote, напротив, разделяет выходные файлы по имени хоста или адресу источника.
D-Bus. /var/lib/dbus/machine-id — это место, где зародился данный формат файла. Он может быть символической ссылкой на /etc/machine-id или отдельным файлом с собственной копией, и эта копия является ловушкой в процедуре, описанной ниже.
Агенты на хостах. Агенты мониторинга, системы проверки лицензий, инструменты инвентаризации и клиенты резервного копирования часто используют machine ID в качестве идентификатора хоста по умолчанию, так как он стабилен и не требует настройки. Два сервера, сообщающие об одной и той же идентичности, означают объединение метрик в один поток или использование одной лицензии на две машины. Проверьте, как ваш агент вычисляет ID хоста, вместо того чтобы предполагать, что он использует имя хоста (hostname).
Как определить наличие дубликата
Выполните эту команду на обоих серверах и сравните результат.
cat /etc/machine-id
ls -l /var/lib/dbus/machine-id
sudo cat /sys/class/dmi/id/product_uuidcat /etc/machine-id
Идентичные machine-id на двух работающих серверах означают, что один был клонирован из другого. hostnamectl выводит то же самое значение в строке Machine ID:, если вы предпочитаете использовать одну команду.
Результат ls -l определяет дальнейшие действия. Символическая ссылка выглядит так:
lrwxrwxrwx 1 root root 15 Aug 21 09:12 /var/lib/dbus/machine-id -> /etc/machine-idls -l /etc/machine-id
Строка, начинающаяся с -rw-r--r--, означает, что это обычный файл, содержащий собственную копию старого идентификатора. Его необходимо удалить, так как systemd-machine-id-setup считывает его до того, как обращается к UUID гипервизора или генератору случайных чисел.
UUID продукта также имеет значение. systemd-machine-id-setup(1) использует KVM UUID перед тем, как перейти к генерации случайного числа, поэтому, если ваш провайдер выдал обоим клонам одинаковый SMBIOS (system management BIOS) UUID, повторная генерация из этого источника даст вам один и тот же machine-id дважды. Различные UUID продукта позволяют избежать этого конкретного конфликта, но более ранние источники идентификаторов всё равно имеют приоритет.
Перегенерация machine ID на клонированной VPS
Порядок действий имеет значение. systemd-machine-id-setup(1) сначала проверяет /run/machine-id, затем корректный D-Bus machine ID, далее учетные данные system.machine_id, после чего пытается использовать настроенный UUID виртуальной машины или контейнера и, в последнюю очередь, выполняет случайную генерацию. Оставьте реальный /var/lib/dbus/machine-id на месте, и если /run/machine-id не имеет приоритета, вы перегенерируете то же самое значение, от которого пытались избавиться. Если утилита повторно использует /run/machine-id или учетные данные и ID остается прежним, очистите machine ID образа в выключенном состоянии и загрузите систему с уникальными источниками идентификации.
sudo truncate -s 0 /etc/machine-id
sudo rm -f /var/lib/dbus/machine-id # only if ls -l showed a real file
sudo systemd-machine-id-setup
sudo ln -sf /etc/machine-id /var/lib/dbus/machine-id
cat /etc/machine-idСначала необходимо выполнить усечение файла, так как утилита работает только при отсутствии файла или если он пуст, и не выполняет никаких действий, если в файле уже содержится корректный ID. systemd-machine-id-setup выводит отчет о проделанной работе в стандартный поток ошибок. На KVM VPS под управлением systemd версии 258 или новее, когда выбирается UUID гипервизора, вы увидите:
Initializing machine ID from SMBIOS/DMI UUID.В systemd 255 этот этап описывается так же, как Initializing machine ID from VM UUID.. Initializing machine ID from random generator. — это сообщение, которое появляется, если ни один из предыдущих источников ID не пригоден для использования. Любой из этих результатов допустим, если cat /etc/machine-id теперь выводит значение, отличное от того, что было на другом сервере.
Символическая ссылка позволяет D-Bus и systemd использовать одно и то же значение. Если вы предпочитаете отдельный реальный файл, выполните sudo dbus-uuidgen --ensure вместо команды создания символической ссылки: если файл D-Bus отсутствует, он копирует корректный ID из /etc/machine-id. Если /var/lib/dbus отсутствует, ln завершится с ошибкой No such file or directory, и вы можете пропустить обе эти строки.
Затем выполните перезагрузку.
sudo rebootПочему перезагрузка обязательна
Любой процесс, который уже считал старое значение, продолжает его использовать. sd_id128_get_machine() кэширует ID для каждого потока: поток, который уже выполнил чтение, продолжает возвращать старое значение, и только поток, который еще не обращался к файлу, прочитает измененные данные. Таким образом, работающий демон может хранить старый ID в существующих потоках и использовать новый только в тех, что будут запущены позже. journald уже держит /var/log/journal/<old-id>/system.journal открытым и продолжает записывать в него данные. systemd-networkd вычислил свой DUID при запуске и продолжает отправлять старый идентификатор клиента при каждом обновлении, что обычно и является той самой ошибкой, которую вы пытаетесь исправить. D-Bus также прочитал свой ID при запуске. Вы можете перезапускать сервисы по одному, но обязательно что-то пропустите, к тому же PID 1 также хранит старое значение.
После перезагрузки проверьте обе части:
cat /etc/machine-id
ls /var/log/journal/При включенном постоянном логировании /var/log/journal/ теперь содержит второй каталог, названный в честь нового ID, и свежие записи попадают именно туда. Обычный journalctl читает только каталог текущей машины, поэтому ваша история до клонирования исчезает из стандартного представления. Она по-прежнему находится на диске: journalctl --merge читает каждый каталог журнала, включая старый. Удалите старый каталог, как только убедитесь, что эти логи вам больше не нужны.
Именно поэтому контейнер — неподходящее место для отработки этой процедуры. Контейнер использует ядро хоста. Он может запустить systemd как свой собственный PID 1, но он никогда не загружает собственное ядро. Внутри контейнера systemd-machine-id-setup использует настроенный UUID контейнера только после того, как другие источники ID недоступны; если подходящего источника нет, он генерирует случайный ID. Тестируйте так, как это происходит в продакшене: клонируйте виртуальную машину, выполните команды, перезагрузитесь, а затем сравните ID с исходной машиной.
Очищайте файл перед созданием снимка, а не после клонирования
Исправление каждого клона по отдельности работает, но лучше исправить сам образ. В противном случае каждый сервер, восстановленный из некорректного снимка, унаследует те же значения. Выполняйте эту операцию в последнюю очередь перед выключением шаблона.
sudo truncate -s 0 /etc/machine-id
sudo rm -f /var/lib/dbus/machine-id
sudo ln -s /etc/machine-id /var/lib/dbus/machine-id
sudo shutdown -h nowОчистите содержимое файла, но не удаляйте сам файл. machine-id(5) рекомендует использовать пустой файл для образов, применяемых на нескольких машинах. Наличие пустого файла на месте позволяет примонтировать временный файл поверх реального, если образ используется в режиме «только для чтения». На /etc, доступной только для чтения, идентификатор, созданный при загрузке, сохраняется во временном файле, а systemd-machine-id-setup --commit записывает его, как только файловая система становится доступной для записи.
Один из побочных эффектов зависит от состояния файла. machine-id(5) прямо указывает: если /etc/machine-id существует и пуст, загрузка не считается первой, поэтому пустой файл не запускает юниты с ConditionFirstBoot=yes. Отсутствие файла или наличие в нём строки uninitialized делает следующую загрузку первой: эти юниты выполняются, а systemd также применяет пресеты юнитов. Проверьте, что именно будет запущено в вашем образе с помощью grep -rl ConditionFirstBoot /usr/lib/systemd/system/, прежде чем создавать шаблон.
Шаблон и снимок — это разные объекты, и от этого зависит, будет ли скопирована идентификация. Шаблон — это артефакт сборки, который вы подготавливаете целенаправленно, тогда как снимок — это копия работающего сервера на определённый момент времени, которая переносит идентификационные данные сервера вместе с его содержимым.
Почему образы облачных систем справляются с этим правильно, а ваши снимки — нет
Дистрибутивные облачные образы создаются для клонирования, поэтому они поставляются с пустым machine ID, который заполняется при первой загрузке. В cloud-init предусмотрен документированный шаг именно для этого процесса. cloud-init clean --machine-id устанавливает /etc/machine-id в значение uninitialized в системах на базе systemd, и справочное руководство по CLI cloud-init называет это лучшей практикой при клонировании эталонного образа, чтобы при следующей загрузке образа был сгенерирован уникальный machine ID.
Снимок, который вы сделали самостоятельно, — это другой случай. Файл уже был заполнен в момент создания снимка, поэтому каждый сервер, восстановленный из него, сохраняет это значение, если процесс восстановления явно его не очищает или не заменяет. Это проблема того же класса, что и перенос работающего сервера на новый VPS, где копия является точной, а идентичность — это именно то, что вы не хотели копировать.
Что еще дублируется при клонировании
- SSH host keys.
/etc/ssh/ssh_host_*также копируются, поэтому оба сервера предъявляют клиентам один и тот же отпечаток. Удалите эти файлы и выполнитеsudo ssh-keygen -Aилиsudo dpkg-reconfigure openssh-serverв Debian и Ubuntu. После этого клиенты выдадут предупреждение об изменении ключа хоста, что является правильным поведением. - Имя хоста (hostname). Установите его с помощью
sudo hostnamectl set-hostname app02, затем проверьте, что/etc/hostsпо-прежнему разрешает новое имя. - Статическая конфигурация сети. Клон сервера со статическим адресом создаст конфликт с оригиналом в момент включения. Прочитайте
/etc/netplan/перед тем, как клон подключится к сети. - Системные часы. Восстановление снимка (snapshot), включающего состояние оперативной памяти, может привести к отставанию часов гостевой системы, пока гость или гипервизор не скорректируют их. Значительный скачок времени на восстановленном VPS нарушает проверку TLS-сертификатов и нарушает хронологию логов до тех пор, пока синхронизация времени не завершится.
Выполните чек-лист первых десяти минут для нового VPS и на клонированной машине. Клонированный сервер наследует учетные записи пользователей, SSH-ключи, правила брандмауэра и запланированные задания исходного сервера, которые не были проверены на соответствие задачам, для которых предназначен клон.
FAQ
Нужно ли перезагружаться после изменения /etc/machine-id?
Да. Программное обеспечение, которое уже прочитало machine ID, сохраняет его кэшированную копию, поэтому новое значение не доходит до тех частей работающей системы, где это важно. journald продолжает писать в каталог журнала, названный по старому ID, а DHCP-клиент продолжает отправлять идентификатор клиента, производный от старого значения, что обычно и является причиной изменений. Перезапуск отдельных сервисов исправляет некоторые из них, но PID 1 также хранит старое значение. Перезагрузитесь, затем подтвердите результат с помощью cat /etc/machine-id и сравнения с другим сервером.
Является ли /etc/machine-id тем же самым, что и аппаратный UUID?
Нет. DMI product UUID в /sys/class/dmi/id/product_uuid поступает от гипервизора и доступен для чтения только пользователю root. Machine ID генерируется операционной системой и находится в обычном файле, который может прочитать любой пользователь. Они связаны в одном направлении: на гостевой системе KVM systemd-machine-id-setup создает новый machine ID на основе UUID гипервизора, если не применимы более ранние источники ID. Если два клона имеют одинаковый product UUID и регенерация использует его, они создадут одинаковый machine ID, поэтому перед тем, как доверять результату, сравните и этот файл.
Следует ли удалять /etc/machine-id или оставлять его пустым?
Оставляйте его пустым при подготовке образа. machine-id(5) предпочитает пустой файл, так как systemd может выполнить bind-mount временного файла поверх него, когда образ запускается с доступной только для чтения /etc. Удаление файла работает в системе с правами записи, и некоторые скрипты клонирования делают именно так, но пустой файл — более безопасный вариант по умолчанию. cloud-init записывает слово uninitialized в этот файл. Это значение, как и отсутствие файла, делает следующую загрузку «первой загрузкой», поэтому юниты с ConditionFirstBoot=yes выполняются. Пустой файл этого не делает.
Почему два моих клонированных сервера получили одинаковый DHCP-адрес?
Потому что оба отправили одинаковый идентификатор клиента. systemd-networkd по умолчанию использует ClientIdentifier=duid для DHCPv4, а DUID по умолчанию строится на основе хэша /etc/machine-id, поэтому идентичные machine ID создают идентичные DUID по умолчанию. Полные идентификаторы клиента совпадают только тогда, когда совпадают и IAID: systemd генерирует IAID из постоянного имени, полученного от udev, переходя к MAC-адресу, если предсказуемое имя недоступно. Совпадения только текущих имен интерфейсов недостаточно для гарантии этого. Когда полные идентификаторы совпадают, DHCP-сервер сопоставляет их, обрабатывает оба запроса как одного клиента и выдает одну аренду. Присвойте каждой машине свой machine ID и перезагрузите обе. Если сервер все еще предлагает старый адрес, очистите устаревшую аренду на самом DHCP-сервере.