Linux backups

Comments

LINUX BACKUPS

Мой скрипт, с помощью которого я делаю бэкапы в Linux

До этого я использовал MacOS и делал бэкапы с помощью стандартной тайммашины+raspberry pi. Статью про это вы можете почитать тут - https://devpew.com/blog/raspberry_time_machine/

Обожаю UNIX-way, тут бэкапы можно делать значительно более гибкими.

Для бэкапа home директории я использую обычный tar с инкрементацией и шифрую его своим gpg ключом. Не буду говорить про GPG, если не знаете что это такое, можете почитать статью тут - https://devpew.com/blog/gpg/

Для других файлов, например, для бэкапов моих видео, которые я записываю для ютуба я использую rsync. RSYNC более рационально использовать, когда не критична синхронизация большого количества файлов

#!/bin/bash -eux

set -o pipefail

NOW=$(date +%Y%m%d%H%M)
MNOW=$(date +%Y%m)

BACKUP_HOME="/home/dm/"
EMAIL="devpew"
ARCHIVES_DIR="/mnt/backup/"

DOW=`date +%a`              # Day of the week e.g. Mon
DOM=`date +%d`              # Date of the Month e.g. 27
DM=`date +%d%b`             # Date and Month e.g. 27Sep

mkdir -p ${ARCHIVES_DIR}${MNOW}

tar --exclude-from=/home/dm/mybin/.backup.excludes --use-compress-prog=zstd --create --file ${ARCHIVES_DIR}${MNOW}/${NOW}.tar.zst --listed-incremental=${ARCHIVES_DIR}${MNOW}/${MNOW}.snar $BACKUP_HOME &> ${ARCHIVES_DIR}${MNOW}/${NOW}.log

ls -d ${ARCHIVES_DIR}${MNOW}/*.tar.zst 2> /dev/null \
    && gpg -r $EMAIL --encrypt-files ${ARCHIVES_DIR}${MNOW}/*.tar.zst \
    && rm -rf ${ARCHIVES_DIR}${MNOW}/*.tar.zst

scp ${ARCHIVES_DIR}${MNOW}/${NOW}.tar.zst.gpg ${ARCHIVES_DIR}${MNOW}/${MNOW}.snar dm@192.168.0.152:/home/dm/backup/${MNOW}

Если нужен более гибкий инкремент второго уровня, например, по неделям, то можно использовать такие условия

DOW=`date +%a`                      # Day of the week e.g. Mon
DOM=`date +%d`                      # Date of the Month e.g. 27
DM=`date +%d%b`                     # Date and Month e.g. 27Sep

if [ $DOM = "01" ]; then
  echo 'this is monthly backup'
fi

if [ $DOW = "Sun" ]; then
  echo 'this is weekly backup'
else
  echo 'this is daily backup'
fi

HOW IT WORKS

Теперь, коротко о том, что делает этот скрипт

Скрипт перейдет в указанную директорию для бекапов и создаст в ней директорию с именем года и месяца в формате “202205” если сейчас май 2022 года.

Далее все бэкапы за май будут находиться в этой папке.

Далее если в папке нет файла с инкрементом (например, мы впервые запустили скрипт или начался новый месяц) то у нас создастся полный бекап всей системы.

В дальнейшем при запуске этого скрипта будут создаваться инкременты от текущего полного бекапа

Кроме того появится файл с логом

После того как у нас сделался бекап, он у нас зашифруется нашим GPG ключом а файл TAR удалится.

После этого мы скопируем наш бэкап к нам на сервер

Exclude

Если нужно задать исключения. То есть файлы или директории, которые не нужно бекапить, то сделать это можно в файле с исключениями. Тут нужно быть аккуратным, любой лишний пробел может все сломать

➜  mybin cat /home/dm/mybin/.backup.excludes
/tmp/home/Nextcloud
/tmp/home/.cache
/tmp/home/youtube-videos

Кроме того, ничего не будет работать, если вы поставите слэш в конце.

Например строка /tmp/home/Nextcloud будет работать, а вот строка /tmp/home/Nextcloud/ работать уже не будет. Так что будьте аккуратны

Если нужно распаковать

У нас делаются инкрементальные бекапы и шифруются. Если нам нужно получить данные, то для начала нам нужно расшифровать файл

Расшифровать можно командой

gpg --output 202205122134.tar.gz --decrypt 202205122134.tar.gz.gpg

После этого, начнем распаковывать tar начиная с самого первого. Для начала распаковываем архив от первого числа.

Разорхивировать zst можно командой unzstd 123.tar.zst или

tar --use-compress-program=unzstd -xvf test2.tar.zst

tar --extract --verbose --listed-incremental=/dev/null --file=202205010101.tar.gz

И после этого распаковываем остальные инкременты, если нужно восстановить состояние системы, например, на 11 число, то нужно последовательно распаковать tar-архивы со 2 по 11 в ту же папку

Если это кажется слишком долгим процессом и вы часто восстанавливаете данные, то можно добавить инкремент второго уровня, например, недельный.

Или если вручную для вас это кажется слишком длительным процессом, можете накидать небольшой скрипт для распаковки. В простейшем случае так:

tar --extract --incremental --file file0.tar
tar --extract --incremental --file file1.tar
tar --extract --incremental --file file2.tar

Или, например, так:

for i in *.tbz2; do tar -xjGf "$i"; done;

Если нужно извлечь только конкретные каталоги из архива:

tar -xjGf levelX.tar --wildcards 'example/foo*' 'example/bar*'

Autorun

Если бы в убунте или дебиане, то вам нужно запускать этот скрпит через крон. В арче нет крона и автозапуск делается иначе. В этом примере будем запускать наш скрипт каждый день в 03:30

Нужно создать файл sudo nvim /usr/lib/systemd/system/backup.service если мы хотим сделать бекап доступным для всех ользователей системы

Либо файл /home/dm/.config/systemd/user/backup.service если мы хотим чтобы только текущий пользователь мог запускать этот скрипт

[Unit]
Description=backup

[Service]
Type=simple
ExecStart=/home/dm/mybin/backup

И файл sudo nvim /usr/lib/systemd/system/backup.timer либо /home/dm/.config/systemd/user

[Unit]
Description=my backup

[Timer]
OnCalendar=*-*-* 03:30:00

[Install]
WantedBy=defaults.target

После этого можем запустить наш сервис

sudo systemctl start backup.timer
sudo systemctl enable backup.timer

либо

systemctl --user start backup.timer
systemctl --user enable backup.timer
systemctl --user status backup.timer

После этого проверим добавился ли он командой

sudo systemctl list-timers --all

или командой

sudo systemctl status backup.timer

REMOVE OLD BACKUPS

Кроме того, что мы постоянно создаем бэкапы, нам нужно удалять старые для того чтобы не забить все место на диске. Если у вас есть скрипт для этого поделитесь, а я опубликую сюда ваше решение.

Contents

comments powered by Disqus