Экономия места на бэкапах

View: New views
16 Messages — Rating Filter:   Alert me  

Экономия места на бэкапах

by Bugzilla from vitruss@gmail.com :: Rate this Message:

Reply to Author | View Threaded | Show Only this Message

Здравствуйте!
Я хочу поставить на работе сервер для хранения бэкапов данных. В
качестве средства бэкапа выбрал rsnapshot (поскольку есть возможность
делать бэкап с файлов хранящихся на оффтопике не использую самбу).
Теперь меня интересует возможность экономии места на винтах (всё-таки
они не резиновые). Есть ли файловые системы, которые поддерживают
компрессию или может быть можно как-то ещё это организовать? Пока что
нашёл только btrfs, но судя по тестам она и без сжатия проигрывает по
производительности. Компьютер, на котором всё это будет стоять -
бюджетный Pentium E, 2 Gb ram и 4 винта: 1 под систему и 3 в software
raid5 (пока не сделал, но хочу именно так) для данных.

Re: Экономия места на бэкапах

by eugene v. samusev-2 :: Rate this Message:

Reply to Author | View Threaded | Show Only this Message


2009/10/25 Vit <vitruss@...>
Здравствуйте!
Я хочу поставить на работе сервер для хранения бэкапов данных. В
качестве средства бэкапа выбрал rsnapshot (поскольку есть возможность
делать бэкап с файлов хранящихся на оффтопике не использую самбу).
Теперь меня интересует возможность экономии места на винтах (всё-таки
они не резиновые). Есть ли файловые системы, которые поддерживают
компрессию или может быть можно как-то ещё это организовать? Пока что
нашёл только btrfs, но судя по тестам она и без сжатия проигрывает по
производительности. Компьютер, на котором всё это будет стоять -
бюджетный Pentium E, 2 Gb ram и 4 винта: 1 под систему и 3 в software
raid5 (пока не сделал, но хочу именно так) для данных.
Если винты одинаковые, то лучше все 4 винта используйте под software raid 10, существенно повысите надежность решения.
И посмотрите в сторону bacula - она может сжимать хранящиеся данные gzip'ом, да и вообще просто более гибкое и удобное средство.


--
Евгений Самусев.
Контактная информация:
jid,gtalk: samusev@...
e-mail: samusev@... или  samusev@...
mobile: +79226394899

Re: Экономия места на бэкапах

by Bugzilla from vitruss@gmail.com :: Rate this Message:

Reply to Author | View Threaded | Show Only this Message

On Sun, 25 Oct 2009 10:41:42 +0600, Eugene V. Samusev <samusev@...>  
wrote:

> 2009/10/25 Vit <vitruss@...>
>
>> Здравствуйте!
>> Я хочу поставить на работе сервер для хранения бэкапов данных. В
>> качестве средства бэкапа выбрал rsnapshot (поскольку есть возможность
>> делать бэкап с файлов хранящихся на оффтопике не использую самбу).
>> Теперь меня интересует возможность экономии места на винтах (всё-таки
>> они не резиновые). Есть ли файловые системы, которые поддерживают
>> компрессию или может быть можно как-то ещё это организовать? Пока что
>> нашёл только btrfs, но судя по тестам она и без сжатия проигрывает по
>> производительности. Компьютер, на котором всё это будет стоять -
>> бюджетный Pentium E, 2 Gb ram и 4 винта: 1 под систему и 3 в software
>> raid5 (пока не сделал, но хочу именно так) для данных.
>>
> Если винты одинаковые, то лучше все 4 винта используйте под software raid
> 10, существенно повысите надежность решения.
> И посмотрите в сторону bacula - она может сжимать хранящиеся данные  
> gzip'ом,
> да и вообще просто более гибкое и удобное средство.
>
>

Я почитал мануал, как-то там всё сложно. Придётся разбираться.  
Единственный вопрос, который для меня ещё принципиален - возможность  
восстановления какого-либо файла самим пользователем (простым и удобным  
способом, для rsnapshot это было бы просто копирование нужного файла с  
ftp). Насколько такое реально?

Виктор.

Re: Экономия места на бэкапах

by eugene v. samusev-2 :: Rate this Message:

Reply to Author | View Threaded | Show Only this Message

2009/10/25 Vit <vitruss@...>
On Sun, 25 Oct 2009 10:41:42 +0600, Eugene V. Samusev <samusev@...> wrote:

2009/10/25 Vit <vitruss@...>
Если винты одинаковые, то лучше все 4 винта используйте под software raid
10, существенно повысите надежность решения.
И посмотрите в сторону bacula - она может сжимать хранящиеся данные gzip'ом,
да и вообще просто более гибкое и удобное средство.

Я почитал мануал, как-то там всё сложно. Придётся разбираться. Единственный вопрос, который для меня ещё принципиален - возможность восстановления какого-либо файла самим пользователем (простым и удобным способом, для rsnapshot это было бы просто копирование нужного файла с ftp). Насколько такое реально?

Стандартные средства предполагают восстановление через консоль управления - утилита bconsole. Есть какие-то веб-морды , но я с ними не разбирался.

--
Евгений Самусев.
Контактная информация:
jid,gtalk: samusev@...
e-mail: samusev@... или  samusev@...
mobile: +79226394899

Re: Экономия места на бэкапах

by Sergey Spiridonov :: Rate this Message:

Reply to Author | View Threaded | Show Only this Message

Привет

Vit wrote:
> Я хочу поставить на работе сервер для хранения бэкапов данных. В
> качестве средства бэкапа выбрал rsnapshot (поскольку есть возможность
> делать бэкап с файлов хранящихся на оффтопике не использую самбу).

Backuppc умеет без самбы работать. Он поддерживает сжатие и gzip и bzip2.

> Теперь меня интересует возможность экономии места на винтах (всё-таки
> они не резиновые). Есть ли файловые системы, которые поддерживают
> компрессию или может быть можно как-то ещё это организовать?

Backuppc ищет одинаковые файлы (в том числе и на разных машинах) и
сохраняет их только один раз.

> Единственный вопрос, который для меня ещё принципиален - возможность
восстановления какого-либо файла самим пользователем (простым и удобным
способом, для rsnapshot это было бы просто копирование нужного файла с
ftp). Насколько такое реально?


Удобный веб-интерфейс с разделением доступа пользователь/бэкап.

Backuppc форева!

--
Best regards, Sergey Spiridonov



--
To UNSUBSCRIBE, email to debian-russian-REQUEST@...
with a subject of "unsubscribe". Trouble? Contact listmaster@...


Re: Экономия места на бэкапах

by eugene v. samusev-2 :: Rate this Message:

Reply to Author | View Threaded | Show Only this Message

2009/10/26 Sergey Spiridonov <sena@...>
Привет

Vit wrote:
> Я хочу поставить на работе сервер для хранения бэкапов данных. В
> качестве средства бэкапа выбрал rsnapshot (поскольку есть возможность
> делать бэкап с файлов хранящихся на оффтопике не использую самбу).

Backuppc умеет без самбы работать. Он поддерживает сжатие и gzip и bzip2.

Да хорошее решение, но имеет два серьезных ограничения - не работает с большими файлами (>4Gb), и не поддерживает VSS на  Windows машинах.
Использовал его раньше, но после того как уткнулся в проблему бэкапа больших mssql-ных баз и файлов открытых и залоченных офисом в момент бэкапа, перешел на бакулу.

--
Евгений Самусев.
Контактная информация:
jid,gtalk: samusev@...
e-mail: samusev@...
mobile: +79226394899

Re: Экономия места на бэкапах

by Denis Feklushkin :: Rate this Message:

Reply to Author | View Threaded | Show Only this Message

On Mon, 26 Oct 2009 16:08:24 +0500
"Eugene V. Samusev" <samusev@...> wrote:

> 2009/10/26 Sergey Spiridonov <sena@...>
>
> > Привет
> >
> > Vit wrote:
> > > Я хочу поставить на работе сервер для хранения бэкапов данных. В
> > > качестве средства бэкапа выбрал rsnapshot (поскольку есть
> > > возможность делать бэкап с файлов хранящихся на оффтопике не
> > > использую самбу).
> >
> > Backuppc умеет без самбы работать. Он поддерживает сжатие и gzip и
> > bzip2.
> >
> > Да хорошее решение, но имеет два серьезных ограничения - не
> > работает с
> большими файлами (>4Gb), и не поддерживает VSS на  Windows машинах.
И CIFS не работает с >4Gb?

> Использовал его раньше, но после того как уткнулся в проблему бэкапа
> больших mssql-ных баз и файлов открытых и залоченных офисом в момент
> бэкапа, перешел на бакулу.
>


signature.asc (204 bytes) Download Attachment

Re: Экономия места на бэкапах

by Bob - :: Rate this Message:

Reply to Author | View Threaded | Show Only this Message

> Да хорошее решение, но имеет два серьезных ограничения - не работает с
> большими файлами (>4Gb), и не поддерживает VSS на  Windows машинах.
> Использовал его раньше, но после того как уткнулся в проблему бэкапа больших
> mssql-ных баз и файлов открытых и залоченных офисом в момент бэкапа, перешел
> на бакулу.
Т.е горячий backup базы, работает? Это может быть очень интерестно, не
расскажите по подробнее?

Re: Экономия места на бэкапах

by eugene v. samusev-2 :: Rate this Message:

Reply to Author | View Threaded | Show Only this Message



2009/10/26 Denis Feklushkin <denis.feklushkin@...>
On Mon, 26 Oct 2009 16:08:24 +0500
"Eugene V. Samusev" <samusev@...> wrote:

> 2009/10/26 Sergey Spiridonov <sena@...>
>
> > Привет
> >
> > Vit wrote:
> > > Я хочу поставить на работе сервер для хранения бэкапов данных. В
> > > качестве средства бэкапа выбрал rsnapshot (поскольку есть
> > > возможность делать бэкап с файлов хранящихся на оффтопике не
> > > использую самбу).
> >
> > Backuppc умеет без самбы работать. Он поддерживает сжатие и gzip и
> > bzip2.
> >
> > Да хорошее решение, но имеет два серьезных ограничения - не
> > работает с
> большими файлами (>4Gb), и не поддерживает VSS на  Windows машинах.

И CIFS не работает с >4Gb?
Более подробно про ограничения backuppc можно прочитать вот здесь - http://backuppc.sourceforge.net/faq/limitations.html
Работает ли он с cifs сейчас, я не знаю. Слез с него 2 года назад.

--
Евгений Самусев.

Re: Экономия места на бэкапах

by eugene v. samusev-2 :: Rate this Message:

Reply to Author | View Threaded | Show Only this Message

2009/10/27 Boris <baron.pampa.don.bau@...>
> Да хорошее решение, но имеет два серьезных ограничения - не работает с
> большими файлами (>4Gb), и не поддерживает VSS на  Windows машинах.
> Использовал его раньше, но после того как уткнулся в проблему бэкапа больших
> mssql-ных баз и файлов открытых и залоченных офисом в момент бэкапа, перешел
> на бакулу.
Т.е горячий backup базы, работает? Это может быть очень интерестно, не
расскажите по подробнее?
С backuppc я уперся в ограничения на размер копируемых файлов, и поэтому перелез на bacula.
Сначала делаю бэкап средствами mssql на локальный диск, а потом уже бакула его забирает по сетке.
Как-то читал что есть плагин, который позволяет более тесную интеграцию с mssql, но не пробовал.

--
Евгений Самусев.

Re: Экономия места на бэкапах

by Lev Arzhanov-3 :: Rate this Message:

Reply to Author | View Threaded | Show Only this Message

В Втр, 27/10/2009 в 11:11 +0500, Eugene V. Samusev пишет:

> 2009/10/27 Boris <baron.pampa.don.bau@...>
>         > Да хорошее решение, но имеет два серьезных ограничения - не
>         работает с
>         > большими файлами (>4Gb), и не поддерживает VSS на  Windows
>         машинах.
>         > Использовал его раньше, но после того как уткнулся в
>         проблему бэкапа больших
>         > mssql-ных баз и файлов открытых и залоченных офисом в момент
>         бэкапа, перешел
>         > на бакулу.
>        
>         Т.е горячий backup базы, работает? Это может быть очень
>         интерестно, не
>         расскажите по подробнее?
> С backuppc я уперся в ограничения на размер копируемых файлов, и
> поэтому перелез на bacula.
> Сначала делаю бэкап средствами mssql на локальный диск, а потом уже
> бакула его забирает по сетке.
> Как-то читал что есть плагин, который позволяет более
> тесную интеграцию с mssql, но не пробовал.

Работает. Для VSS MS SQL предоставляет своего провайдера. У меня
работает на Windows Server 2003 R2 x64 и Windows Server 2008 x64 с MS
SQL 2005 x64. Клиентом стоит win64bacula-3.0.2. Кусочек лога:

7-Oct 03:07 vega-fd JobId 783: VSS Writer (BackupComplete): "System
Writer", State: 0x1 (VSS_WS_STABLE)
27-Oct 03:07 tariel-sd JobId 783: Job write elapsed time = 00:42:21,
Transfer rate = 10.66 M bytes/second
27-Oct 03:07 vega-fd JobId 783: VSS Writer (BackupComplete):
"SqlServerWriter", State: 0x1 (VSS_WS_STABLE)

Скорость низкая, потому что по сети и непосредственно на ленту.


--
С уважением,
Лев Аржанов

Re: Экономия места на бэкапах

by Alexey Pechnikov-2 :: Rate this Message:

Reply to Author | View Threaded | Show Only this Message

Hello!

On Sunday 25 October 2009 07:32:24 Vit wrote:

> Здравствуйте!
> Я хочу поставить на работе сервер для хранения бэкапов данных. В
> качестве средства бэкапа выбрал rsnapshot (поскольку есть возможность
> делать бэкап с файлов хранящихся на оффтопике не использую самбу).
> Теперь меня интересует возможность экономии места на винтах (всё-таки
> они не резиновые). Есть ли файловые системы, которые поддерживают
> компрессию или может быть можно как-то ещё это организовать? Пока что
> нашёл только btrfs, но судя по тестам она и без сжатия проигрывает по
> производительности. Компьютер, на котором всё это будет стоять -
> бюджетный Pentium E, 2 Gb ram и 4 винта: 1 под систему и 3 в software
> raid5 (пока не сделал, но хочу именно так) для данных.
>

Посмотрите rdiff-backup. Хранит последний "слепок" и сжатые дельты.
Сжимает при передаче по сети. Последние полгода корректно обрабатывает
ситуацию с незавершенным предыдущим бэкапом (раньше бывало так,
что приходилось ручками кое-что править в таких случаях). Последний
бэкап можно забирать просто как файлы, предыдущие нужно извлекать.
Имхо сделать веб-интерфейс несложно, а движок хороший. А может, и
"веб-морда" уже есть, не искал.

Best regards, Alexey Pechnikov.
http://pechnikov.tel/

Re: Экономия места на бэкапах

by Dmitry Nezhevenko-2 :: Rate this Message:

Reply to Author | View Threaded | Show Only this Message

On Tue, Nov 10, 2009 at 10:11:27PM +0300, Alexey Pechnikov wrote:
> Посмотрите rdiff-backup. Хранит последний "слепок" и сжатые дельты.
> Сжимает при передаче по сети. Последние полгода корректно обрабатывает
> ситуацию с незавершенным предыдущим бэкапом (раньше бывало так,
> что приходилось ручками кое-что править в таких случаях). Последний
> бэкап можно забирать просто как файлы, предыдущие нужно извлекать.
> Имхо сделать веб-интерфейс несложно, а движок хороший. А может, и
> "веб-морда" уже есть, не искал.
>

Есть fuse-based файловая система для просмотра снапшотов. Правда не
пробовал.  

--
WBR, Dmitry


signature.asc (853 bytes) Download Attachment

Re: Экономия места на бэкапах

by Artem Chuprina :: Rate this Message:

Reply to Author | View Threaded | Show Only this Message

Alexey Pechnikov -> debian-russian@...  @ Tue, 10 Nov 2009 22:11:27 +0300:

 >> Я хочу поставить на работе сервер для хранения бэкапов данных. В
 >> качестве средства бэкапа выбрал rsnapshot (поскольку есть возможность
 >> делать бэкап с файлов хранящихся на оффтопике не использую самбу).
 >> Теперь меня интересует возможность экономии места на винтах (всё-таки
 >> они не резиновые). Есть ли файловые системы, которые поддерживают
 >> компрессию или может быть можно как-то ещё это организовать? Пока что
 >> нашёл только btrfs, но судя по тестам она и без сжатия проигрывает по
 >> производительности. Компьютер, на котором всё это будет стоять -
 >> бюджетный Pentium E, 2 Gb ram и 4 винта: 1 под систему и 3 в software
 >> raid5 (пока не сделал, но хочу именно так) для данных.

 AP> Посмотрите rdiff-backup. Хранит последний "слепок" и сжатые дельты.
 AP> Сжимает при передаче по сети. Последние полгода корректно обрабатывает
 AP> ситуацию с незавершенным предыдущим бэкапом (раньше бывало так,
 AP> что приходилось ручками кое-что править в таких случаях). Последний
 AP> бэкап можно забирать просто как файлы, предыдущие нужно извлекать.
 AP> Имхо сделать веб-интерфейс несложно, а движок хороший. А может, и
 AP> "веб-морда" уже есть, не искал.

Я на него обиделся, когда он, как водится у подобных поделок, не смог
сбэкапить машинку, где стоял он же с другой _minor_ версией.  Как только
я на такое натыкаюсь, я инструмент выкидываю.  Потому что заведомо
отвалится при каком-нибудь апгрейде, и скорее всего, в самый
неподходящий момент.

--
Программы на Haskell настолько ленивы, что по умолчанию вообще не хотят
работать.
 -- http://absurdopedia.wikia.com/wiki/Haskell


--
To UNSUBSCRIBE, email to debian-russian-REQUEST@...
with a subject of "unsubscribe". Trouble? Contact listmaster@...


Re: Экономия места на бэкапах

by Alexey Pechnikov-2 :: Rate this Message:

Reply to Author | View Threaded | Show Only this Message

Hello!

On Tuesday 10 November 2009 23:37:27 Artem Chuprina wrote:
> Я на него обиделся, когда он, как водится у подобных поделок, не смог
> сбэкапить машинку, где стоял он же с другой minor версией.  Как только
> я на такое натыкаюсь, я инструмент выкидываю.  Потому что заведомо
> отвалится при каком-нибудь апгрейде, и скорее всего, в самый
> неподходящий момент.

Последние месяцы это малость подправили - ругается, но бэкапит. А по сути,
гляньте на утилиты, которые без DBUS работать не могут, или без hal и т.п.
Вот где полная задница. А, еще теперь софтописатели даже для демонов
используют стандарты путей для десктопа, где, по их мнению, должны лежать
конфиги. На фоне всего перечисленного питоновские поделия не такое уж
барахло.

Best regards, Alexey Pechnikov.
http://pechnikov.tel/

Re: Экономия места на бэкапах

by Artem Chuprina :: Rate this Message:

Reply to Author | View Threaded | Show Only this Message

Alexey Pechnikov -> debian-russian@...  @ Wed, 11 Nov 2009 07:24:36 +0300:

 >> Я на него обиделся, когда он, как водится у подобных поделок, не смог
 >> сбэкапить машинку, где стоял он же с другой minor версией.  Как только
 >> я на такое натыкаюсь, я инструмент выкидываю.  Потому что заведомо
 >> отвалится при каком-нибудь апгрейде, и скорее всего, в самый
 >> неподходящий момент.

 AP> Последние месяцы это малость подправили - ругается, но бэкапит.

Спасибо, я уже rsnapshot заюзал.  Он куда тупее, требует на том конце
только rsync, и с ним понятно, что делать, если что-то сломалось.

 AP> А по сути, гляньте на утилиты, которые без DBUS работать не могут,
 AP> или без hal и т.п.  Вот где полная задница.

Ну, у меня такого пока ровно одна сволочь - bluez-utils.

--
Кто первый встал, того и грабли
        Д. Белявский


--
To UNSUBSCRIBE, email to debian-russian-REQUEST@...
with a subject of "unsubscribe". Trouble? Contact listmaster@...