Forum |  HardWare.fr | News | Articles | PC | S'identifier | S'inscrire | Shop Recherche
2729 connectés 

  FORUM HardWare.fr
  Linux et OS Alternatifs
  Codes et scripts

  rsync très lent en différenciel !

 


 Mot :   Pseudo :  
 
Bas de page
Auteur Sujet :

rsync très lent en différenciel !

n°1069742
iwak
Vieux motard que jamais
Posté le 28-08-2008 à 10:17:09  profilanswer
 

Bonjour,
 
Je suis actuellement en train d'optimiser mes scripts de back up avec rsync. Et vu que c'est un serveur de fichiers, j'ai pas mal galéré au début car le script s'arrétait dès qu'il rencontrait un fichier ouvert, j'ai trouvé la solution du --ignore-errors mais je me demande si c'est pas un peu du bricolage, qu'en pensez vous ? Comment gérez vous le back up d'un serveur de prod avec rsync ?
 
De plus rsync est ultra lent, là ca fait 2 jours qu'il fait son différenciel pr un répertoire de quelques centaines de Go, c'est je ne sais combien de fois plus lent que de faire un Full !!!
 
rsync -avvrt --backup --delete --progress --ignore-errors --chmod=ugo=rwX répertoire_source répertoire_dest
 
Avant j'avais un --delay-updates, je viens de l'enlever de la commande pour voir si ce n'est pas cette option qui rend rsync si lent !
 
Pr info le repertoire source et destination sont sur deux machines différentes sur un réseau 100Mbps.
 
Merci !

mood
Publicité
Posté le 28-08-2008 à 10:17:09  profilanswer
 

n°1069865
SkadiIsSad​ik
Posté le 28-08-2008 à 16:50:41  profilanswer
 

Pour information la première sauvegarde incrémentielle/différentielle est toujours très longue. Ensuite par contre ce sera un réel gain de temps lors des sauvegardes suivantes. Donc pas de quoi s'affoler (aussi bien pour rsync que rdiff-backup, 2 utilisataires de sauvegardes que j'ai utilisé entre autre).

n°1069879
Taz
bisounours-codeur
Posté le 28-08-2008 à 17:57:44  profilanswer
 

Nan mais t'as un autre problème. rsync est pas 'très lent' la première fois, il copie tout et c'est tout. Après en incrémental, y a pas de raison que ça soit lent. Ton -vv ou --progress ils te donnent des pistes sur ce qui est lent à faire ?

n°1069880
iwak
Vieux motard que jamais
Posté le 28-08-2008 à 18:01:41  profilanswer
 

@SkadiIsSadik : Ca fait un mois que je fais des incrementiels... et pour quelquels centaines de Go, ca mets pratiquement 2j !!!
 
Mon -vv ne me donne rien de particulier, il liste les fichiers, et basta, mais c'est long !
 

n°1069888
Taz
bisounours-codeur
Posté le 28-08-2008 à 19:19:21  profilanswer
 

bah mets un --progress voir ce qui se passe.

n°1070022
iwak
Vieux motard que jamais
Posté le 29-08-2008 à 11:33:11  profilanswer
 

J'ai déjà cette option. :/

n°1070056
Taz
bisounours-codeur
Posté le 29-08-2008 à 13:07:02  profilanswer
 

bah tu dois voir les les vitesses de transfert des fichiers ?

n°1070591
iwak
Vieux motard que jamais
Posté le 31-08-2008 à 22:15:35  profilanswer
 

C'est pas pdt le transfert, c'est pendant le scan des fichiers (comparaison des fichiers ?)

n°1070618
esox_ch
Posté le 01-09-2008 à 07:35:30  profilanswer
 

C'est quoi pour un ordinateur que tu as ? Ces centaines de Go , c'est des fichiers de quelle taille en moyenne ?
 
Je dis peut-être une bêtise, mais si c'est style serveur Mail avec tous des fichiers de 50-100k et que c'est un vieux P1 avec HDD en ata .. faut pas trop s'étonner
 
Sinon t'as fait un "top" pour voir que c'est bien rsync qui est lent (pas des fois que ton cron lance aussi autre chose de très CPU consuming en même temps)


---------------
Si la vérité est découverte par quelqu'un d'autre,elle perd toujours un peu d'attrait
n°1070778
iwak
Vieux motard que jamais
Posté le 01-09-2008 à 14:17:19  profilanswer
 

C'est un serveur Core 2 à 2,2Ghz, 2Go de RAM, RAID1, bref, une machine plus que correcte.
 
Rsync bouffe quasi rien en CPU qd il tourne... :/

mood
Publicité
Posté le 01-09-2008 à 14:17:19  profilanswer
 

n°1070830
iwak
Vieux motard que jamais
Posté le 01-09-2008 à 15:22:35  profilanswer
 

Que pensez-vous de SyncBack ? Ca a l'air pas mal.

n°1087993
sputnick
bip...bip...bip...bip...bi...b
Posté le 07-11-2008 à 00:01:01  profilanswer
 

Le probleme vient surement pas de rsync, ça reglera pas le probleme.
( Ya quand même rsnapshot pour les backups )
Install jnettop à la rigueur et regarde ce qui (se) passe :)

n°1088065
tirk
Posté le 07-11-2008 à 10:54:47  profilanswer
 

rsync -avPHAX --inplace --force --delete --delete-excluded -e "ssh -c blowfish-cbc" --block-size=2048 --checksum-seed=32761
 
Pour info, rsync est "lent" à constituer la liste des fichiers à backuper s'il y en a beaucoup (ie: 300GB dans plus de 60M prend plus de 24h à créer sur un RAID honnête).
De plus, il utilise énormément de mémoire pendant ce processus (ie: même source, il faut plus de 16GB RAM à rsync seul).

n°1088087
thierryR
J'aime les bretzels
Posté le 07-11-2008 à 12:14:26  profilanswer
 

Et si tu fais une simple copie de fichier au travers de nfs as-tu toujours un débit aussi lent ?


---------------
Penguin online qui ne fait que des conneries, et qui aime ça. Membre du http://www.fonacon.net/

Aller à :
Ajouter une réponse
  FORUM HardWare.fr
  Linux et OS Alternatifs
  Codes et scripts

  rsync très lent en différenciel !

 

Sujets relatifs
Récupération de fichiers très importantemail aprés rsync
Problèmes Rsync sous Windowsdaemon rsync en priorité moindre.
sauvegarde en réseau avec rsyncRAID5 software est lent pourquoi ?
[AIX] rsyncInternet lent sur un de mes 2pc
Rsync et sshUSB très lent sur mon ASUS A6000 sous Mandriva 2008
Plus de sujets relatifs à : rsync très lent en différenciel !


Copyright © 1997-2022 Hardware.fr SARL (Signaler un contenu illicite / Données personnelles) / Groupe LDLC / Shop HFR