Reprise du message précédent :
Justement, je le stop ^^

en meme temps avec un tel avatar !!

c clair tros bon ! la tronche

 
 
ah..... mouais.
je voyais pas ça comme ça moi.
parce que si par exemple un poste en xp est eteind lors du lancement de la sauvegarde rsync, ben ça sera pas sauvegarder.
moi j'aurais préféré un petit exe, du genre rsync.exe que tu lances depuis le poste windows et qui contact le serveur rsync pr faire sa sauvegarde.

En effet ça sera plus pratique dans l'autre sens, à ce moment-là il suffit de déployer un client rsync pour Windows, comme celui-ci :
 
http://www.itefix.no/phpws/index.p [...] tion=23:23

 
 
en effet, ça conviendra bien je pense.
 
merci. j'avoue ne pas avoir pris le temps de me pencher dessus et de chercher. donc merci encore.

Problème, mon RAID5 s'est (vraiment) crashé.
(les jetel'avaisbiendistes ont le droit de se la fermer  ).

L'impossible peut arriver, et j'ai la douloureuse nouvelle à vous annoncer, alors que je venais d'acheter un disque 1To pour faire un backup et refaire un serveur plus gros, le tar s'est stoppé, puis mon RAID5 m'a montré 2 disques faulty. En théorie ça veut dire données définitivement perdues.

Je n'avais jamais eu de disque en erreur, et d'un coup, comme ça, deux disques s'arrêtaient en même temps.

Comme je ne pouvais pas y croire, j'ai fait une première connerie...

J'ai effacé le tar pour en refaire un, car je n'avais pas vu que le RAID était planté... Quand je m'en suis rendu compte, j'ai essayé de récupérer le fichier tar effacé, mais 8h après (reiserfsck est long puis les disques sont gros), il n'avait pas récupéré le tar.

Alors je me suis arrêté de paniquer.

Je n'ai pas à l'heure actuelle, récupéré les données, et bien que j'aie quelques stratégies pour le faire dont une en cours, je me suis dit que c'était le moment d'en parler.

Tout d'abord quelle que soit l'origine du problème, il faut toucher le moins possible aux disques!

(après qu'il ait essayé une fois de se reconstruire en échec)...

Dans mon cas, le RAID5 était sur
/dev/sd[abcdefgh]2

Ce que je viens vous expliquer ici est destiné à vous éviter de perdre beaucoup de temps car chaque opération est très longue, on parle de centaines de gigas à chaque fois, donc pour dumper une image c'est 3h, pour la copier vers un autre disque c'est encore 3h, et il y en a 8... Donc vous allez dédier une machine rien qu'à ça. L'ingénieur de l'informatique de la boite où je bosse m'a prêté une machine. J'ai tout mis sous onduleur (y'a un moment on ne prend plus de risque).

J'ai fait beaucoup de choses, mais je peux dire qu'il faut commencer par ACHETER DES DISQUES pour couvrir deux fois la somme des volumes des partitions mises en RAID: les disques ont et des erreurs, ils en auront d'autres, on travaillera sur des COPIES.

8 partitions de 200Go, ça fait 1,6To, j'achète donc un deuxième disque de 1To. Au passage heureusement que je n'avais pas plus de 8 disques parce que le driver de loopback s'arrête à /dev/loop[0-7], et que je pense qu'il faudrait le recompiler pour augmenter cette limite...

Mais je ne vais pas faire d'extraction à chaque fois que la reconstruction se plante, donc j'achète encore 2 autres disques pour loger les originaux des dumps d'images de disques.

Tout ça dans des boitiers USB car je ne vais pas ouvrir le serveur pour ça...

Les deux premiers disques sont montés en reiserfs sur /media/disk et /media/disk-1

Utiliser fat32 n'est pas à tester, une image disque fait plus de 2Go, la taille max d'un fichier fat32. NTFS à la rigueur pourrait être utilisé...

CREATION DES IMAGES DES PARTITIONS DU RAID
Je lance dans deux consoles les deux scripts suivants:

EDITED: Voir plus bas (chercher ddrescue), ce n'est plus la meilleure façon de faire...

et

On lance les deux en parallèle, et on revient le lendemain... C'est TRES LONG!

3h par device pour moi, et comme y'en a 8 et qu'on parallélise un peu, ça fait un peu moins de 24h...
On vérifie les deux fichiers de log qu'il n'y a pas eu trop d'erreurs sur des disques différents...
On vérifie que les tailles de fichiers sont dans l'ensemble pareilles. Dans mon cas l'un des disques est beaucoup plus petit, mais bon, le RAID devrait à la reconstruction, peupler ce qui va bien, d'autant que le logical volume ne prend que le début...

Après, on copie le tout sur les disques de travail,  ce qui devrait prendre encore 24h...

OK, on se trouve sur une autre machine, avec un linux tout neuf, et les deux nouveaux disques contenant les copies des fichiers dumps des partitions RAID5.

On va en créer des devices, puis reconstruire le RAID dessus.

CREATION DES DEVICES A PARTIR DES IMAGES
-- tout est en root

(ne doit rien retourner, on ne peut pas faire ça sur un live linux qui utilise déjà 2 ou 3 loopback devices ce qui fait qu'il n'en reste pas assez, les kernels habituels sont compilés pour 8 loopbacks, j'ai 8 disques, j'ai donc besoin des 8).

On se détend, on travaille sur des copies de copies...
ça c'est instantané.
Ici le losetup -a donne la liste des devices loopback que l'on a créé.
Pour expliquer un peu, mdadm a besoin de devices pour recréer un RAID, et je ne veux pas réutiliser les disques, avec les dd j'ai créé des fichiers images de mes disques, et je dois en refaire des devices, ce qui est possible avec les devices loopback.
Une fois le losetup fait, le device /dev/loop0 se comportera exactement comme /dev/sda2 sur la machine plantée. J'avais8 disques, je le fais donc 8 fois.

C'est maintenant que ça va se corser, on va reconstruire le RAID dessus, mais j'en parlerai lors d'un prochain post.

Mes tentatives de mdadm --assemble n'ont pas réussi, mais c'est toujours à tester d'abord, car les superblocks ne sont pas nécessairement corrompus.

Je reviens à vous demain, j'y verrai plus clair vu que c'est en cours...

A++
--
Wile "Gardons notre sang froid"

Après ce genre de crash mdadm rechigne souvent à réassembler l'array, chez moi j'ai eu une fois le problème : 1 disque crashé suivi de 2 autres qui avaient décidé de ne plus répondre, d'où une array en panne. J'ai été obligé de forcer le réassemblage (et peut-être de nettoyer les superblocs, je ne suis plus très sûr), évidemment certaines données sont corrompues mais la robustesse de l'ensemble m'avait assez surpris à l'époque.

 
Tu sais quel filesystem tu utilisais ?
 
A++
--
WileCoyote

C'était du Reiser (v3 et quelques), depuis je suis passé sur du ext3 (essentiellement pour des raisons de simplification de ma config).

ta pas essayé de voir si ils etaient pas simplement "sorties" du raid ??
 
ça m'est arrivé une fois.
2 disques sur 4 hors du raid.
 
#mdadm --add  ...
 
les a réintégré, il a reconnu le contenu et les a remis comme a l'origine (un en actif et l'autre en spare).
j'ai donc tourné sur 2 disques seulement le temps qu'ils les réintegre, mais j'avais toutes mes données et j'y avais tjrs accès.
 
bon courage !!

moi sur ga-ep35-ds3r .. parfois , a froid , quand j'allume le pc le pilote ahci (au bios donc) ne vois aucun disque dur ...
 
c'est bizarre , un bug ich9r ?

Je vais sans doute remplacer dd par dd_recover qui semble plus tolérant aux disques défaillants, je vais repartir pour une extraction de 24h...

dd_rescue permet aussi de récupérer un maximum de données, tout en filtrant les blocs qui sont définitivement cuits.

 
Bonne chance

oui c'est celui-là, ddrescue,  que je voulais dire...
 
A++
--
Wile

Bonjour
J'ai une tite question, j'ai 2 raid0 soft sous linux et je voudrais savoir s'il est possible de configurer le spin down de tout ses disques sans que ca foute la pagaille dans mes raids et aussi si c'est conseillé ou non.
Merci

De toutes façons, tes disques stripent les données, donc les deux disques ont besoin de tourner en même temps.
 
Je ne vois pas pourquoi ça mettrait la pagaille dans le RAID.
 
Tu as essayé ?
 
Je ne pense pas que ce soit plus déconseillé que le RAID0...

Disons que comme j'ai aucune sauvegarde je voudrais stresser au minimum mes disques. Ptet que la majorité des problèmes liés aux disques apparaissent au démarrage. C'est un peu comme un pc qui est sans cesse en train d'être allumé et éteint, c'est pas bon pour le hardware

I survived RAID Crash !
 
Bonnes nouvelles, je vais décrire ce que j'ai fait pour que les malchanceux qui auront perdu leur RAID5 comme moi puissent en récupérer le maximum.  
 
Dans l'ensemble, les grands principes :
-Il va vous falloir acheter des disques pour les opérations...
-Ca va prendre du temps, et on est sur qu'on va perdre quelques trucs.
-Extraire avec ddrescue des images des partitions
-Travailler sur des copies des images (ne pas travailler sur les disques cassés, et limiter les extractions)
-Récupérer le RAID et le laisser faire
-Monter le filesystem avant de tenter sa réparation et récupérer le maximum de choses en l'état.
 
OK, maintenant je développe :
 
L'opération s'est (pour moi) déroulée sur plusieurs semaines, parce que j'ai tatonné, mais surtout parce que les volumes sont importants. Pour faire l'opération sans tâtonner, ça met une bonne semaine quand même...
 
TOUTES LES OPERATIONS sont sous l'utilisateur root (donc sous ubuntu, un sudo su - fait l'affaire, un su - sur les linux normaux   )
Toutes les opérations sont en ligne de commande, et il n'y en a pas des milliers en parallèle, pourquoi ne pas les lancer en terminal texte hors de GNOME (Ctrl+Alt+F1 à Ctrl+Alt+F8 avec Ctrl+Alt+F7 pour revenir au graphique) ? Ca a l'avantage pour des traitements longs, de permettre de sortir de la session graphique, ce qui libère de la mémoire pour le cache...
 
1- Acheter des disques USBs pour une capacité de 2x la taille des partitions du RAID (en comptant un spare), puis un avec le volume utile. Moi j'avais 8x200Go, donc 2x 1To pour l'extraction, et 2x1To pour la copie des images. J'ai fait mon "gagne petit" en restaurant vers l'un des deux premiers disques, j'ai mis les images de disques à erreurs sur l'autre.
 
    Comme on a des disques en erreur, il faut y toucher le moins possible, et TRAVAILLER SUR DES COPIES.
    On va donc extraire des images, et travailler sur les copies des images.
    Le volume dont je parle parait énorme mais en général ça ne plante pas à la mise en place, mais quelques années plus tard, donc les disques existent, et pas cher. J'ai acheté des disques 1To Samsung et des boitiers USB/eSATA CoolerMaster XCraft.
 
2- Formater les nouveaux disques.
    J'ai fait ça en Reiserfs, parce que je le vaux bien.
    ATTENTION, PIEGE A CONS, ne formatez pas le mauvais disque!!!
    faire un df -h pour être sur de ne pas formater un disque qui contient les données.  
 
    Pour le disque vers lequel on va faire le restore final, il n'est pas idiot d'utiliser NTFS (faire un formatage complet), ainsi les données seront disponibles depuis un Windows. Je rappelle que le formattage en NTFS nécessite un OS Windows.
 
3- Faire des images des disques.
    Dans mon cas, les disques de l'array RAID5 sont /dev/sd[a-h]2
    Le premier disque qui va recevoir les images abcd est monté automatiquement sur /media/disk, le second est sur /media/disk-1
 
Je le présente en séquentiel, si ça vous amuse de paralléliser, y'a pas de risque, si ce n'est que ça peut durer plus longtemps...

Pour info, j'avais des partitions de 200Go, cette opération dure 3h par ligne!!!  
Là on a des images avec des erreurs, et les logs indiquant où se trouvent les erreurs, on va faire une nouvelle passe juste pour les erreurs...
on va enrichir ces images en essayant de corriger au mieux les erreurs :

Là, plus il y a des erreurs plus ce sera lent, mais il ne va scanner que là où la première passe a détecté des erreurs ...
Doc de ddrescue: http://www.manpagez.com/info/ddres [...] hp#SEC_Top
Ce n'est pas la peine d'insister, on a récupéré le maximum...
 
Les messages que ddrescue a donné pendant l'exécution peuvent vous donner une estimation de vos chances de tout récupérer... C'est pas bête de les logger en terminant chaque ligne d'un  

 
4- Copier les images sur les autres disques
    Je sais, c'est long, c'est pénible, mais on ne touche plus aux disques. Ca permettra si les opérations ne se passent pas bien, d'avoir un point de sauvegarde.
 
5- Monter les images comme devices
    Moi, j'ai mis les disques sur une autre machine, avec une version plus récente de Linux, un processeur plus rapide, et bon, je pouvais, quoi.
    Pour faire ça, j'ai fait ceci (c'est instantané)

 
Vous pouvez contrôler le résultat avec losetup -a, et si vous vous êtes trompé(e) losetup -d /dev/loop<n> permet d'efffacer un /dev/loop<n> pour relancer la commande.
 
6- On va recréer le RAID
    Moi j'avais mis des options par défaut, mais j'avais 7 disques plus un spare...  
    Je recommande de tenter le mdadm --assemble avant le mdadm --create
    Dans mon cas, le device était /dev/md0, je reprends le même mais je ne sais pas si c'est obligé...
 

 
    Ca n'a pas marché pour moi, je l'ai constaté au message d'erreur, et en controlant /proc/mdstat
 
    Par contre mdadm est bien fait, le --create ne détruit pas les données. Son boulot c'est de faire un device à partir de plusieurs, résistant à la défaillance de l'un d'eux (et pas de 2), il va recréer un device RAID cohérent, mais il ne gère pas le filesystem.
 
    Pour moi j'ai du faire :

 
    ...et là, ça mouline, pendant (pour moi = 1To sur 8 images) 10h
 
   Petit script pour voir où ça en est :

 
 
   CE QUE JE N'AI PAS EU A ESSAYER (et qui peut marcher):
      --assume-clean : ça peut être pas mal de faire ça puis un --set-faulty de l'image du disque qui a eu le plus d'erreurs
      --force
 
7- Montage du filesystem
    HEIN ? QUOI ? IL VA PAS MONTER LE FILESYSTEM !!!
    Ben en fait c'est ce qui m'a sauvé... Avant de tenter des opérations qui vont durer des jours et des jours, pourquoi ne pas laisser le filesystem tenter de retomber sur ses pattes ?
 

 
    Et là, miracle, en quelques secondes, à part quelques I/O errors bénignes, des fichiers, des directories, qui me rappellent quelque chose...
    Donc je vous conseille de faire ça, parce que si ça ne marche pas, ça ne peut rien casser, vous travaillez sur des copies des images...
 
    Je ne dis pas que tout est là.
 
    J'avais beaucoup de photos en RAW, donc j'ai téléchargé et installé UFRaw, et il retrouvait des fichiers cohérent, des images que j'avais faites, et que je craignais perdues ressortaient de l'abime...
 
8- La copie
     Bien sur vous savez copier des fichiers.
     Mais là, il y en a beaucoup. Vraiment beaucoup. Rien que les photos, j'en ai plus de 60000... Plus mes documents, plus des tas de choses...
 
     Il faut un système qui vérifie que la copie se passe bien, et qui puisse reprendre en cas d'arrêt.
 
     C'est cadeau, c'est inclu dans Linux comme dans tous les Unixes dignes de ce nom, ça marche en distribué-sécurisé, mais là on va faire du bon vieux local...
 

     Bon, ça c'est optimiste, car ça suppose que tout va bien se passer... Dans l'ensemble on a remonté un disque qui a un file systèm dans lequel il y a des trous, faut pas rêver, on va avoir des problèmes. Donc si ça plante, patience, faites-le directory par directory...
 
     En tous cas, je respire !
 
A++
--
Wile

Trés beau boulot que tu as fait là, même si je n'ai plus trop le topic en tête, j'ai décroché à plusieurs endroits lors de ma première lecture

Je reviens sur un point qui est faux:

Pas forcément, par exemple sous ubuntu, tu peux très bien utiliser gparted avec le paquet ntfsprogs ( http://www.linux-ntfs.org/doku.php ) qui ajoute le support du formatage ntfs (en plus d'autres outiles) sans devoir rebooter sur une machine windows (et dans ton cas, sans trop bouger les disques de machines). Une version ligne de commande doit aussi être disponible (ca serais un comble sinon ^^).

Je ne connais pas tout (loin de là même), mais est-ce qu'une récupération depuis un livecd n'est pas une solution "sûre" de ne pas tout casser ou re-casser ? Un boot sur le livecd pour avoir accès aux différentes commandes, l'accès aux disques externes et partitions internes...

P.S: les photos page 5 ne sont plus disponibles (erreur 403, Forbidden) [edit] Free qui fait le ménage... http://www.pcinpact.com/actu/news/ [...] erreur.htm

Bravo pour la recup
Et post très sympa qui pourra resservir (même si j'espere le moins possible !)

c'est clair beau boulot, sans paniquer (ou le moins possible), et tres bien résumé.
 
Un post qui pourra en sortir plus d'un d'une mauvaise situation !!
 
A+

Merci de vos messages !  
 
J'ajoute ici une petite chose : comme ma première passe a permis de récupérer 99,9% des données, je me suis dit que j'allais travailler sur les 0,1% restants, de manière détendue, et ça paye.
 
J'ai donc démonté mon filesystem, et j'ai lancé un simple  

 
10 heures après, je le re-mounte, et je regarde... A priori à part un gros lost+found, rien de transcendant, mais la machine est plus à même de contrôler les différences...
 

Cette commande magique va vérifier que c'est synchro et archiver les restoration de la première passe en .1stTry donc au pire on double le volume, au mieux on est surs qu'on n'aura pas mieux.
 
Et bien bonne nouvelle (à part que le reiserfsck a créé des fichier de plusieurs To sur une partition qui en fait moins, étrange, je les ai enlevés (TRUC: utiliser kdirstat qui existe sous le nom windirstat sous Bill) pour ne pas bloquer ma copie), la poignée de fichiers qui avaient (de mémoire) échoué, la plupart sont restaurés, le reste sont devenus des fichiers de plusieurs To, et c'est pas tombé sur des fichiers importants (backups d'autres PCs que je referai à la première occasion)...
 
Donc j'aime bien ReiserFS...
 
A++
--
Wile

quand meme ta du y passer du temps pour les trouver toutes ces commandes...
 
encore bravo!

C'est clair, bravo

Des avis, retour d'experience sur un filer gérant le Raid-Z / ZFS

 
Oui, merci, c'est pour ça que j'indique tout ça ici, en partie pour pouvoir le refaire, et aussi pour que vous les gens, ne passiez pas par autant de soucis que moi.
 
A++
--
Wile

Salut,
 
Ayé, je me lance enfin dans l'aventure après longue reflexion et test sous vmware. Mon matos se compose de :
 
- CM A8N SLI deluxe (8 ports sata)
- 1Go (2 x 512Mo) RAM corsair TWIN-X
- Athlon 64 3500+
- Carte PCI-X 64-bit  4 SATA II (DONC TOTAL 12 sata)
- 2 HD SEAGATE IDE 320 Go pour l'OS en RAID1 (1 disque / controleur IDE)
- 5 HD SAMSUNG SATA 750Go Pour les data en RAID-Z
- 2 HD SEAGATE 500Go en ZFS (donc non secure pour l'instant, transformable en RAID-Z avec 3 disques de 500Go de plus)
- Boitier thermaltake shark (5 HD de base)
- 2 racks 5 1/4 LIAN-LI 23 et 34 pour mettre 7 HD de plus (TOTAL 12 emplacement HD)
- alim SEASONIC S12 500W
- Onduleur MGE O.P.S. Ellipse ASR 750 USBS
 
Je vais donc faire :
IDE : 1 disque sur primary, 1 disque secondary en RAID 1
CM SATA NVIDIA : 4 disques 750Go
CM SATA SILICON : 2 - 4 disques 500Go
PCI-X SATA : 1 disque 750Go et 1 disque 500Go, il me reste donc 2 ports sata pour mes disques externes.
 
L'OS sera Solaris 10, car il support en natif le ZFS/RAID-Z. Cette distribution est compatible avec ma CM (driver NIC etc....).
 
Le tout sur un rezo Gigabyte. Les perf ne sont pas ma priorité, c'est juste pour du stockage, mais ca devrait rouler.
 
J'attends l'arrivée des disques 750Go et 320Go (commandé hier)
 
Je ferai un tit topo sur mon aventure Montage/Solaris/ZFS/RAID-Z etc...
 
++

Du Raid 5 logiciel donc ? (enfin une variante, le Raid-Z)  
Sans sauvegarde, ça reste quand même risqué je pense ...

C'est ca, avec en plus la partie transaction/correction d'erreur qu'apporte le RAID-Z.
 
Pour les sauvegarde, je vais backuper sur disque externe et DVD les données les plus importante (photos).
La plus grosse partie des Go concerne les données multimedia, au pire ce n'est pas une grosse perte en cas de
gros gros crash.

Le matos est arrivé ce matin : Onduleur, HD + qq cables et racks....Je commence la semaine prochaine.  
 
En relisant ton post ph75, je me demande à quelle genre de sauvegarde tu penses?

Il parait que ZFS c'est lent j'ai hate de voir si c'est vrai ou pas. Vivement ton feedback.  
 
Sinon onj parle de linux... si on voulait faire ce qu'a  fait Wile ( moi aussi pour l'occasion) avec FreeBSD un guru pourrait nous eclairer ?

tfh, les commandes de freebsd sont a qques chose pres les memes commandes que sur un linux. il faut juste s'assurer que les apps dont tu aura besoin sont portés sous freebsd, mais bon c'est souvent le cas...

Ben pour un particulier, y pas 36 solutions, la bande est d'un coût inaccessible à cause du prix du lecteur, donc il ne reste que le disque ...
Mais un RAID 5 logiciel reste assez risqué dans la mesure où un plantage du système est susceptible d'amener une corruption plus facilement que sur un mirroring (ou un volume simple) ...
L'utilisation de barrettes mémoires ECC peut être un plus, j'ai déjà eu une corruption complète d'un FS mirroré sous Linux à cause d'une barrette défectueuse (là rien à voir avec la redondance, cela se produirait de la même manière avec un volume simple)
Sinon il y a 10 ans j'avais installé un serveur Solaris (Sparc) en RAID 5 logiciel, et c'est vrai qu'il n'y avait pas eu de problème, maintenant la stabilité du système avec son hardware propriétaire (et ses drivers provenant du constructeur, pas sous-traité comme pour le x86) devait y être pour beaucoup ...    
 
 

Mouais, sauf que mdadm et autres linuxeries n'existent pas sous FreeBSD, sous ce système on utilise une fonctionnalité qui s'apelle vinum : http://www.freebsd.org/doc/en_US.I [...] vinum.html

 
merci je vais checker vinum.  

 
C'est ce que j'ai prevu avec un disque externe en sata avec backup automatique, juste pour mes données les plus importantes (Photos, factures, fiches paies)... Un backup DVD sera fait de toute facon plusieurs fois par ans et mis dans le coffre des mes parents.
 
J'ai regardé également au debut les sauvegarde sur bande, c'est inaccessible.
 
Pour le reste des données, j'ai besoin d'un bon compromis entre securité, espace disque, couts sachant que je ne suis pas une entreprise...  
Le mirroring me couterai trop chère au vus de la place dont j'ai besoin. Le raid-z correspond au mieux à toutes ces attentes. Il évite également certain problèmes connus du RAID 5 (auto correction data etc....).  
En cas de catastrophe (2 hd qui petent en 5mn, le serveur brule, ma maison s'écroule) tant pis, j'aurai fait au mieux pour un serveur @home.
 

Ayé le serveur est installé et operationnel sous solaris 10, avec RAID-Z. (3To de dispo )
J'ai encore 2-3 choses à faire (SAMBA etc...) et je ferai un topo sur la procedure d'install sur le forum....