Reprise du message précédent :

 
 
voilà, en gros pour monter des raid soft mdadm :
 
1/ créer le/les périph' md (md0, md1, md2... etc si on monte plusieurs raid soft)
pour l'exemple, je vais faire un raid5 de 4 disques pour md0 et un raid1 de 2 disques pour md1
 
cd /dev (plus pratique pour la suite sinon ça devient vite chiant de toujours taper /dev/.....)
ensuite il faut créer sur cahque disque, une partition avec un flag FD (linux raid auto), la plupart des distro peuvent s'affranchir d'un fichier de conf /etc/mdadm.conf avec ce flag (bien plus pratique)
mknod md0 b 9 0
mknod md1 b 9 1
...
chmod o-r md*
mdadm --create md0 --level=5 --chunk=32 --raid-devices=4 sdb1 sdc1 sdd1 sde1
mdadm --create md1 --level=1 --raid-devices=2 sdf1 sdg1
 
(--level : niveau de raid
--raid-devices : nb de périph' bloc
--chunk : chunk size en ko, valeurs possibles : {4,8,16,32,64,128,256,512,1024,2048,4096}, les meilleures valeurs sont 16/32/64)
 
pour voir la progression du rebuild/état des array : cat /proc/mdstat
 
pendant ce temps, on peut créer les fs dans les md :
 
mkfs.ext3 md0
tune2fs [options] md0
mkfs.reiserfs md1
...
bon là on fait comme on veut
 
modif fstab, par exemple on ajoute

modif smb.conf pour les clients windows sans sfu
modif /etc/exports pour les éventuels partages nfs.
 
on va dans /mnt pour créer bidule et machin (mkdir bidule machin)
on monte tout (mount -a)
on met les bons droits sur les racines à grand coup de chown/chmod
____________________________________________________
 
oui c'est bien, mais et qu'est-ce qui se passe le jour où un disque foire ?
____________________________________________________
admettons qu'on vire les disques sdd et sdg, et remplace par d'autres (ou plus simple, qu'ils soient morts), et qu'on veut reconstruire :
on refait les partoches raid autosur nos disques avec le flag FD
 
cd /dev
mdadm --manage md0 --add sdd1
mdadm --manage md1 --add sdg1
 
cat /proc/mdstat pour voir la progression
 
mdadm diffère la reconstruction des grappes si on en lance plusieurs en même temps (il s'occupe de la première puis passe à la 2eme, etc...)
 
seul le --create peut vraiment bousiller un raid soft déjà en place
pour avoir plus d'info, on peut ajouter --help (mdadm --create --help par exemple)
 
voilà c'est tout bête
 
Les plus vicieux, qui ne veullent pas se fatiguer à faire 36 partoches sur les disques (pour faire des raid soft de même nature mais avec plusieurs partitions, par exemple), on peut faire un gros md et le redécouper ensuite avec lvm2 (ça ne fonctionnera pas avec fdisk, donc création d'un vg composé d'un seul pv, puis découpage du vg en plusieurs lv)

smarrant, on s'adresse à des partitions pour mdadm, pas à des disques

on peut le faire avec des disques, le pb c'est que vu qu'il n'y a pas de mbr et donc pas de flag dans ce cas là, en fait linux ne sait pas à quoi servent les disques (pas de flag linux raid auto dans la mbr), donc ça oblige à créer un ficher de conf, très chiant parceque du coup ça devient nettement moins portables, et il ne faut pas oublier la conf non plus (surtout l'UUID qui doit être inscrit dedans), il faut donc sauvegarder le fichier de conf, bref c'est la merde... des partoches c'est nettement plus simple vu que détecté automatiquement à chaque boot (ça reste à voire en fonction des distro)
En tous cas pour les distro comme centos/redhat (typiquement ce qui me sert à faire un NAS vu que je me suis beaucoup farci de redhat en milieu pro), c'est pas nécéssaire de faire un fichier de conf
pour debian non plus il me semble (la honte, ça fait 1 an que je n'ai pas touché une deb'     )
 
d'habitude, pour créer le fichier de conf, on attend que les sync des array soient finie (sinon la sortie mettra les mauvaises info, genre état de resync...), puis on fait simplement un mdadm --detail --scan>/etc/mdadm.conf

Pas besoin non plus sous Debian, ce qui fait en grande partie l'intérêt de mdadm par rapport à l'ancien outil (raidtools, qui avait obligatoirement besoin d'un fichier /etc/raidtab pour fonctionner).

ah stune bonne idee de faire ça avec le flag et des partitions, j'y penserais que j'en serais a monter le raid.

sympa le petit topo rapide
 
pour un raid1 du disque système, c'est un peu plus rude (bootloader à mettre sur les 2 HDD, création d'un raid1 dégradé etc...)

pour ma part, c'est fait ^^
 
tuto suivi : http://www.cameravideo.net/forum/f [...] -soft.html
 
reste à gérer le monitoring.

Pour ceux qui sont intéressés par la carte Jetway NC92 avec l'extension ajoutant 4 ports SATA, je poste un petit aperçu de mes déboires :
 
- install de Debian : OK, après reboot le kernel passe un temps fou à essayer d'interroger les disques branchés sur la carte fille, qui utilise un chipset Marvell ; le système finit par booter, mais en faisant des erreurs de fsck de plus en plus graves d'un boot à l'autre, pourtant le disque root est sur un contrôleur différent (JMicron), peut-être est-il lui aussi buggé avec ce noyau ?
 
- install de FreeBSD : OK, mais la carte fille n'est pas détectée ; après rapide recherche le support des chipsets Marvell semble douteux, je laisse donc tomber (surtout que j'ai du mal à me refaire à la logique de FreeBSD)
 
- install de Ubuntu Server : OK, après reboot mêmes lenteur que sous Debian à cause de la carte fille, mais au moins je n'ai plus de problème de fsck
 
Apparemment les chipset Marvell posent problème avec certaines versions récentes du noyau (2.6.26 pour Debian, 2.6.28 pour Ubuntu), quelques détails en anglais ici : http://www.nabble.com/How-to-get-a [...] 79927.html
 
Le problème est partiellement contournable via l'ajout de l'option "ahci.marvell_enable=1" à la ligne de démarrage dans Grub, mais dans mon cas cela n'avait fait que mettre fin aux messages d'erreur concernant le PATA (il n'y a même pas de ports de ce type sur la carte fille ), à la place j'avais de nouveaux messages sur la partie SATA (du genre : "failed to IDENTIFY (I/O error, err_mask=0x4)", "SATA link up 1.5 Gbps (SStatus 113 SControl 310)" ), et toujours pas de disques détectés au final.
 
Solution définitive : récupération des dernières sources du noyau (2.6.31), configuration en désactivant au passage l'option "Marvell PATA support via legacy mode" (histoire d'être sûr de dégager ce truc inutile), puis recompilation et install (un tuto est dispo ici pour faire ça proprement avec package et tout et tout : http://doc.ubuntu-fr.org/tutoriel/ [...] sur_mesure ). Au reboot, miracle, plus d'erreurs ! Du coup la grappe RAID5 est en cours de construction, mais ça prend un peu de temps (vitesse ~20 Mo/s, temps indiqué pour 4x1,5 To ~18 h).
 
Le proc Atom n'est certainement pas un foudre de guerre, la compil du noyau a pris 2-3 heures. Les install de packages semblent un poil moins réactives  que sur mon ancien serveur (à base de E2140), je verrai bien comment il se comporte dans l'ensemble. Pour l'instant un hdparm me sort du 70 Mo/s, mais avec la construction du RAID en cours c'est probablement peu fiable comme chiffre.

(bon) courage

Merci, surtout qu'il faut encore que je rapatrie les données depuis l'ancien serveur, dont le disque système a claqué définitivement : j'avais un boîtier Enermax acheté en déstockage faisant du RAID1 sur 2 disques 2,5", le disque maître ne fonctionne plus, et le second disque est inaccessible J'ai plus qu'à démarrer depuis un CD Debian en mode rescue pour pouvoir récupérer les données de la grappe RAID. Le bouzin Enermax va filer directement à la poubelle dès que j'aurai fini mes manips

Un peu plus de feedback sur ma config après une petite semaine d'utilisation : le boîtier est bien, le matos est un peu serré mais la ventilation suffisante (2x80 mm à l'arrière dont j'ai réduit la vitesse, j'ai ajouté à l'avant un 60 mm sur l'emplacement prévu pour afin d'injecter un peu plus d'air).
 
Les disques, des Samsung EcoGreen (5400 tr/min), sont suffisamment performants pour mon usage, mais ils grattent beaucoup en écriture, ce qui est un peu génant même si mon NAS n'est pas au milieu du salon. Peut-être que l'activation du NCQ limiterait les dégâts, malheureusement la fonctionnalité n'est pas supportée par ce contrôleur (je ne sais pas si c'est une limitation du chipset Marvell ou du module Linux) :
 

J'ai encore eu quelques soucis avec la carte contrôleur propriétaire de Jetway : en gros l'utilisation de commandes hdparm ou smartctl provoque des reset sur le port SATA concerné. Si on ne l'utilise que ponctuellement ça va, mais j'avais installé Munin (outil de monitoring à la MRTG) qui relevait des valeurs toutes les 5 minutes, en moins d'une demi-heure la grappe RAID était HS (2 ou 3 disques indisponibles sur les 4, obligation de rebooter pour les voir réapparaitre).
 
Côté consommation le wattmètre m'indique quelque chose comme un peu moins de 60 W (moins de la moitié de ma config précédente).
 
Les perfs de l'Atom 330 restent correctes, et même très bonnes avec certaines applications : j'ai un serveur Java tournant en permanence, sur l'ancienne config il générait 1 à 2 points de load average, maintenant je suis en permanence en-dessous de 1 point (l'Hyper-Threading ne doit pas y être pour rien). Particularités à noter pour le 330 : il n'y a pas de fonctionnalité d'ajustement de la fréquence (en même temps vu la faible consommation ça n'est pas rédhibitoire), et il supporte le 64 bits (ce que j'ai découvert après installation, mais j'ai la flemme de recommencer donc il restera en 32 bits). Pour ceux que ça intéresse on peut trouver chez Intel des tableaux comparant les caractéristiques des processeurs Atom : http://ark.intel.com/Compare.aspx? [...] 5641,35635

alors Florent, tu t'en sors ?
d'ailleurs, en relisant ton dernier post, c'était quoi l'ancienne config de ton serveur java (parce que tu la compares avec celle utilisant l'atom 330) ?
 
 

moi j'ai voulu monter de l'esxi 4, mais la HCL est plutot miserable.
il n'y a guere que les chip intel qui sont supportés en carte reseau, et il ne s'installe pas sans carte reseau...

Oui, le serveur est maintenant "en prod". Je n'ai pas encore eu le temps de démonter l'ancien, faudra que je m'y mette un de ces quatre.
 

C'était un Pentium E2140, donc dual-core à 1,6 GHz. L'Atom 330 utilise en plus l'HyperThreading, ce qui semble pas mal booster les applications Java.

Quelqu'un a déjà testé le board MIT-6852 de la compagnie Habey USA ?
 
Board Mini-ITX, 2 cartes gigabit, 6 ports SATA2, un port PCIe 16X
 
Tout ce qu'il faut pour faire un petit NAS !
 
Il fonctionne avec processeur PGA479 (processeur de portable)  Il y en a sur ebay pour 40$ shipping inclus.
 
Le seul hic, le board est 230$ USD + Shipping...
 
Edit: le lien, http://www.embeddedstar.com/weblog [...] -mitx6852/

je me suis permis de quoter ton post dans le topic mini itx

autant prendre du commel avec un petit core 2 duo a pas cher je pense

Salut, je cherche la référence du boitier, merci J'ai lu le sujet en diagonale mais je n'ai rien trouvé En fait je suis intéressé de trouver un boitier du même genre pour mettre quelques tas de disques durs, je suis aussi photographe maniaque du déclencheur

 
celui de la page 5 c'est écrit dessus : cooler master stacker
sinon tu as une alternative bien moins onereuse (mais moins bien fini) : http://www.sharkoon.com/html/produ [...] ex_en.html

Cool, je ne connaissais pas, merci

Salut à tous,
 
Je suis tout nouveau sur le forum, je ne sais pas trop si je dois poster ma demande ici.
 
Alors voilà ma demande : je compte me monter un serveur de fichier en RAID 5 (software) (avec surement une evolution vers serveur FTP plus tard) et je me suis fais une petit config pour environ 330 € :
 
CM : MSI G31TM-P21
µP : Intel® Celeron® 430 (Boîte)
RAM : G.Skill Kit Extreme2 2 x 1 Go PC6400 PK
Boitier : Asus TA-863
Alim : Cooler Master Elite Power - 400W
HDD 0 (OS) : Maxtor DiamondMax 21 S-ATA/II - 80 Go - 8 Mo
HDD 1,2,3 (DATA) : 3 Maxtor DiamondMax 23 S-ATA/II - 500 Go - 16 Mo
 
Et j'aimerai connaitre vos avis.
 
Je pense installer ubuntu server dessus
 
Merci d'avance.

Sécuriser le disque de l'OS avec un RAID-1 peut- être une bonne idée, histoire de ne pas perdre de temps à tout réinstaller en cas de crash. Ca implique évidemment d'ajouter encore un disque, je ne sais pas si la CM a assez de ports et le boîtier assez d'emplacements.
 
M'enfin je dis ça mais de mon côté je n'ai qu'un disque système (boîtier trop petit pour en prendre plus), qui est complètement sauvegardé tous les 3 jours sur la grappe RAID-5, histoire d'avoir une image sous la main en cas de problème.

La CM dispose de 4 ports SATA et le boitier de 4 emplacement 3,5 internes mais bon après je pourrai peut-être utilisé les baies externes pour passer l'OS en RAID 1 mais pour le moment j'aimerai limiter mes dépenses et rester avec une config inférieur à 350 €

Avec quelques mois supplémentaires de recul, que penses-tu du matos choisi ?
Je pense faire quelque chose de similaire (boitier chembro + CM Jetway), sous Debian aussi (what else ? ), as-tu testé des noyaux plus récents (2.6.32) pour voir si y a du mieux pour les quelques petits soucis que tu rencontres ?
Quel est ton utilisation générale (quels services) ? Car j'hésite entre la JNC92-230 (simple coeur) et JNC92-330 (double), pas sûr que le double me serve beaucoup pour ma part (streaming / backup / db)

Pour pouvoir l'utiliser sans trop me prendre la tête j'avais fini par installer une Ubuntu Server, puis recompiler un noyau custom. Actuellement je tourne avec le dernier noyau (2.6.33), mais je n'ai pas vérifié si ça a fait disparaitre les bugs concernant les commandes SMART (je n'ai pas réinstallé Munin).
 
Côté CM vu le faible surcoût je pense que tu as tout intérêt à prendre directement la version 330, le second coeur apportera un supplément de confort pour faire cohabiter plusieurs applications.
 
Par rapport au matos j'aurai les avis suivants :
 
- le boîtier est bien foutu, les ventilos de 8 cm restent discrets
- les disques Samsung ont fini par être remplacés par des Western Digital, qui ne sont pas affligés de cet agaçant bruit de grattage
- le ventilo de la CM n'est pas très discret, il faudrait que je songe à le remplacer : celui de 4 cm que j'ai monté à l'avant du boîtier est en comparaison bien plus silencieux
 
Niveau utilisation de mon côté c'est : stockage (NFS + Samba), Web (Apache/PHP/MySQL), streaming audio (vers 2 Squeezebox). J'avais un noeud Freenet dessus (d'où l'utilisation de Java) mais depuis les dernières versions il est trop instable pour tourner correctement.

Ah ben c'est justement 90% de l'utilisation que je compte en faire  
 
Le choix entre les deux cartes, c'est pas une question de surcout qui est négligeable, faut surtout que je compare les différences de consommation.
 
Merci pour ton retour

Si on s'en réfère au TDP le 330 est à 8 W, contre 4 pour le 230 ( http://ark.intel.com/Compare.aspx? [...] 5641,35635 ). Rapporté à l'ensemble de la config l'économie reste à mon avis minime (mon serveur doit consommer ~60 W).

Le boitier "Array" de Fractal Design me fait de l'oeil :

 
Moins cher que le chenbro, pas de hot swap mais bon, c'est pas un critère de choix pour moi, je compte pas que mes disques crament tous les 15 jours

je compte le commander très prochainement aussi.

Pour la CM/proc, la plateforme Intel D510 m'a l'air d'une très bonne alternative à la Jetway
+ conso moindre de par l'integration au proc de certaines fonctionnalités - northbridge / chip graphique -
+ meilleures perfs
+ moins chère...
- pas de port IDE pour une CF/IDE (mais bon, moyen d'utiliser un boot sur USB à la place)

=> http://www.presence-pc.com/tests/i [...] ail-23245/ (77€ chez materiel.net)

Bon, ça se précise tout ça...

Si j'étais à ta place, je craquerais pour celle là: http://www.gigabyte.com.tw/Product [...] =GA-D510UD
4 sata, 1 ide, moyen de mettre une pico psu sans rogner sur un port ram.
Mais atom oblige, connectique d'un autre temps sur le backpanel

C'est à dire  
La connectique video/audio je m'en cogne un peu pour un usage NAS  
 
Mais sinon bien vu pour les 4 SATA + le IDE

Port parallèle, série, vga et quelques usb. Pour une utilisation NAS ca suffit (encore faut-il avoir un écran vga sous le coude, ou alors avoir des adaptateurs).

Tiens, le D510 est ce qui est utilisé par Qnap pour son TS-459 Pro, ça rassure
http://www.qnap.com/pro_detail_hardware.asp?p_id=144

EDIT: et même les gammes au-dessus

Hello à tous,  
 
Tournant actuellement sur NAS perso à base de Solaris et ZFS, testant les appliances SUN basées sur du opensolaris + ZFS au boulot, suivant un peu l'évolution du dev BtrFS, voyant ce qui se fait dans le stockage professionnel comme NetApp (une référence en baie NAS pro utilisant le fs propriétaire WAFL dont je connais pas mal d'astuces internes sous NDA), je pense avoir un peu de recul sur les bons et moins bon points de chaque solution.
 
Passager lors d'un grand voyage en voiture ou je me faisais royalement chi..., j'ai bien eu le temps de penser à ça et de voir ce qui ne me convenait pas aujourd'hui dans mon NAS, et que j'aurais du mal à trouver de manière générale avec les solutions existantes.
J'ai donc établi quelques critères du fs idéal pour un NAS domestique, et puis après je me suis même mis à le designer. Cela fait maintenant 6 mois que je travaille dessus.
Pour l'instant, point de code, mais j'établis les structures de données, (arbres, etc..), la façon dont le FS utilise les disques, etc...  
Le tout commençant à être vraiment bien fixé.
 
 
Bref, voila en gros les fonctionnalités majeures de l'"usine" que je suis en train de mettre au point :  
1 - checksumming, metadata et data
Algorithme encore non déterminé, mais probablement un fletcher4 (comme ZFS) ou un équivalent 8 octets.  
Pourquoi du checksumming ? Ce n'est pas uniquement pour coller à la mode des FS actuels (ZFS et BtrFS), mais aussi parce que la corruption de donnée devient une vrai cause de perte de données, plus fréquente qu'une double perte de disques dans un RAID6 par exemple.  
A mon sens, un FS sans checksumming aujourd'hui, c'est une erreur.  
2 - copy on write et atomic
Comme ZFS, WAFL, BTRFS. L'avantage, il n'y a jamais d écrasement de l'existant. Si on s'arrête brutalement au milieu d'une mise à jour, on ne perd rien.
3 - gestion d'un pool de disques, et RAID au niveau file system
Comme ZFS et BTRFS, parce que afin de tirer parti du checksumming, il faut le faire au niveau de la même couche que le RAID.  
4 - différent niveau de raid, depuis RAID0 jusqu'à - à déterminer, mais à priori - 4 disques de secours
Parce qu'on a pas besoin de tout stocker dans le même niveau de RAID. Mon exemple perso, j'ai choisi de mettre mon filer chez moi en RAID6 à cause de 250Go vraiment importants. Ils comportent 8 disques de 1.5To ... je perds donc 3To en parité...
De plus, je précise que j'offre des niveaux de RAID tolérant un certain nombre de perte de disque... mais derrière ce n'est pas du vrai RAID0, 5, 6, etc...
5 - granularité du RAID au niveau fichier.
Je pousse à l'extrême le point précédent. Je souhaite pouvoir avoir des niveaux de disponibilité par fichier. Dans mon modèle, dans un même répertoire, on peut avoir des fichiers en RAID5 et d'autres en RAID0. Au pire, certains fichiers passent offline en cas de casse disque.  
6 - pool de disque modifiable à chaud, avec "hot add", "hot remove" (conditionné à l'espace libre), "hot migration"
Parce que un particulier n'achète pas les disques par groupe de 24. ZFS, par exemple, est incapable d'ajouter un simple disque dans un raid group aujourd'hui.
De plus, c'est aujourd'hui important de le faire à chaud, on va pas attendre 15h que cela se fasse.
7 - pool gérant de manière optimale des disques de taille différentes.
Toujours parce qu'un particulier ne va peut être pas acheter tous ces disques en même temps.  
Et quand il veut acheter un disque un an après avoir acheté les premiers, aujourd'hui, il a le choix entre acheter un disque de même taille que les siens pour un prix qui n'est plus optimal, ou achter un disque plus gros, plus rentable, mais qu'il ne pourra pas utiliser de manière complète.
8 - gestion de différentes tailles de bloc, de 4ko à 256ko
Parce que même si un gros bloc est souvent le mieux, il peut arriver que 4k soit plus adapté. (tous les fichiers qui sont modifiés, par exemple)
9 - snapshots (sans impacts (car Copy On Write))
Parce qu'un utilisateur peut éventuellement avoir besoin de ça, et que quand on fait un fs en copy on write, prévoir les snapshots ce n'est pas beaucoup plus compliqué.
De plus, grace au copy on write, les snapshots sont sans impacts. (contrairement a un snapshot LVM)
10 - deduplication & compression
ça peut servir... pas à tout le monde... mais ça peut. Perso, je gagnerai presque un 1To grace a ça.
La déduplication se fait au niveau du pool complet.
Le processus est au choix, à chaud ou en background
11 - optimisé pour les disques avec 4ko / secteurs
Parce que c'est l'avenir. Les SSDs sont déjà en 4Ko, les disques magnétique y viennent déjà, comme par exemple les Westerne Digital. ZFS a eu bien du mal avec ce genre de disques. Je ne sais pas si c'est résolu, mais en tout cas, les données déjà écritent ne le sont pas bien.
12 - gestion d'extents
Histoire de limiter la fragmentation. Aujourd'hui, je fais ça par tranche de 4Mo.
13 - defragmentation pour les datas et les meta datas
ZFS ne sait pas le faire aujourd'hui. Conséquence, avec un pool plein, on commence à observer une chute drastique des performances.
14 - tailing, permettant de regrouper des petits fichiers et les fins de fichiers dans un même bloc.
Parce que des fois, on a plein de petits fichiers.  
Aujourd'hui, j'ai une partie de mon arborescence qui contient 400Go de données et qui m'occupe 1.5To de data sur mon pool ZFS.  
15 - déplacement rapide entre les différents FS internes
Tout le monde ne sait pas le faire. Exemple, ZFS, quand je move un gros fichier, disons une grosse ISO de 4Go depuis le FS "download" vers le FS "ISOs", et bien en interne au NAS, j'ai une lecture et une écriture de 4Go. C'est lent, et en plus, windows le gère moyennement bien, car il pense que l'opération va être rapide.  
16 - plein d'options de tunning accessibles si on le souhaite.
 
 
 
Voila ...
Maintenant, j'aimerai savoir ce que vous pensez de mes critères. Ai-je des envies spéciales ? Uniques ? Pensez vous comme moi ? Voyez vous d'autres choses qui manquerait? (je répète, je pense au FS d'un NAS à la maison, je ne vise pas l'utilisation dans une baie professionnelle)
 
à vous.

invite moi

Je vais faire un FS qui detecte ta proximité, à moins de 100km il coupera le secteur

J'ai déjà vu cette fonctionnalité chez Isilon, leur FS s'appelle OneFS, je ne sais pas s'ils mettent du code à disposition mais je te conseille de jeter un oeil dessus, il y a sans doute des choses intéressantes à en retirer.

 
isilon, c'est le top au niveau du 'scale-out' NAS, et non, ce n'est pas mis à dispo, c'est propriétaire