-==<XTBA>==- https://forum.setiaddicted.com/ |
|
Serveur Fichier 2 / ZFS https://forum.setiaddicted.com/viewtopic.php?f=4&t=1638 |
Page 1 sur 14 |
Auteur : | poulpito [ mer. 12 oct. 2011, 23:38 ] |
Sujet du message : | Serveur Fichier 2 / ZFS |
en train de réfléchir pour migrer mon serveur de fichier sous openindiana et RaidZ/Zpool j'ai plus beaucoup de place donc quitte a rajouter des disques autant le faire intelligemment ^^ augur si tu passe tu as des infos la dessus je me suis monté un proto avec une vingtaine de disques de 1Go / 2Go sous vmware et ca marche pas mal on peut faire pas mal de combinaisons enfin je suis pas encore persuadé |
Auteur : | augur [ sam. 22 oct. 2011, 23:36 ] |
Sujet du message : | Re: Serveur Fichier / Stockage sécurisé |
PRÉAMBULE : En gros, ZFS :
L'équipement nécessaire :
Tutos :
Benchamrk :
=> XFS ou ZFS ? : http://hardforum.com/showthread.php?t=1593111 + http://hardforum.com/showthread.php?t=1651800 => ZFS, XFS et Ext4 : comparaison des performances : http://www-958.ibm.com/software/data/co ... ms-compa/1 => Ubuntu 10.10 x86_64 + Official KQ ZFS Linux Module sur Intel Atom 330 64-bit dual-core HT, 2 Go RAM,, 250 Go Hitachi HTS54502 SATA 5400RPM : http://www.phoronix.com/scan.php?page=a ... gold&num=1 => Zpool et performances : http://www.synergeek.fr/zpool-et-performances/ Comprendre ZFS :
... comprendre le cache : http://www.c0t0d0s0.org/archives/5329-S ... e-ARC.html ... pour aller plus loin, avec des power users : http://hardforum.com/forumdisplay.php?f=29 ... tuning de ZFS : http://wiki.freebsd.org/ZFSTuningGuide /// Les SSD pour le cache L2ARC et ZIL (SLOG) : Spec 2013 / 2014
* eMLC SAS3 12 Gb/s Toshiba PX02SM http://www.storagereview.com/toshiba_px ... ssd_review * eMLC SMART Optimus TXA2D20400GA6001 http://www.storagereview.com/smart_stor ... ssd_review * eMLC STEC s840 http://www.storagereview.com/stec_s840_ ... ssd_review * SLC Toshiba MKx001GRZB http://www.storagereview.com/toshiba_mk ... ssd_review * SLC Hitachi Ultrastar SSD400M http://www.storagereview.com/hitachi_ul ... ssd_review * Intel S3700s http://www.storagereview.com/intel_ssd_ ... ssd_review * Kingston E100s http://www.storagereview.com/kingston_s ... ssd_review Citation : /!\ Spec de 2012 /!\
.... MLC => Crucial M4, OCZ Vertex 3 ++ |
Auteur : | poulpito [ sam. 22 oct. 2011, 23:55 ] |
Sujet du message : | Re: Serveur Fichier / Stockage sécurisé |
qu'est ce que tu veux dire par gros fichiers moi c'est < 15Go puisque films de vacance ce que je voudrais c'est m'affranchir de mdadm qui est à mon sens le point faible dans mon norco de plus j'ai une conf relativement figée dans le boitier donc au pire je ferai que rajouter des disques sous forme de raidz à intégrer dans le zpool existant ma conf sera X8DAL + 2* x5502 + 6*1Go DDR ECC forcé pour le cache read / write osef pas besoin de perfs sur les petits fichiers puisque c'est pour des films et pas des os virtualisé style vm et datastore pareil pas beosin de déduplication et cie c'est ca qui est demandeur de ram |
Auteur : | augur [ dim. 23 oct. 2011, 00:26 ] |
Sujet du message : | Re: Serveur Fichier / Stockage sécurisé |
cf ce blog => http://breden.org.uk/ ... qui a fait pareil que toi : + il a du recul avec l'expérience : http://breden.org.uk/2009/05/01/home-fi ... /#more-131 // la Conf de ZFS : http://breden.org.uk/2009/05/10/home-fi ... e-systems/ Pour ma part, je dois upgrader en 5x 2 To Ext4 mon serveur perso et voir pour du 48 To Haute Perf (~1,2 Go/s R/W sequentiel) si je pars sur du ZFS ou du XFS en Raid6 Hard. ++ |
Auteur : | augur [ dim. 23 oct. 2011, 00:40 ] |
Sujet du message : | Re: Serveur Fichier / Stockage sécurisé |
!!!!!!!!!!!!!!! http://hub.opensolaris.org/bin/download ... fslast.pdf : page 27 ♥ ♥ ♥ |
Auteur : | augur [ dim. 23 oct. 2011, 00:54 ] |
Sujet du message : | Re: Serveur Fichier / Stockage sécurisé |
Peut être faudrait il commencer un new Topic pour ZFS, non ? Nexanta, en fait serait / était du ZFS sous Ubuntu !! => http://www.synergeek.fr/nexenta-solutio ... -ubuntu-4/ ++ |
Auteur : | augur [ dim. 23 oct. 2011, 01:01 ] |
Sujet du message : | Re: Serveur Fichier / Stockage sécurisé |
Linux et ZFS : => http://zfs-fuse.net/ <= dispo pour Ubuntu 10.10 => http://zfsonlinux.org/ => https://launchpad.net/~zfs-native/+archive/stable (ZFS pour Ubuntu) Benchmarks Of The Official KQ ZFS Linux Module (Fuze) 27 janvier 2011 => http://www.phoronix.com/scan.php?page=a ... gold&num=1 ++ |
Auteur : | poulpito [ dim. 23 oct. 2011, 01:03 ] |
Sujet du message : | Re: Serveur Fichier / Stockage sécurisé |
Oui un new topic serait pas mal Pour nexenta pareil. C estle genrede truc dont je suid pas trop fan Si je pars sur zfs, ce qui sera surement le cas, je pense rester sur un indiana aka ex opensolaris et du homemade. Si j yarrive pas, napp-it pourra aider pendant un moment en temps que GUI par contre j aimerai que la 31605 et la 6805 fassent vraiment du jbod. La ca bouffe qd meme qq octets pour ecrire la conf raid jbod En passant linux + zfs = truc pas net zfs c est solaris optimized |
Auteur : | augur [ dim. 23 oct. 2011, 01:12 ] |
Sujet du message : | Re: Serveur Fichier / Stockage sécurisé |
poulpito a écrit : En passant linux + zfs = truc pas net zfs c est solaris optimized C'est en cours avec Btrfs : du ZFS open, hors Solaris ! Aussi, avec les nouveaux disques de 4 Ko (Advanced Format) et ZFS le " sectorsize override feature " : => http://digitaldj.net/2010/11/03/zfs-zpo ... s-and-you/ => http://forums.overclockers.com.au/showt ... p?t=984341 ++ |
Auteur : | augur [ dim. 23 oct. 2011, 01:24 ] |
Sujet du message : | Re: Serveur Fichier / Stockage sécurisé |
poulpito a écrit : Si je pars sur zfs, ce qui sera surement le cas, je pense rester sur un indiana aka ex opensolaris et du homemade. Si j yarrive pas, napp-it pourra aider pendant un moment en temps que GUI Aussi :
|
Auteur : | poulpito [ dim. 23 oct. 2011, 01:56 ] |
Sujet du message : | Re: Serveur Fichier / Stockage sécurisé |
ma 6805 arrive Citation : Customs Clearance, October 22, 2011, 4:36 pm, FRANCE Processed Through Sort Facility, October 22, 2011, 4:34 pm, FRANCE Processed Through Sort Facility, October 20, 2011, 2:47 am, ISC SAN FRANCISCO (USPS) Arrived at Sort Facility, October 20, 2011, 2:45 am, ISC SAN FRANCISCO (USPS) Dispatched from USPS Sort Facility, October 19, 2011, SAN JOSE, CA 95101 Processed through USPS Sort Facility, October 19, 2011, 3:24 pm, SAN JOSE, CA 95101 Electronic Shipping Info Received, October 19, 2011 Processed through USPS Sort Facility, October 19, 2011, 12:43 pm, MILPITAS, CA 95035 Acceptance, October 19, 2011, 9:32 am, MILPITAS, CA 95035 allez vivement lundi que ca reprenne |
Auteur : | augur [ dim. 23 oct. 2011, 02:49 ] |
Sujet du message : | Re: Serveur Fichier / Stockage sécurisé |
Mes cartes fibres et l'expander SAS aussi Juste le temps à combattre |
Auteur : | poulpito [ dim. 23 oct. 2011, 02:50 ] |
Sujet du message : | Re: Serveur Fichier / Stockage sécurisé |
le nombre magique pour les raidz1 et raidz2 (donc ce sera 9*2To en raidz pour moi) Citation : sub.mesa wrote: As i understand, the performance issues with 4K disks isn’t just partition alignment, but also an issue with RAID-Z’s variable stripe size. RAID-Z basically works to spread the 128KiB recordsizie upon on its data disks. That would lead to a formula like: 128KiB / (nr_of_drives – parity_drives) = maximum (default) variable stripe size Let’s do some examples: 3-disk RAID-Z = 128KiB / 2 = 64KiB = good 4-disk RAID-Z = 128KiB / 3 = ~43KiB = BAD! 5-disk RAID-Z = 128KiB / 4 = 32KiB = good 9-disk RAID-Z = 128KiB / 8 = 16KiB = good 4-disk RAID-Z2 = 128KiB / 2 = 64KiB = good 5-disk RAID-Z2 = 128KiB / 3 = ~43KiB = BAD! 6-disk RAID-Z2 = 128KiB / 4 = 32KiB = good 10-disk RAID-Z2 = 128KiB / 8 = 16KiB = good et pour le passage le plus simple en 4k aligned même si c'est pas obligatoire (j'ai déjà mes HD204UI non alignés sous linux) Citation : Good call on putting the OS and DVD on the controller card. They don't need to be fast. Having the data drives all on the motherboard will be better and will enable you to work around the 4K thing pretty easily. I have the same Samsung F4's (HD204UI) and run 9 of them in a RAIDZ2 + spare in our NAS here at work. Here is a relatively simple way to get them aligned:
1) Download ZFSguru stable LIVE CD ver 0.1.7 (http://zfsguru.com/download) 2) Boot to ZFS guru and then format each of your 6 drives drives from the web gui utility. NOTE: Format the drives with GEOM...NOT GPT (Solaris won't recognize GPT partitions). 3) Create your RAIDz2 pool in the web gui and select the 4K override option! 4) Export the pool (do this locally from command line. "zpool export poolname") 5) Now boot back up to your OI system and import the pool. It should find it and it will be correctly aligned for the drives. Alternately...don't worry about the 4K issue. It IS only a performance difference, not a reliability one. Chances are quite good that you will still easily be able to saturate gigabit even with the slightly reduced performance of the drives being non-aligned. |
Auteur : | augur [ dim. 23 oct. 2011, 02:51 ] |
Sujet du message : | Re: Serveur Fichier / Stockage sécurisé |
Yess, j'ai lu tout HardForum ce soir Sinon le monsieur a dit : ZFS : Le FileSystem par excellence => http://www.deimos.fr/blocnotesinfo/inde ... excellence |
Auteur : | augur [ dim. 23 oct. 2011, 02:56 ] |
Sujet du message : | Re: Serveur Fichier / Stockage sécurisé |
Par contre, pour bien blaster : taille du cache ?!? 3x la Ram // 1 Go ECC par To pour bonnes perf .... au prix où sont les SSD de 64 Go, un raid 10 serait peut être pas mal ! ou : Raid1 pour Cache (bon pour la lecture) et Raid1 pour Log (bon pour l'écriture) ++ |
Auteur : | poulpito [ dim. 23 oct. 2011, 03:06 ] |
Sujet du message : | Re: Serveur Fichier / Stockage sécurisé |
encore faut il en avoir l'intérêt pour du stockage de masse vraiment aucun intérêt tu va pas lire 100x un fichier pour l'afficher ça n'est utile que pour un volume de travail courant pour toi effectivement avec le travail vidéo encore que je suis pas persuadé puisque théoriquement une fois dl le fichier tu te sers du cache local de ta machine de travail non ? |
Auteur : | augur [ dim. 23 oct. 2011, 03:14 ] |
Sujet du message : | Re: Serveur Fichier / Stockage sécurisé |
Citation : encore faut il en avoir l'intérêt pour du stockage de masse vraiment aucun intérêt tu va pas lire 100x un fichier pour l'afficher ça n'est utile que pour un volume de travail courant pour toi effectivement avec le travail vidéo encore que je suis pas persuadé puisque théoriquement une fois dl le fichier tu te sers du cache local de ta machine de travail non ? On passe pas 100x sur le même fichier mais au moins 50x facile. Tous les fichiers vidéo restent sur le serveur... => le même fichier peut être lu en même temps qu'il est en train d'être enregistré ; => on peut lire et relire 10x à 20x le même passage (pour visualiser les raccords ou pour retranscrire une traduction) ; => ce même fichier peut être lu par plusieurs personne en même temps, sur différentes stations ; => aucun fichier n'est téléchargé sur la station en local : si un effet doit être rendu, il est lu par la station et le calcul rendu repart dans un répertoire sur le stockage partagé En gros je recherche de la perf (~1,2 Go/s R/W) pour un minimum de 32 To ... ce que permet XFS. ++ |
Auteur : | poulpito [ dim. 23 oct. 2011, 03:16 ] |
Sujet du message : | Re: Serveur Fichier / Stockage sécurisé |
comme tu m'as parlé au fait et pour pas mourir con je viens de me compiler/installer zfsonlinux http://zfsonlinux.org/index.html pour testiculer un peu gros avantage qui n'est pas encore passé dans le zpool indiana c'es tla possibilité de fixer le ashift=12 (pour les disques 4k) en tant que paramètre de zpool create -o ashift=12 (=9 pour un align 512) bizarre que ce soit pas sur solaris ca m'étonne un peu mais je viens de test ca ne marche pas donc linux a un coup d'avance la même si c'est toujours de la beta |
Auteur : | poulpito [ dim. 23 oct. 2011, 03:19 ] |
Sujet du message : | Re: Serveur Fichier / Stockage sécurisé |
augur a écrit : Citation : encore faut il en avoir l'intérêt pour du stockage de masse vraiment aucun intérêt tu va pas lire 100x un fichier pour l'afficher ça n'est utile que pour un volume de travail courant pour toi effectivement avec le travail vidéo encore que je suis pas persuadé puisque théoriquement une fois dl le fichier tu te sers du cache local de ta machine de travail non ? On passe pas 100x sur le même fichier mais au moins 50x facile. Tous les fichiers vidéo restent sur le serveur... => le même fichier peut être lu en même temps qu'il est en train d'être enregistré ; => on peut lire et relire 10x à 20x le même passage (pour visualiser les raccords ou pour retranscrire une traduction) ; => ce même fichier peut être lu par plusieurs personne en même temps, sur différentes stations ; => aucun fichier n'est téléchargé sur la station en local : si un effet doit être rendu, il est lu par la station et le calcul rendu repart dans un répertoire sur le stockage partagé En gros je recherche de la perf (~1,2 Go/s R/W) pour un minimum de 32 To ... ce que permet XFS. ++ ok effectivement donc pour toi arc à fond cad max ram et ssd-caching |
Auteur : | augur [ dim. 23 oct. 2011, 03:22 ] |
Sujet du message : | Re: Serveur Fichier / Stockage sécurisé |
poulpito a écrit : comme tu m'as parlé au fait et pour pas mourir con je viens de me compiler/installer zfsonlinux http://zfsonlinux.org/index.html pour testiculer un peu gros avantage qui n'est pas encore passé dans le zpool indiana c'es tla possibilité de fixer le ashift=12 (pour les disques 4k) en tant que paramètre de zpool create -o ashift=12 (=9 pour un align 512) bizarre que ce soit pas sur solaris ca m'étonne un peu mais je viens de test ca ne marche pas donc linux a un coup d'avance la même si c'est toujours de la beta Ah ben du coup, ça peut être pas mal @home sous Ubuntu |
Auteur : | poulpito [ dim. 23 oct. 2011, 03:25 ] |
Sujet du message : | Re: Serveur Fichier / Stockage sécurisé |
mouai j'ai un doute quand même sur la stabilité du truc solaris c'est rock stable ca fait partit des os qu'on a du mal à virer chez les clients alors que AIX est aussi super réputé ... j'ai plus confiance la dedans avec un zpool on va dire figé qu'une version dev sous linux rien n’empêche par contre de créer son zpool sur un linux avec ashift, de l'exporter et de le reimporter sous openindiana dans la mesure ou est toujours en v28 |
Auteur : | augur [ dim. 23 oct. 2011, 03:29 ] |
Sujet du message : | Re: Serveur Fichier / Stockage sécurisé |
De mon coté, j'ai une le module modifié de Samba (SambaVFS développé avec la BBC) à faire tourner sous OpenSuze ou Debian... qui doit agir sur le stockage. Du coup si ZFS tourne sous openidiana, comment faire ? |
Auteur : | Biour [ dim. 23 oct. 2011, 10:45 ] |
Sujet du message : | Re: Serveur Fichier / Stockage sécurisé |
moi me suis pris cha pour tester 36euro avec la batt et 512 de ram http://h18000.www1.hp.com/products/serv ... index.html Citation : Performance 8 internal ports of 3Gb Serial Attached SCSI (SAS) x8 PCI-Express I/O connector DDR-2/533 memory 512MB and Battery-Backed Write Cache (BBWC) upgrade options Reliable Standard RAID 0,1, 1+0, 5 RAID6 support with BBWC Recovery ROM Flexibility Supports SAS and SATA disk drives SAS expander support Ships with both low profile and full size brackets for flexible server deployment Manageable Online Drive Flash Remote monitoring and configuration Citation : Online array expansion (with BBWC upgrade)
Online logical drive extension (with BBWC upgrade) Online RAID level migration (with BBWC upgrade) Online strip size migration (with BBWC upgrade) Offline Mirror splitting and recombining Unlimited global online spare assignment User selectable expand and rebuild priority User selectable RAID level and stripe size User selectable read and write cache sizes Eight (8) SAS physical links distributed across 2 internal x4 wide High Performance Architecture sets new boundaries of industry performance 3Gb/s SAS (300MB/s bandwidth per physical link) x8 3Gb/s SAS physical links (compatible with 1.5G SATA) 256 MB 40-bit wide DDR2-533MHz cache upgradeable to 512 battery-backed cache provides up to 4.2 GB/s maximum bandwidth x8 2.5G PCI Express host interface provides 2 GB/s maximum bandwidth 440 PowerPC Processor Read ahead caching Write-back caching (with battery-backed write cache upgrade) |
Auteur : | augur [ dim. 23 oct. 2011, 13:52 ] |
Sujet du message : | Re: Serveur Fichier / Stockage sécurisé |
Biour a écrit : moi me suis pris cha pour tester 36euro avec la batt et 512 de ram http://h18000.www1.hp.com/products/serv ... index.html Citation : Performance 8 internal ports of 3Gb Serial Attached SCSI (SAS) x8 PCI-Express I/O connector DDR-2/533 memory 512MB and Battery-Backed Write Cache (BBWC) upgrade options Reliable Standard RAID 0,1, 1+0, 5 RAID6 support with BBWC Recovery ROM Flexibility Supports SAS and SATA disk drives SAS expander support Ships with both low profile and full size brackets for flexible server deployment Manageable Online Drive Flash Remote monitoring and configuration ... elle ne fait pas JBOD ?!? Tu compte faire du Raid 0 ou 5 en Hard ? ++ |
Auteur : | Biour [ dim. 23 oct. 2011, 14:23 ] |
Sujet du message : | Re: Serveur Fichier / Stockage sécurisé |
5 encore mais sur 4 puis 8 disques donc online extension! pour le jobs l'e sais trop rien |
Page 1 sur 14 | Heures au format UTC+03:00 |
Powered by phpBB® Forum Software © phpBB Limited https://www.phpbb.com/ |