|
|
 | Performancetuning af backup til tape
Fra : Thomas S. Iversen |
Dato : 14-05-05 21:02 |
|
Hej
Jeg har et performance problem i et backup system. Jeg har et LTO2 drev der
burde kunne tage 35/70 MB/s (un/compressed). Mit disksystem kan levere
50+MB/s sustained. Disk og tape sidder på hver sin scsi bus.
Laver jeg en dd if=/dev/zero of=/dev/mt0 få jeg en 50MB/s hvilket er fint.
Laver jeg en tar -cvf /dev/mt0 root får jeg "sølle" 15MB/s.
Jeg har prøvet en del, men har ikke kunne finde problemet. Nogle der kan
hjælpe?
Thomas
--
| |
 Thorbjoern Ravn Ande~ (14-05-2005)
| Kommentar
Fra : Thorbjoern Ravn Ande~ |
Dato : 14-05-05 22:47 |
|
"Thomas S. Iversen" <zensonic@zensonic.dk> writes:
> Laver jeg en tar -cvf /dev/mt0 root får jeg "sølle" 15MB/s.
Hvad får du hvis du cvf /dev/null istedet for?
Ved mange filer kan det godt være svært at holde dampen oppe.
--
Thorbjørn Ravn Andersen
http://www.unixsnedkeren.dk - Unix, Java, Web, Netværk, Århus
| |
Thomas S. Iversen (15-05-2005)
| Kommentar
Fra : Thomas S. Iversen |
Dato : 15-05-05 09:40 |
|
>> Laver jeg en tar -cvf /dev/mt0 root får jeg "sølle" 15MB/s.
>
> Hvad får du hvis du cvf /dev/null istedet for?
Total bytes written: 2499276800 (2.3GB, 794MB/s)
i første kørsel og
Total bytes written: 2499276800 (2.3GB, 2.3GB/s)
i anden kørsel. Totalt bogus. Det siger vist ikke så meget andet end at tar
har en /dev/null optimering.
Thomas
| |
 Thorbjoern Ravn Ande~ (15-05-2005)
| Kommentar
Fra : Thorbjoern Ravn Ande~ |
Dato : 15-05-05 13:38 |
|
"Thomas S. Iversen" <zensonic@zensonic.dk> writes:
> i anden kørsel. Totalt bogus. Det siger vist ikke så meget andet end at tar
> har en /dev/null optimering.
Det er vist iøvrigt rigtigt nok - den bruger Amanda.
Jeg var selvfølgelig ude efter at det er langsommere at cykle rundt i
filsystemet end blot at kopiere den rå disk. Så lav en pipe til wc og
se hvad den siger.
--
Thorbjørn Ravn Andersen
http://www.unixsnedkeren.dk - Unix, Java, Web, Netværk, Århus
| |
Mogens Kjaer (15-05-2005)
| Kommentar
Fra : Mogens Kjaer |
Dato : 15-05-05 15:13 |
|
Thomas S. Iversen wrote:
>>>Laver jeg en tar -cvf /dev/mt0 root får jeg "sølle" 15MB/s.
>>
>>Hvad får du hvis du cvf /dev/null istedet for?
>
>
> Total bytes written: 2499276800 (2.3GB, 794MB/s)
>
Du skal lave en:
tar cvf - /wherever | dd of=/dev/null bs=10240
Mogens
--
Mogens Kjær, Dataarkæolog
Email: mk@datamuseum.dk
Homepage: http://www.datamuseum.dk
| |
Thomas S. Iversen (15-05-2005)
| Kommentar
Fra : Thomas S. Iversen |
Dato : 15-05-05 15:49 |
|
> tar cvf - /wherever | dd of=/dev/null bs=10240
259807+0 records in
259807+0 records out
real 0m58.140s
user 0m0.750s
sys 0m4.910s
[root@biostor root]# bc
bc 1.06
Copyright 1991-1994, 1997, 1998, 2000 Free Software Foundation, Inc.
This is free software with ABSOLUTELY NO WARRANTY.
For details type warranty'.
259807 * 10240
2660423680
2660423680 / 58
45869373
Så min storageboks burde godt kunne følge med. Bras siger jeg bare.
Thomas
| |
Thorbjoern Ravn Ande~ (15-05-2005)
| Kommentar
Fra : Thorbjoern Ravn Ande~ |
Dato : 15-05-05 21:22 |
|
"Thomas S. Iversen" <zensonic@zensonic.dk> writes:
> > tar cvf - /wherever | dd of=/dev/null bs=10240
>
> 259807+0 records in
> 259807+0 records out
>
> real 0m58.140s
> user 0m0.750s
> sys 0m4.910s
> [root@biostor root]# bc
> bc 1.06
> Copyright 1991-1994, 1997, 1998, 2000 Free Software Foundation, Inc.
> This is free software with ABSOLUTELY NO WARRANTY.
> For details type warranty'.
> 259807 * 10240
> 2660423680
> 2660423680 / 58
> 45869373
>
> Så min storageboks burde godt kunne følge med. Bras siger jeg bare.
Så er der to muligheder, nemlig enten at din maskine har et
hardwareproblem der sinker data undervejs, eller at båndstationen ikke
tilgås på den måde der giver den lovede datamængde.
Jeg hælder mest til den sidste teori, nemlig at det kan være at du
bruger forkert device node, eller - det har også bidt mig tidligere -
at båndene ikke er af den krævede kvalitet.
--
Thorbjørn Ravn Andersen
http://www.unixsnedkeren.dk - Unix, Java, Web, Netværk, Århus
| |
Thomas S. Iversen (15-05-2005)
| Kommentar
Fra : Thomas S. Iversen |
Dato : 15-05-05 22:17 |
|
>> Så min storageboks burde godt kunne følge med. Bras siger jeg bare.
>
> Så er der to muligheder, nemlig enten at din maskine har et
> hardwareproblem der sinker data undervejs, eller at båndstationen ikke
> tilgås på den måde der giver den lovede datamængde.
>
> Jeg hælder mest til den sidste teori, nemlig at det kan være at du
> bruger forkert device node, eller - det har også bidt mig tidligere -
> at båndene ikke er af den krævede kvalitet.
Jeg ville ikke blive forbløffet. Det er noget spookey IBM hardware det her.
De har været og installere det, men efter jeg har set de høner der rituelt
skal slagtes over IBM hardware, så vil jeg ikke blive forbløffet hvis der
"liiiige skal opdateres til en obskur firmware".
Nå, men tak for inputtet. Finder en smule trøst i at se at det ikke bare er
mig der synes det er mærkeligt.
Nå ja, medierne er helt nye, IBMs egne. Men det er vel ikke sikkert det
borger for kvaliteten 
Thomas
| |
Thorbjoern Ravn Ande~ (15-05-2005)
| Kommentar
Fra : Thorbjoern Ravn Ande~ |
Dato : 15-05-05 23:01 |
|
"Thomas S. Iversen" <zensonic@zensonic.dk> writes:
> Nå ja, medierne er helt nye, IBMs egne. Men det er vel ikke sikkert det
> borger for kvaliteten
Det er ikke sikkert at du har den kvalitet som skal til for at give
den højeste ydelse af båndstationen. Båndene kan sagtens være gode
nok, men bare ikke det du skal bruge.
Jeg ville nærlæse manualen til båndstationen.
--
Thorbjørn Ravn Andersen
http://www.unixsnedkeren.dk - Unix, Java, Web, Netværk, Århus
| |
Morten Guldager (15-05-2005)
| Kommentar
Fra : Morten Guldager |
Dato : 15-05-05 08:04 |
|
2005-05-14 Thomas S. Iversen wrote
> Hej
>
> Jeg har et performance problem i et backup system. Jeg har et LTO2 drev der
> burde kunne tage 35/70 MB/s (un/compressed). Mit disksystem kan levere
> 50+MB/s sustained. Disk og tape sidder på hver sin scsi bus.
>
> Laver jeg en dd if=/dev/zero of=/dev/mt0 få jeg en 50MB/s hvilket er fint.
>
> Laver jeg en tar -cvf /dev/mt0 root får jeg "sølle" 15MB/s.
>
> Jeg har prøvet en del, men har ikke kunne finde problemet. Nogle der kan
> hjælpe?
Næppe. Det er ganske givet din tar der er for langsom til at finde filerne frem.
Jeg bruger selv et setup med temp filer på disk, som når de er "færdige"
skrives til bånd med dd.
Lige nu bruger jeg tar og split til at lave filerne, men det er min plan at
bruge dar i fremtiden.
Prøv at lade sin tar skrive til disk med:
tar -cf /tmp/arkiv.tar /usr
og så spole filen på bånd med:
dd if=/tmp/arkiv.tar of=/dev/mt0 bs=500000
Den sidste option får dd til at skrive nogle lidt mere voksne blokke.
Jeg ved ikke om det betydernoget med et LTO2 drev, men på mine DLT4'ere
giver det et markant ryk!
Et andet program der er cool at kende, når du nørkler med tapedrev er buffer.
buffer gør det samme som dd, blot er det asynkront.
/Morten 
| |
Thomas S. Iversen (15-05-2005)
| Kommentar
Fra : Thomas S. Iversen |
Dato : 15-05-05 09:48 |
|
> Næppe. Det er ganske givet din tar der er for langsom til at finde filerne frem.
Det troede jeg også, men nu har jeg lige prøvet med dd:
[root@biostor /]# time dd if=/tmp/TestVolume001 of=/dev/mt0 bs=500000
4998+1 records in
4998+1 records out
real 2m55.638s
user 0m0.010s
sys 0m4.620s
[root@biostor /]# ls -la /tmp/TestVolume001
-rw-r----- 1 root bacula 2499335730 May 15 09:51 /tmp/TestVolume001
[root@biostor /]# bc
bc 1.06
Copyright 1991-1994, 1997, 1998, 2000 Free Software Foundation, Inc.
This is free software with ABSOLUTELY NO WARRANTY.
For details type warranty'.
2499335730 / (2 * 60 + 56)
14200771
Samme resultat. Hmm, spookey siger jeg bare.
Thomas
| |
Morten Guldager (15-05-2005)
| Kommentar
Fra : Morten Guldager |
Dato : 15-05-05 12:20 |
|
2005-05-15 Thomas S. Iversen wrote
>> Næppe. Det er ganske givet din tar der er for langsom til at finde filerne frem.
>
> Det troede jeg også, men nu har jeg lige prøvet med dd:
>
> [root@biostor /]# time dd if=/tmp/TestVolume001 of=/dev/mt0 bs=500000
> 4998+1 records in
> 4998+1 records out
>
>
> real 2m55.638s
> user 0m0.010s
> sys 0m4.620s
> [root@biostor /]# ls -la /tmp/TestVolume001
> -rw-r----- 1 root bacula 2499335730 May 15 09:51 /tmp/TestVolume001
> [root@biostor /]# bc
> bc 1.06
> Copyright 1991-1994, 1997, 1998, 2000 Free Software Foundation, Inc.
> This is free software with ABSOLUTELY NO WARRANTY.
> For details type warranty'.
> 2499335730 / (2 * 60 + 56)
> 14200771
>
> Samme resultat. Hmm, spookey siger jeg bare.
Enig.
To nye forsøg:
- Lav en fil på et par G der udelukkende indeholder nul bytes.
(dd fra /dev/zero)
spoler den også på bånd med 15MB/s?
- brug dd til at skrive /tmp/TestVolume001 til /dev/null
hvor hurtigt går det?
/Morten
| |
Stig H. Jacobsen (15-05-2005)
| Kommentar
Fra : Stig H. Jacobsen |
Dato : 15-05-05 12:25 |
|
On 15 May 2005 08:47:59 GMT, Thomas S. Iversen wrote:
> Samme resultat. Hmm, spookey siger jeg bare.
Det ligner at dit filsystem ikke kan levere data hurtigt nok
- for lidt I/O båndbredde eller bare filsystem-sløvhed generelt.
Hvor hurtigt eller langsomt går det med cp(1) på filsystemerne?
Hvor meget aktivitet er der på filsystemerne? Og hvor meget
båndbredde er der til rådighed? Altså I/O ops/sec og kbyte I/O.
Hvis du starter en stak cp'er mellem filsystemerne (konsumerer al
båndbredden) og så kigger på I/O aktiviteten med iostat(1), så
får du et fingerpeg om, hvor meget I/O båndbredde du har.
Når du ved det, så kan du køre iostat samtidigt med tar og se om
tar faktisk laver I/O for fuld skrue og om det er ops/sec eller
kb/sec den maxer ud på. Eller om der sker noget helt andet!
--
Stig
| |
|
|