Kategooria ‘Riistvara’ arhiiv

Laiendasime ITK andmehoidla 40 TB mahuni

19.01.2011

Käesolev case study pole tehniline tour de force, kuid huvitav siiski. Hiljuti kirjutasin Ida-Tallinna Keskhaigla uuest serverilahendusest ning andmehoidlast. Täna laiendasime nende hoidla märkimisväärse 40 TB tasemele.

Kui palju on 40 TB? Et illustreerida, kui palju see on, visualiseerin seda meie tuttava A4 kontoripaberi abil. Minu kogemuse järgi mahub MS Word’is kirjutatuna ühele A4 lehele ca 2500 tähemärki, mis on 2,5 KB infot. Ühes 5,5 cm paksuses pakis, milles A4 paberit müüakse, on 500 lehte. Pärast kiiret arvutust saame, et selliseid pakke kuluks 32 miljonit. Ehk siis, kui laduda 40 Terabaiti ühte virna, teeks see 1700 km kõrguse torni. See on näiteks ca 2 korda kõrgem, kui Space Shuttle lendab.

Tehnilised üksikasjad:

  • Andmehoidla kontroller: HP StorageWorks 4400 Enterprise Virtual Array
  • Andmehoidla kettakastid: HP StorageWorks M6412A Fibre Channel Drive Enclosure
  • Kettad: HP EVA 450GB 15K RPM FC

Käesolev andmehoidla on jagatud mitmeks loogiliseks ühikuks, mis teenindavad Ida-Tallinna Keskhaigla erinevaid infosüsteeme, sealhulgas Exchange Serverit, HIS e. haigla infosüsteemi SQL baasi ning digitaliseeritud haiguslugusid.

Ida-Tallinna keskhaigla uus serveri-infra, osa 1

27.09.2010

Käesolev postitus on esimene, kolmeosalisest Ida-Tallinna case study seeriast, milles puudutame vaid riistvara.

Ida-Tallinna Keskhaigla uus serveri-infra on tehnoloogilises mõttes üks võimsamaid IT infra projekte, mille viimasel ajal oleme teinud. Haigla nõuded IT süsteemidele on iseenesestmõistetavalt kõrged. Nõutud on turvalisus, äri jätkuvuse tagamine ning süsteemi kiire reaktsioonivõime. ITK kaks olulisemat ärirakendust on ca 2500 postkastiga meilisüsteem, lisaks töökindlat ja võimekat SQL kõrgkäideldavat klastrit vajav haigla-infosüsteem.

ITK serveri-infra alustaladeks on HP BladeSystem C7000, ProLiant BL490C blade-serveritega ning HP StorageWorks 4400 Enterprise Virtual Array (EVA). Lisaks sellele vajalikud switch’id, kaablid, rack’id, baastarkvara jms. Unikaalseks teeb süsteemi asjaolu, et info liigub serveritest ketasteni ja tagasi pidevalt läbi fiiberkanali. Kasutasime fiiber-switch’e, fiiber-kettakasti ja fiiber-kettaid.

Kasutav riistvara

HP BladeSystem C7000

HP BladeSystem C7000Tihti uuritakse, et mis eelised on blade-süsteemil tavalise rack-süsteemi ees. Asjatult keskendutakase vaid ruumisäästule, ühe rack-ühiku kohta mahub blade-süsteemi kasutades rohkem serverid, kui tavapäraste 1U serverite kasutamisel. Tegelikult on aga oluline ka kaablite arvu vähenemine. Suur osa it probleemidest on meie kogemuse põhjal just seotud kaabeldusega. Blade süsteemides on võrgu- ja toitekaabeldus blade-süsteemi sisene. Lisaks on efektiivsem jahutus ja toide, kuna igas üksikus serveris ei pea olema enam nii palju ventilaatoreid ega toiteblokke.

ITK süsteemis kasutatud HP Blade System C7000 mahutab kuni 16 blade serverit. Toie tagavad 6 kõrge effektiivsusega toiteblokki, koguvõimsusega 2400W. Jahutusventilaatoreid on vastavalt konfiguratsioonile kuni 10.  Korpuse tagaosas asuvad 8 pesa I/O moodulitele. Nendesse saab laduda tavalisi Etherneti switch’e, fiiber-switch’e ja InfiniBand switch’e. Üks C7000 hõivab rackis 10U.

HP ProLiant BL490C blade

HP ProLiant BL490C bladeProLiant BL490C on virualiseerimiseks mõeldud kahe Intel Xeon 5500/5600 protsessoriga blade-server. Igasse neist saab panna kuni 192 GB mälu (kokku 18 mälupesa!). Lisaks on serveril väga kiire I/O tänu kahele integreeritud 10 GbE pordile. Virtualiseerimise korral on oluline võimalikult suur mälumaht ning kiire I/O.

ITK lahenduses kasutasime igas blade-serveris kahte Xeon 5600 seeria protsessorit, 72 GB mälu, kahte 10 GbE ethernet moodulit ning kahte Brocade fiibermoodulit.

StorageWorks 4400 Enterprise Virtual Array

StorageWorks 4400 EVATegemist on virtualiseeritud keskkondadesse mõeldud 99,999% up-time tagava seadmega. StorageWorks 4400 EVA on nn dual-redundant e. kahekordselt veakindel. See fiiberkanalitega kettasüsteem on paindlik, kergest hallatav ja lihtsalt laiendatav. ITK puhul kasutasime lisaks nelja M6412a fiiberkanaliga laienduskasti. Kokku on kettaseadmes 48 kiiret 15K fiiberliidesega ketast, bruto kogumahutavusega 21,6 TB.

Virtual Connect FlexFabric moodulid

Seekord kasutasime Virtual Connect mooduleid, mille abil saime luua olukorra, kus on tagatud täielik töö jätkumine ka blade-serverite füüsilise väljavahetamise korral. Alternatiivina kasutatav pass-through meetod oleks teinud süsteemi ning litsentseerimise liiga keeruliseks. Lisaks annab Virtual Connect moodul, pass-through meetodi asemel, administreerimisel suurema vabaduse ja paindlikkuse. Virtual Connect moodulid teevad ära vajaliku aadresside translatsiooni ning hoiavad uue serveri jaoks aadresse meeles.

HP R5500 UPS

Tegu on uue põlvkonna transformaatorivaba UPS-iga. Tänu effektiivsetele tehnilistele lahendustele tagabR5500 4500W võimsuse (5000 VA) vaid 3U suuruse juures. R5500 peamiseks ülesandeks on EVA toite tagamine.

Kokkuvõte

Kokkuvõtteks võime öelda, et planeerisime ja juurutasime parimate maailma praktikate kohase töökindla ja suure jõudlusega virtualiseeritud serveri-infrasüsteemi. Tulevastes case-study‘des anname ülevaate infosüsteemidest, mis sellel baasil tööle hakkavad.

Metsäliitto serverite konsolideerimine ja virtualiseerimine

16.09.2010
metsaliitto logoMetsäliitto Eesti AS (varem tuntud kui Mets ja Puu) on Eesti üks suurimaid puidu ja hakkepuidu varujaid, käibega umbes pool miljardit krooni aastas.  Metsäliitto Eesti AS kuulub Soome kontserni Metsäliitto Yhtymä.

Olukord enne

Metsäliitto IT infrastruktuur koosnes ajaloolistel põhjustel erinevatest serveri riistvara platvormidest. Nagu ikka sellisel juhul juhtub, hakkas vananeva riistvaraga ja vanema põlvkonna Windows Serveri operatsioonisüsteemidega esinema tehnilisi probleeme. Klient seisis kahe valiku ees  - vahetada vanad serverid välja ning jätkata senist rada või hankida vaid kaks uut serverit ning andmehoidla ja parandada töökindlust veelgi virtualiseerimise teel. Metsäliitto valis viimase – tehnoloogiliselt ja majanduslikust askpektist õigema tee.

Planeerimine

Uus lahendus põhineb Vmware Essential Plus virtualiseerimistarkvaral ning HP Proliant serveritel ja MSA2312i andmehoidlal. Serverid liidetakse andmehoidlaga kasutades iSCSI protokolli ühisesse infrastruktuuri. Varunduse lahendasime kahetasemeliselt, faili tasemel varundamisega tegeleb BackupExec, virtuaalserverite varundusega VMware Data Recovery. Serverite operatsioonisüsteemina võtsime kasutusele Microsoft  Windows Server 2008 R2 platvormi.

Projekti kulg

IT Grupp tarnis Metsäliittole 2 uut HP ProLiant DL380 serverit ning HP StorageWorks MSA 2312i andmehoidla. Süsteemi ülesseadmine võttis aega vaid kaks õhtut.

KBFI 96-tuumaline Dell PowerEdge klaster (HPC e high performance cluster)

15.04.2010

kbfi hpcKBFI vajas paralleelarvutusteks sobivat HPC klastrit (high performance computing cluster)

Käesoleva lahenduse hankimise eesmärgiks on KBFI kvantkeemia töörühma paralleelarvutusteks optimeeritud SMP arvutussõlmede ja neid ühendava madala MPI- latentsusega lairiba klastri infrastruktuuri ajakohastamine.

Lahendus hakkab teenindama Accelrys Materials Studio, CPMD, Gaussian ja teistel tarkvarapakettidel põhinevaid tahke keha ja molekulaarsete süsteemide elektronstruktuuri ja reaktsioonidünaamika arvutusi.

Hange kaasrahastati Euroopa Liidu struktuurifondidest.

Dell PowerEdge R905 baasil 96-tuumaline lahendus

Käesolev lahendus koosneb neljast Dell PowerEdge R905 serverist (edaspidi Node), Mellanox 36-port 40Gb/s InfiniBand võrgulülitist, HP ProCurve 1810-24 Gigabit Ethernet võrgulülitist, Dell KVM-lülitist ja konsoolist ning Dell Precision 3500 juhtkonsoolist. Seadmed on paigaldatud Dell 2420 (24U) seadmekappi.

Igas serveris on neli kuue-tuumalist protsessorit – kokku 24 tuuma serveri kohta. Lahenduse summaarne tuumade arv on 96 (4 node x 4 CPU x 6 tuuma). Igas serveris on mälu 16 x 2GB 667MHz moodulitena. Lahenduse summaarne mälu on 128GB.

Lahenduse haldamise tarkvarana võetakse kasutusele Platform Cluster Manager ja Intel Compiler Suite Professional Edition.

Tehnilised üksikasjad

Node’de konfiguratsioonid

  • Serveri baas 4 x PowerEdge™ R905
  • Protsessorid: 4 x Six Core AMD Opteron™ 8435; 2.6GHz, 75W ACP, HT-3
  • Mälu: 32GB Memory for 2/4 CPUs, DDR2, 667MHz
  • Optiline seade: 16X DVD+/-RW Drive SATA
  • Toiteplokid: Redundant High Efficiency Power Supply Unit
  • Korpus: PowerEdge™ R905 Server Rack Chassis
  • Võrguliidesed: TCP/IP Offload Engine (4P TOE), iSCSI Ready
  • Kõvakettad: 1 x 145GB, SAS, 3.5-inch, 15K RPM Hard Drive (Hot Plug)
  • 2 x 600GB, SAS, 3.5-inch, 10K RPM Hard Drive (Hot Plug)
  • Lisakaart: Mellanox ConnectX Single-Port 40Gb/s PCI Express 2.0 InfiniBand HCA card
  • Tarkvara versioon: OFED 1.5.1 RHEL5.4
  • OS: Red Hat Enterprise Linux 5.4 Server

Node’de vaheline ühendus

  • InfiniBand Mellanox 3600Q 36-port 40Gb/s switch
  • HP Procurve Gigabit switch

Juhtkonsooli konfiguratsioon

  • Konsooli baas Dell Precision™ T3500 Mini-Tower
  • Protsessorid: 1 x Intel® Xeon® Processor E5530(2.40GHz,8MB L3, 5.86GT/s,80W,QC)
  • Mälu: 4GB DDR3 ECC Memory (1066MHz, 2x2GB)
  • Kõvakettad: 2 x 500GB (7200 RPM) SATA 3.0Gb/s Hard Drive with NCQ and 16MB DataBurst Cache™
  • Klaviatuur/Hiir: Eesti paigutusega klaviatuur, Dell Black 2 Button USB Optical Mouse
  • Võrguliidesed: 1Gigabit võrgukaart
  • Graafikaliides: Video Card 512MB PCIe x16 NVIDIA Quadro FX 580
  • Optiline seade: 16X DVD+/-RW Drive with PowerDVD and Roxio Media Included
  • OS: Red Hat Enterprise Linux 5.4 Server

HPC tarkvara

  • Platform Cluster Manager
  • Intel Compiler Suite Professional Edition

HPC võimsus GFLOPS

Reaalmaailma testid on andnud 8345 protsesori võimsuseks ca 100 GFLOPS, seega on aritmeetiline HPC koguvõimsus 4 x 4 x 100 GFLOPS = 1,6 TFLOPS. See ona ligikaudne võimsus, tegelik effektiivne võimsus mingi konkreetse ülesande lahendamisel sõtlub paljudest asjaoludest nagu algoritmi efektiivsus jne.

Muud

  • Dell 24U Rack
  • Dell PDU (Power Distribution Unit)

Süsteemis kasutatakse AMD Opteron™ 8435 6-tuumalisi protsessoreid. Mudel valiti tänu madalale voolutarvidusele (vaid 75W), samas suurele jõudlusele (2,6 GHz, HyperTransport 56,7 GB/s, 9MB L2+L3 cache). Nimetatud protsessoriperekond annab parima hinna-võimsuse suhte.

Nils-Erik Vallikivi, infrastuktuurilahenduste müügijuht nils-erik.vallikivi@it.ee, mob +372 52 31 852

Pildid:

KBFI 96-core klaster (4 node x 4 CPU x 6 core)

Dell PowerEdge R905 Quad CPU node

Infiniband Mellanox MTS 3600Q 40GB/s switch ja HP ProCurve 24 Gigabit switch

Smarten Logistics high-availability storage lahendus

04.03.2010

smartenAS Smarten Logistics on suurim kolmanda osapoole logistika (3PL) teenusepakkuja Eestis, kelle partneriteks on nii tootjad, maaletoojad kui ka jaekaubandusettevõtted. Logistika on ajakriitiline ettevõtmine, selle juhtimine põhineb infosüsteemil, mis ei tohi tõrkuda. Väiksemgi tööseisak võib häirida kümnete miljonite kroonide väärtuses kaubatarnete hilinemist või vigaseid tarneid.

IT Grupp tarnis Smarten Logisticule kõrgkäideldava (e. high-availability) serverlahenduse, mis põhineb HP riistvaral, HP DL380-seeria serveritel ning MSA2312 Modular Smart Array storage-lahendusel. Kõrg-käideldavuse tagamiseks kasutasime VMware virtualiseerimistarkvara.

Kogu süsteemi eelarve, mis sisaldas nii riistvara kui ka tarkvaralitsentse koos installeerimisega, oli vaid ca 250 tuhat krooni. Igal aastal läbib Smarteni ladusid ca 2 miljardi krooni väärtuses kaupu.

Nils-Erik Vallikivi, infrastuktuurilahenduste müügijuht nils-erik.vallikivi@it.ee, tel 6670 703