Supernova: Różnice pomiędzy wersjami

Z KdmWiki
Przejdź do nawigacji Przejdź do wyszukiwania
Linia 3: Linia 3:
  
 
{{serwer|zdjęcie=[[Grafika:Nova 2009 001.jpg|thumb|right|200px|Klaster Nova]] |admini=nova @ kdm.wcss.wroc.pl}}
 
{{serwer|zdjęcie=[[Grafika:Nova 2009 001.jpg|thumb|right|200px|Klaster Nova]] |admini=nova @ kdm.wcss.wroc.pl}}
'''Nova''' - klaster zainstalowany w [[WCSS]], włączony w struktury projektu [[EGEE]] i [[PL-Grid]]. Architektura wszystkich komputerów to x86_64 (Intel Core micro Architecture, EM64T).
+
'''Nova''' - klaster zainstalowany w [[WCSS]], włączony w infrastruktury obliczeniowe  [[EGEE|EGI]] i [[PL-Grid]]. Architektura wszystkich komputerów to x86_64 (Intel Core micro Architecture, EM64T).
  
 
Elementy klastra:  
 
Elementy klastra:  
Linia 19: Linia 19:
  
 
===Zestawienie===
 
===Zestawienie===
{|
+
{|style="vertical-align: top;"
|style="vertical-align: top;" align="right"|  
+
|align="right"|klaster : ||'''nova.wcss.wroc.pl''' || || || ||
klaster : <br />
+
|-style="vertical-align: top;"
moc obliczeniowa : <br />
+
|align="right"|przestrzeń&nbsp;home :||NFS 10TB || || || ||
węzły : <br />
+
|-style="vertical-align: top;"
CPU : <br />
+
|align="right"|przestrzeń&nbsp;scratch :||[[Lustre]] || || || ||
liczba CPU : <br />
+
|-style="vertical-align: top;"
cache L2 : <br />
+
|align="right"|system&nbsp;operacyjny :||ScientificLinux || || || ||
pamięć : <br />
+
|-style="vertical-align: top;"
dysk /home : <br />
+
|align="right"|moc&nbsp;obliczeniowa :||'''19 TFLOPS''' || || || ||'''40 TFLOPS'''
dysk /scratch : <br />
+
|-style="vertical-align: top;"
system operacyjny : <br />
+
|align="right"|węzły :||'''dostępowy'''|| '''obliczeniowe generacji I (152)''' || '''obliczeniowe generacji II (136)'''||'''obliczeniowe generacji III (40)''' ||'''obliczeniowe generacji IV (404)'''
 
+
|-style="vertical-align: top;"
|style="vertical-align: top;"|
+
|align="right"|CPU : ||Intel Xeon 5160 3GHz ||Intel Xeon X3220 2.4 GHz ||Intel Xeon E5345 2.33 GHz || Intel Xeon L5420 2.5 GHz ||Intel Xeon X5650 2.67 GHz
'''nova.wcss.wroc.pl''' <br />
+
|-style="vertical-align: top;"
'''19 TFLOPS''' <br />
+
|align="right"|liczba&nbsp;CPU :
'''dostępowy''' <br />
+
|2x dual-core
Intel Xeon 5160 3GHz<br />
+
|1 quad-core
2x dual-core<br />
+
|2x quad-core
4MB<br />
+
|2x quad-core
16GB<br />
+
|2x six-core
NFS 10TB<br />
+
|-style="vertical-align: top;"
-<br />
+
|align="right"|cache&nbsp;L2 :
ScientificLinux<br />
+
|4MB
 
+
|8MB
|style="vertical-align: top;"|
+
|8MB
<br />
+
|12MB
<br />
+
|12MB
'''obliczeniowe generacji I (152)''' <br />
+
|-style="vertical-align: top;"
Intel Xeon X3220 2.4 GHz<br />
+
|align="right"|pamięć :
1 quad-core<br />
+
|16GB
8MB<br />
+
|8GB
8GB<br />
+
|16GB
NFS 10TB<br />
+
|16GB
[[Lustre]]<br />
+
|24GB
ScientificLinux<br />
 
 
 
|style="vertical-align: top;"|
 
<br />
 
<br />
 
'''obliczeniowe generacji II (136)''' <br />
 
Intel Xeon E5345 2.33 GHz<br />
 
2x quad-core<br />
 
8MB<br />
 
16GB<br />
 
NFS 10TB<br />
 
[[Lustre]]<br />
 
ScientificLinux<br />
 
 
 
|style="vertical-align: top;"|
 
<br />
 
<br />
 
'''obliczeniowe generacji III (40)''' <br />
 
Intel Xeon L5420 2.5 GHz<br />
 
2x quad-core<br />
 
12MB<br />
 
16GB<br />
 
NFS 10TB<br />
 
[[Lustre]]<br />
 
ScientificLinux<br />
 
 
 
|style="vertical-align: top;"|
 
<br />
 
<br />
 
'''obliczeniowe generacji IV(404)''' <br />
 
Intel Xeon X5650 2.67 GHz GHz<br />
 
2x six-core<br />
 
12MB<br />
 
24GB<br />
 
NFS 10TB<br />
 
[[Lustre]]<br />
 
ScientificLinux<br />
 
 
 
 
|-
 
|-
 
|}
 
|}
 +
  
 
===Oprogramowanie===
 
===Oprogramowanie===

Wersja z 14:06, 30 maj 2011

< Podręcznik użytkownika KDM < Maszyny obliczeniowe

{{{nazwa}}}
[[Plik:
Klaster Nova
|250px|noframe|center]]
Kontakt
nova @ kdm.wcss.wroc.pl

Nova - klaster zainstalowany w WCSS, włączony w infrastruktury obliczeniowe EGI i PL-Grid. Architektura wszystkich komputerów to x86_64 (Intel Core micro Architecture, EM64T).

Elementy klastra:

  • węzeł dostępowy (nova),
  • dwa węzły usługowe (darkmass/SE i dwarf/CE),
  • 732 węzły obliczeniowe (wn001 - wn732),
  • sieć obliczeniowa - Infiniband DDR fat-tree full-cbb,
  • sieć zarządzania - gigabit ethernet.

Zasoby obliczeniowe klastra:

  • 6864 rdzeni obliczeniowych,
  • >13 TB pamięci operacyjnej (2GB/rdzeń)
  • ~100 TB przestrzeni dyskowej (NFS + Lustre),
  • komunikacja pomiędzy węzłami klastra: przepływność 20Gbps, opóźnienia < 5 us.


Zestawienie

klaster : nova.wcss.wroc.pl
przestrzeń home : NFS 10TB
przestrzeń scratch : Lustre
system operacyjny : ScientificLinux
moc obliczeniowa : 19 TFLOPS 40 TFLOPS
węzły : dostępowy obliczeniowe generacji I (152) obliczeniowe generacji II (136) obliczeniowe generacji III (40) obliczeniowe generacji IV (404)
CPU : Intel Xeon 5160 3GHz Intel Xeon X3220 2.4 GHz Intel Xeon E5345 2.33 GHz Intel Xeon L5420 2.5 GHz Intel Xeon X5650 2.67 GHz
liczba CPU : 2x dual-core 1 quad-core 2x quad-core 2x quad-core 2x six-core
cache L2 : 4MB 8MB 8MB 12MB 12MB
pamięć : 16GB 8GB 16GB 16GB 24GB


Oprogramowanie

Aplikacje

Abaqus, ACES2, Autodock, CAMFR, CPMD, FDS-SMV ,GAMESS, Gaussian, LAMMPS, Meep, MOLCAS, Molpro, Matlab, NWChem, R, TURBOMOLE aplikacje własne użytkowników.

Kompilatory

GNU GCC, Intel, PGI

Biblioteki
  • MVAPICH1,
  • MVAPICH2,
  • MKL (/opt/intel/mkl/WERSJA/lib/em64t/),
  • GotoBLAS (/usr/local/lib/),
  • ATLAS 3.8.3 (/usr/local/atlas-3.8.3)
  • ...
Narzedzia
System kolejkowania

PBS

RSA key fingerprint

d5:85:f7:5a:92:9b:72:7d:d3:74:67:ab:e4:46:28:e9

Zalecenia

  • na dysku /home wprowadzone zostały kwoty dyskowe: limit miękki 20GB, limit twardy 25GB, limit czasowy 7 dni; sprawdzenie stanu:
quota

opis systemu kwot:

man quota
  • zainstalowane zostały nowe kompilatory Intela oraz nowa biblioteka MKL; oprogramowanie korzystające ze starych bibliotek może nie uruchamiać się lub pracować nieoptymalnie - wymagana jest rekompilacja;
  • oprogramowanie zrównoleglone w standardze MPI musi zostać przekompilowane, aby mogło korzystać z sieci Infiniband; domyślna implementacja MPI to MVAPICH1;
  • zadania MPI uruchamiane poprzez sieć Ethernet a nie Infiniband bądą zabijane bez ostrzeżenia - sieć Ethernet jest dedykowana dla NFS;
  • zadania MPI należy uruchamiac poprzez narzędzie MPIEXEC a nie mpirun;
  • oprogramowanie zrównoleglone w innym standardze niż MPI musi zostać przekonfigurowane - prosimy o kontakt użytkownikow takich aplikacji;
  • zalecenia dotyczące współdzielonego dysku scratch - Lustre

Zobacz też