Neuer GPU Cluster für KI-Anwendungen an der Fakultät
Zur Unterstützung der zahlreichen studentischen Projekte im Bereich der Künstlichen Intelligenz bzw. Deep Learning hat die Fakultät Informatik und Wirtschaftsinformatik einen neuen Grafikkarten (GPU) Cluster von NVIDIA mit vier Grafikkarten und einer Gesamtperformance von 56 TFLOPS angeschafft. Die Rechenleistung entspricht ungefähr der von 400 handelsüblichen Laptops.
Die Anforderungen an die Rechenleistung für das Trainieren bzw. Erstellen von Deep Learning Modellen sind enorm. Die private Hardware der Studierenden ist für solche Anforderungen natürlich nicht ausgelegt und selbst der fakultätseigene Compute-Cluster mit seinen 18 Knoten und jeweils 32 Kernen in klassischen CPUs ist dafür zu langsam.
Mit dem neuen GPU Cluster steht den Studierenden jetzt eine ausreichend starke Hardware bereit, die für das Training von Deep Learning Modellen in Projektarbeiten und Abschlussarbeiten benutzt werden kann. So kann mit dieser Hardware auch das Detectron2 Modell zur Objekterkennung trainiert werden. Aktuell arbeiten Studierende zum Beispiel an den Themen Self-Driving Cars oder der Erkennung von Objekten in Bildern.
Der GPU Cluster besteht aus vier Grafikkarten vom Typ Tesla V100 von NVIDIA. Jede Grafikkarte hat 32 GB Hauptspeicher und erreicht mit 5120 CUDA Cores, das sind die massiv-parallel arbeitenden Grafikprozessoren, eine Rechenleistung von 14 TFLOPS bei einfacher Genauigkeit. Mit den 640 Tensor Cores, das sind Spezialprozessoren u.a. für die Matrizenmultiplikation, wird eine Tensor Performance von 112 TFLOPS erreicht.
Damit ist jede einzelne der vier Grafikkarten ungefähr 100-mal so schnell wie ein handelsübliches Notebook. Die Grafikkarten werden von einer Xenon Silver 4208 Server CPU und 256 GB Arbeitsspeicher beim Trainieren unterstützt. Für die Speicherung von Trainingsdaten, zum Beispiel Bilder, Videos und Audiodaten, stehen 7,6 TB als SSD bereit.
Der GPU Cluster kann von mehreren studentischen Projektgruppen parallel genutzt werden und bietet eine gute Basis, die in Zukunft bei steigendem Bedarf auch noch erweitert werden kann.