High-Performance-Computing-Trends 2019

Die Konvergenz von HPC-Systemen und Machine Learning steht auf der diesjährigen ISC im Mittelpunkt. Notwendige Anforderungen an diese Systeme und Konzepte im Bereich des Machine Learning werden dabei ausführlich untersucht. › von Horst Gietl

Auf der ISC High Performance 2019, die vom 16. bis 20. Juni in Frankfurt am Main stattfindet, werden rund 4.000 Fachbesucher erwartet. Der Veranstalter hat für die Teilnehmer ein vielfältiges Programm rund um die Themen Exascale-Systeme, Machine Learning (ML), HPC-Anwendungen, Quantum Computing sowie zu zukunftsweisenden Technologien zusammengestellt.

Es zeigt sich immer mehr, dass es zu einer Konvergenz von HPC und ML kommen wird und vor allem die Industrie vermehrt auf ML-Anwendungen setzt. HPC-Systeme mit großen CPU/GPU-Kapazitäten sind eine wichtige Voraussetzung für leistungsfähige Big-Data-Analysen. Außerdem stehen bereits fortgeschrittene ML-Konzepte für die Ausführung solcher Analysen zur Verfügung. Trotz aller Euphorie über künstliche Intelligenz und maschinelles Lernen kommen auf der ISC auch ethische Themen zu Wort, zum Beispiel im Distinguished Talk „Applied Ethics in Artificial Intelligence and Deep Learning“.

Konferenz-Keynote auf der ISC

In der Opening-Session wird Ivo Sbalza­rini, Chair of Scientific Computing for Systems Biology, Center for Systems Biology Dresden, mit der Konferenz-Keynote „The ­Algorithms of Life – Scientific Computing for Systems Biology“ die ISC eröffnen.

Aufgrund der zunehmenden Kenntnisse über die molekularen Grundlagen des Lebens, der Fortschritte in der biomedizinischen Forschung und den Vorhersagen durch biophysikalische Theorien, welche sich numerisch simulieren lassen, kommt ein tieferes Verständnis für die Entstehung des Lebens in Sichtweite. Computer-Simulationen spielen dabei eine wichtige Rolle, sowohl für das Testen von Hypothesen als auch für die Verfolgung unterschiedlicher Forschungsrichtungen. Einige Wissenschaftler sind sogar der Überzeugung, dass Systembiologie mit HPC die Schlüsselanwendung des 21. Jahrhunderts sein wird.

Bei der Keynote von John Shalf, Department Head for Computer Science Lawrence Berkeley National Laboratory, am Dienstag geht es um „HPC Beyond Moore’s Law“. Dieses von Moore 1965 postulierte Gesetz über die Leistungssteigerungen auf Chip-Ebene schwächt sich zunehmend ab und wird voraussichtlich um das Jahr 2050 gänzlich abflachen.

Mit der Keynote „HPC Achievement and Impact – 2019“ am Mittwoch gibt Thomas ­Sterling, Director for the Center for ­Research in Extreme Scale Technologies at Indiana University, einen Überblick über interessante HPC-Themen und Technologien seit der letzten ISC 2018.

Herausforderungen und Visionen für Exascale-Systeme

Die Entwicklung von Exascale-Systemen läuft weltweit auf Hochtouren, die ersten chinesischen Installationen dürften 2020/2021 zur Verfügung stehen. In der Session „Memory, New Technologies for HPC-Systems“ wird vor allem über Speichertechniken für Exascale-Systeme gesprochen. Die Session „Challenges for ­Future Exascale Systems“ wird sich neben den Kommunikations-Anforderungen auf dem Chip (mit Hilfe von Photonics-Elementen) auch mit den Auswirkungen von Exascale-Systemen auf Anwendungen auseinandersetzen, zum Beispiel der Wetter-/Klima-Vorhersage.

Entscheidend für jegliche Anwendungen werden jedoch effiziente Programm-Modelle für Exascale sein.

In Japan spielten auf dem Weg zu Exa­scale vor allem die Computer der K-Reihe eine wichtige Rolle, deren Nachfolgermodelle in der Session „Post-K Activities“ näher beleuchtet werden. Für die europäischen Initiativen zu diesem Thema gibt es einen Vortrag über „EuroHPC“. Außerdem diskutieren Experten die Visionen bei der Entwicklung von Post-Exascale-Systemen („HPC in 2030; What will happen in the next 10 Years“).

Machine Learning

Aufgrund der hohen Zustimmung für die bisherigen ML-Days seitens der Teilnehmer, findet auch 2019 wieder ein ML-Day statt (Mittwoch, 19. Juni). Ein Highlight des diesjährigen ML-Day wird die Konvergenz von HPC und ML sein. Dieser beginnt mit zwei Keynote-Vorträgen – einer zum Einsatz von ML-Techniken bei der Plasma-­Fusion und einer zum Thema „Recent Work at Google Brain on ML-Systems“.

In weiteren Sessions werden Themen wie „Benchmarking Large Scale Deep Learning“, „Building Machine Learning Systems at Scale – a Case Study“ und „AI & Security“ besprochen. Passend zu den Life-Sciences-Themen gibt es einen Vortrag zu „Deep Learning in Computer Assisted Medical Interventions“.

HPC-Anwendungen

Trotz der Konvergenz zwischen HPC und ML spielen klassische HPC-Anwendungen weiterhin eine wichtige Rolle in Forschung und Entwicklung. Das zeigt beispielsweise das Thema „Extreme-Scale Earth System Modeling“.

Eine zweite Session befasst sich mit weiteren Extreme-Scale-Applikationen aus unterschiedlichen Bereichen. Da bei Exa­scale-Systemen zwar die reine Rechenleistung sehr hoch ist, aber die Bandbreite zum Speicher immer kleiner wird (etwa 1/8 Byte pro FLOP), stellt sich zunehmend die Frage, ob man bei iterativen Verfahren immer mit 64-Bit-Genauigkeit rechnen muss. Dieses Thema soll in der Session „Mixed Precision (HW & SW-Interface)“ genauer beleuchtet werden. Zukünftige ML-Systeme werden sich speziell mit dieser Bandbreiten-Thematik befassen müssen, um die notwenigen Geschwindigkeiten bei ML-Anwendungen erreichen zu können.

Emerging Technologies

Das Thema Quantum Computing gewinnt an Fahrt, sowohl für die Forschung als auch für die Entwicklung. Auf der ISC können die Teilnehmer Sessions zu Quantum Computer und möglichen Anwendungen besuchen. Außerdem wird das für die europäische Quantum-Revolution wichtige Quantum Technology Flagship (QTF) in einem Distinguished Talk vorgestellt.

Industrial-Day

Der Industrial-Day am Dienstag, 18. Juni, beschäftigt sich ebenfalls mit den Möglichkeiten von HPC und ML im industriellen Umfeld. In der Industrie gilt nicht von ungefähr der Spruch, „ML goes Mainstream”. Der Industrie-Tag startet mit einer Key­note über „HPC and its Applications in Industry“ am Beispiel von BASF. Es folgt „HPC in ­Industry/Market Overview“ von Hyperion. Danach gibt es eine Session zu „HPC Applications in Industry“ mit Themen wie ­„Airbus – What industry is focusing on“, „HPC-as-a-Service for innovation and ­research applications“ und „Bringing HPC Clusters to the Cloud“.

Weitere Veranstaltungen zum Thema „Synergies of AI/ML and HPC in Industry“ sind „Massively Parallel Virtual Testing of Safety-Relevant Driving Systems“, „HPC-based Cloud/Edge Infrastructures for Real-Time Processing at Autonomous Driving“, „Accelerating Fluid Flow Prediction 1000X with Deep Learning – A Case Study“ und „Laying the Foundation for AI and Data-­Driven Applications in Industry“. Der Industrial Day endet mit dem Panel „How to ­facilitate the use of AI in Industry“. rt ‹

Autor: Horst Gietl ist Consultant für High Performance Computing bei der ISC Group.