Parallel and High Performance Computing

Parallel en High Performance Computing biedt een duidelijke handleiding voor wie de prestaties van toepassingen wil maximaliseren en de uitvoeringstijd wil verlagen door gebruik te maken van parallelle technieken op multicore-CPU’s en GPU-hardware. Het boek gaat in op hoe moderne hardware parallelle verwerking mogelijk maakt en waarom het ontwerp en de implementatie van software anders moeten worden aangepakt om sneller en efficiënter te werken. Je leert hoe je prestatie-evaluatie toepast, hardware-architecturen beoordeelt en schaalbare oplossingen ontwikkelt die energieverbruik beperken, met aandacht voor zowel CPU- als GPU-omgevingen zoals OpenMP, MPI, CUDA en OpenCL. De auteurs brengen een fundamentele benadering van parallel programmeren, met voorbeelden en patronen die geschikt zijn voor practici die werken met high-performance computing-talen zoals C, C++ of Fortran. Het boek bevat een stap-voor-stapbenadering en behandelt onderwerpen van planning tot optimalisatie, inclusief technieken voor data-ontwerp, algoritmen en het omgaan met onderpresterende kernels en loops. Met ruim 704 pagina’s biedt het boek praktijkgerichte inzichten en voorbeelden om toepassingen betrouwbaarder en onderhoudbaar te maken, ook op handheld devices waar mogelijk.

Belangrijkste kenmerken

• Snellere run-times en betere schaalbaarheid
• Energie-efficiëntie via parallelle technieken
• Ondersteuning voor CPU- en GPU‑architecturen
• OpenMP, MPI en GPU-programmering (CUDA, OpenCL)
• Praktische patronen en data‑structuren voor HPC

Inhoud en aanpak

Het werk behandelt onder meer het plannen van een nieuw parallel project, het kiezen van geschikte data‑structuren en algoritmen, en het aanpakken van onderpresterende kernels en loops. Daarnaast gaat het in op de verschillen tussen CPU‑ en GPU‑architectuur, batch scheduling en besturing van toepassingen in een parallel omgevingscontext. Leesplezierig wordt er ingegaan op hoe je hardware‑architecturen evalueert en met industriestandaardige tools werkt, met voorbeelden zoals OpenMP en MPI. Het boek is gericht op ervaren programmeurs die bekwaam zijn in talen als C, C++ of Fortran en bevat illustraties van concepten, en praktische toepassingen op moderne hardware.

Auteurs en structuur

Robert Robey heeft meer dan 30 jaar ervaring in parallel computing en werkt bij Los Alamos National Laboratory. Yuliana Zamora heeft lesgegeven over efficiënte programmering van moderne hardware en heeft gewerkt aan applicaties die draaien op tienduizenden cores en de nieuwste GPU‑architecturen. Het boek is onderverdeeld in delen over introductie tot parallel computing, CPU‑geweld (vectorisatie, OpenMP, MPI), GPU‑snelheid (architecturen, programmeringsmodellen en GPU‑talen) en HPC‑ecosystemen (affiniteit, batch schedulers, bestandssystemen en tool‑sets). Het is voorzien van praktische stappen en inzichten die bruikbaar zijn voor gevorderde HPC‑programmeurs.