分散メモリ並列計算

最近のスーパーコンピュータは、それぞれメモリを備えた計算ノードが多数並列に動作する、分散メモリの並列計算機が主流です。このような計算機を有効利用するには、プログラムの並列化が必要です。分散メモリ型並列計算機に対応するための並列化手法をまとめています。

MPI: Message Passing Interface

MPIの参考資料

Web上の資料

  • CCS HPCサマーセミナー2021
    筑波大学計算科学センターが毎夏開催しているセミナーの資料。 並列処理に関する基礎から、MPI、OpenMP、並列アルゴリズム、最適化まで学習できます。
  • 配信講義 計算科学技術特論A (2021)
    第2回に東京大の片桐孝洋氏が「MPIの基礎」を講義されたスライドが掲載されています。その他にも参考になる資料があります。
  • HPCI講習会資料公開ページ
    青山幸也氏による「並列プログラミング虎の巻MPI版」にMPIが詳しく解説されています。

教科書

  • P.パチェコ、MPI並列プログラミング (培風館, 2001)
    MPIの基本的な使い方をMPI-1.1に基づいて解説しています。
  • ウイリアム・グロップ/ユーイング・ラスク/ラジーブ・タークル、実践MPI-2 (ピアソン・エデュケーション, 2002)
    MPIの上級者向け機能の解説。
  • 下司雅章編「計算科学のためのHPC技術1」(大阪大学出版会, 2017年)
    上の配信講義計算科学技術特論の過去の講義を基にした教科書です。

MPI使用の際の注意

MPIとOpenMPを同時に用いる場合には注意が必要です。以下の資料を参照して下さい。

OpenMPI でハイブリッド並列コードを実行する場合にはプロセスとコアのバインドに注意が必要です。

XcalableMP (XMP)

分散メモリ並列化を行うためのディレクティブベースの言語拡張。

High Performance Fortran


トップ   編集 凍結 差分 バックアップ 添付 複製 名前変更 リロード   新規 一覧 単語検索 最終更新   ヘルプ   最終更新のRSS
Last-modified: 2022-05-02 (月) 11:58:32 (65d)