サブロウ丸

サブロウ丸

主にプログラミングと数学

書籍: スパコンプログラミング入門


  • スパコンプログラミング入門 並列処理とMPIの学習
  • 発売日: 2013年03月13日頃
  • 著者/編集: 片桐孝洋
  • 出版社: 東京大学出版会
  • 発行形態: 単行本
  • ページ数: 186p
  • ISBN: 9784130624534
  • 注記: 付属資料:CD1

もっと早くに読んでおけばよかった。。。

個人的に勉強になった(初めて知ったこと)事柄

  • スパコンの性能指標
    • 理論性能(theoretical performance)
      • ハードウェア性能(1クロックに実行できる不動小数点回数)から算出したFLOPS値など
    • 実行性能(effective performance)
      • ベンチマー0区ソフトウェアを実行して計策されたFLOPT値など
  • 通信処理のオーバーヘッド
    • 通信立ち上がり時間(通信レイテンシ)
      • 0バイトのデータを送信するときの一定コスト
    • データ転送時間(通信バンド幅)
      • データ量に比例する
  • メモリによる計算機の分類
  • 並列計算における台数効果を見るときの方法
    • 強スケーリング(strong scaling)
      • 並列処理全体で行う問題サイズを固定し、並列数を増やしていくときの効果を見る
      • 通信性能やアルゴリズム自体の並列性をみたいときに使用
    • 弱スケーリング(weak scaling)
      • 1プロセス当たりの問題サイズを固定して、並列数を増加するときの効果を見る
      • 通信ネットワークを含む計算機システムが正しく機能しているかどうかを見る
  • 密行列用の数値計算ライブラリ
  • 階層キャッシュメモリ
  • キャッシュとキャッシュライン
    • 詳細は本書3.4節
  • ノンブロッキング通信
    • MPI_Isend
      • 送信データがバッファ領域に保存されることを確認せずに呼び出し側に戻るので、送信データが破壊されないことを保証しない
      • MPIの実装によってはMPI_Waitが呼ばれるまでMPI_Isendの通信を開始ない実装がされていることがある...
  • 行列積並列アルゴリズム