Algorithm 版 (精华区)

发信人: ssos (存在与虚无·戒酒戒网), 信区: Algorithm
标  题: 并 行 计 算 机 的 现 状 与 发 展 趋 势
发信站: 哈工大紫丁香 (2001年11月14日12:51:36 星期三), 站内信件

----------------------------------------------------------------------------
----
       最 近 几 年 , 超 级 计 算 机 领 域 连 续 出 现 了 一 些 令 人 担 忧 
的 事 情 。        由 于 冷 战 结 束 , 世 界 政 治 格 局 发 生 了 变 化 。 
于 是 , 美 国 政 府 大 幅 度 削 减 军 费 , 停 止 执 行“ 星 球 大 战” 计 
划 , 这 一 切 成 为 以 上 变 故 的 直 接 原 因 。 表1 所 列 事 件 包 括 以“
 超 级 计 算 之 父”CRAY 命 名 的 、 在 超 级 计 算 机 领 域 独 领 风 骚10 多
 年 的 两 家 公 司 , 以 及 在90 年 代 初 享 誉 超 级 计 算 机 界 的MPP 制 造
 商TMC 。 无 情 的 事 实 足 以 说 明 , 高 性 能 计 算 机 领 域 正 经 历 着 
转 折 期 的 困 难 。        面 对 如 此 风 云 变 幻 的 形 势 , 我 们 必 须 
冷 静 思 考 , 认 真 分 析 。        冷 战 和 历 史 上 的 战 争 有 可 能 促 
进 技 术 的 进 步 , 然 而 这 种 作 用 只 能 是 暂 时 的 、 局 部 的; 和 平
 与 发 展 才 是 科 学 技 术 的 春 天 。 作 为 三 大 科 学 研 究 手 段 之 一 
的 高 性 能 计 算 机 , 其 发 展 的 根 本 动 力 来 自 于 各 类 科 学 技 术 对
 计 算 机 性 能 永 无 止 境 的 需 求 和 生 产 的 实 际 需 要 。 在1996 年 的
“SuperComputing '96” 大 会 上 , 美 国 政 府HPCC 计 划 全 国 协 调 委 员 会
 主 席John Toole 在 题 为“ 危 机 、 创 新 与 机 会:HPCC 将 向 何 处 去” 的
 报 告 中 对 此 做 了 很 好 的 说 明 。 他 指 出 , 高 性 能 计 算 与 通 信 
对 美 国 的 国 家 安 全 及 保 持 美 国 在 未 来 的 优 势 至 关 重 要 。 美 国
 政 府 将 在 高 端 计 算 机 与 通 信 、 大 规 模 网 络 、 高 可 信 系 统 等5
 个 方 面 制 定10 ~15 年 的 长 期 计 划 , 保 持 长 期 持 续 性 投 资 。   
     过 去 的10 年 是 超 级 计 算 机 、 特 别 是 并 行 机 飞 速 发 展 、 走 
向 成 熟 的10 年 。10 年 中CPU 芯 片 的 性 能 翻 了 几 番 , 计 算 机 工 作 
者 发 明 了Wormhole( 虫 蚀 寻 径) 技 术 , 找 到 了 更 符 合 实 际 的LogP 
并 行 计 算 模 型 , 创 造 了 成 百 的 不 同 规 模 、 不 同 拓 扑 结 构 的 并
 行 平 台 。 特 别 是 , 由 于 多 种 软 硬 件 技 术 的 进 步 , 使 既 具 有 
可 扩 展 性 、 又 具 有 可 编 程 性 的 、 分 布 式 共 享 存 贮 结 构 的 并 行
 机 成 为 可 能 。        并 行 计 算 机 是 当 今 超 级 计 算 机 的 主 流 ,
 本 文 对 超 级 计 算 机(SuperComputer) 和 并 行 计 算 机(Parallel Computer)
 不 做 严 格 区 分 。 一 、 并 行 计 算 机 的 现 状: 可 扩 展 性 与 可 编 程
 性 当 今 的 并 行 计 算 机 , 除 大 家 熟 悉 的SMP( 共 享 存 储 多 机 系 统
) 和MPP( 大 规 模 并 行 处 理 系 统) 外 , 还 有 向 量 并 行 机(PVP , 或
 称VPP) , 以 及 工 作 站 群 集(NOW , 或 称COW) 。 PVP 与SMP 的 主 要 不
 同 是CPU , 后 者 是 标 准 的RISC 芯 片 , 而 前 者 是 各 个 厂 家 自 行 研
 制 的 向 量 处 理 机 。PVP 承 袭 了 向 量 机 的 优 势 , 技 术 成 熟 , 效 
率 高 , 可 将 互 连 网 络 的 路 由 器 插 入 其 中 , 方 便 地 进 行 各 种 优
 化 组 合 设 计 。 但 是 ,PVP 的 向 量CPU 与 已 经 形 成 上 千 万 生 产 规 
模 的RISC 相 比 , 在 规 模 效 应 和 性 价 比 上 相 差 悬 殊 。 另 外 ,RISC
 的 生 命 力 在 于 不 断 吸 收 超 级 计 算 机 领 域 的 最 新 技 术 , 目 前 
的 目 标 之 一 就 是 增 加 向 量 处 理 的 功 能 。 果 能 如 此 ,SMP 与PVP 就
 完 全 统 一 了 。        将 工 作 站 群 集NOW 作 为 并 行 计 算 机 的 一 个
 类 别 , 概 念 上 有 点 含 糊 。TOP 500 中 没 有NOW 这 一 类 。 当 然 , 具
 有“ 单 一 系 统 形 象(Single System Image)” 的 工 作 站 群 集 , 特 别 
是 同 构 的 , 其 本 质 与MPP 没 有 差 别 。        不 同 的 并 行 计 算 机 
各 有 特 点 , 但 它 们 也 有 区 别 于 其 它 计 算 机 的 共 性 。 其 中 最 重
 要 的 就 是 可 扩 展 性(Scalability) 和 可 编 程 性(Programmability) 这
 一 对 共 生 而 又 矛 盾 的 特 性 。 可 扩 展 性 是 并 行 计 算 机 最 大 的 
优 势 , 可 简 单 定 义 为“ 在 确 定 的 应 用 背 景 下 , 计 算 机 系 统 的
 性 能 要 随 处 理 机 数 的 增 加 而 线 性 增 长”( 美 籍 并 行 处 理 专 家
 黄 铠 教 授 语) 。 可 扩 展 性 包 括 规 模 可 扩 展 、 时 间 可 扩 展 和 问
 题 可 扩 展 几 个 方 面 。 规 模 可 扩 展 的 要 点 是 均 衡 , 均 衡 的 目 
的 是 防 止 瓶 颈 的 发 生 ,“ 三T” 表 达 了 当 今 均 衡 的 指 标 。 时 间
 可 扩 展 也 称 换 代 可 扩 展 , 主 要 指 体 系 不 受 限 于 芯 片 、 器 件 
、 工 艺 等 。 问 题 可 扩 展 指 格 点 增 加 时 , 系 统 能 适 应 问 题 规 模
 的 扩 大; 而 当 问 题 的 粒 度 加 大 时 , 效 率 能 相 应 提 高 。 现 有 的
MPP , 如Inetl 的Paragon 、IBM 的SP/2 、 国 内 的 曙 光1000 , 一 般 认 为 是
 可 以 扩 展 的 。        可 编 程 性 是 在 并 行 机 发 展 的 过 程 中 , 伴
 随 可 扩 展 性 而 产 生 的 新 概 念 。 并 行 计 算 机 有 共 享 与 分 布 式 
两 种 存 储 结 构 , 所 以 操 作 系 统 进 程 间 的 通 信(IPC) 也 有 两 种 
不 同 的 机 制: 共 享 变 量 和 信 息 传 递 。 机 器 结 构 和 操 作 系 统 的
 这 些 区 别 又 影 响 到 支 撑 软 件 和 应 用 软 件 的 编 程 模 式 。 SMP 的
 程 序 设 计 仍 以 传 统 的 高 级 语 言 为 基 础 , 系 统 提 供 自 动 并 行 
识 别 或 增 加 并 行 语 言 成 分 。 而MPP 必 须 建 立 另 一 种 编 程 环 境(
 如PVM 、MPI 等) , 在 程 序 中 显 式 地 写 出 信 息 的 发 送 和 接 收 。 这
 不 仅 导 致 应 用 软 件 编 写 困 难 , 还 给 广 大 用 户 增 加 了 很 多 负 
担 。 为 此 , 创 建 了 一 个 新 的 单 词Programmability , 用 以 描 述 并 行
 计 算 机 的 这 一 重 要 特 点 。        总 之 , 从 存 储 和 编 程 模 式 看
 , 并 行 机 可 分 为SMP 与MPP 两 类 。SMP 具 备 可 编 程 性 , 不 易 扩 展;
MPP 具 有 可 扩 展 性 , 不 易 编 程 。 如 何 将 两 者 的 优 点 融 合 在 同 
一 并 行 结 构 中 , 一 直 是 困 扰 超 级 计 算 机 研 制 者 的 难 题 。 二 、
 简 要 的 历 史 回 顾 历 史 是 现 实 的 镜 子 , 总 结 过 去 对 预 测 超 级 
计 算 机 的 发 展 趋 势 非 常 有 益 。        一 般 将CRAY-1 投 入 运 行 的1
976 年 称 为“ 超 级 计 算 元 年” 。 然 而 , 早 在1972 年 就 已 研 制 成 功
 的 超 级 计 算 机ILLIAC-IV , 是 现 今MPP 无 可 争 议 的 先 辈 。 什 么 是 
超 级 计 算 机 的 发 展 方 向 , 是 以CRAY-1 为 代 表 的 向 量 机 , 还 是 以
ILLIAC-IV 为 代 表 的 并 行 机 , 这 是70 年 代 计 算 机 界 的 热 门 话 题 。
 这 两 种 机 器 各 有 长 短 ,ILLIAC-IV 具 有 可 扩 展 性 , 一 个 象 限64 个
 处 理 单 元 , 原 设 计 为4 个 象 限 , 可 扩 展 到256 个 单 元 , 但 它 在
 编 程 模 式 上 与 传 统 的 大 型 机 相 差 太 大 。CRAY-1 正 好 相 反 , 编 
程 模 式 可 基 于FORTRAN IV 。 这 是 超 级 计 算 机 历 史 上 第 一 次 有 关 
可 扩 展 性 与 可 编 程 性 的 较 量 , 最 后 以 向 量 机 的 胜 利 而 告 终 。
 从 此 , 并 行 计 算 机 沉 寂 多 年 , 而 以CRAY 为 代 表 的 向 量 机 则 称
 雄 超 级 计 算 机 界 十 几 载 。        80 年 代 初 , 刮 起 了 一 股 小 巨
 型 机(miniSuperComputer) 的 风 暴 。 几 十 个 小 巨 型 机 厂 家 如 雨 后 
春 笋 般 冒 了 出 来 , 机 器 结 构 五 花 八 门 , 大 体 上 也 可 分 为 向 量
 机 和 并 行 机 两 大 类 。 这 是 超 级 计 算 技 术 从 高 科 技 领 域 走 向 
民 用 的 一 次 重 大 尝 试 , 所 以 小 巨 型 机 又 被 称 为 普 及 性 巨 型 机
 。 经 过 几 年 的 较 量 , 大 批 厂 家 偃 旗 息 鼓 , 而Convex 的C 系 列 却
 一 支 独 秀 。 这 无 异 于70 年 代CRAY 战 胜ILLIAC-IV 的 重 演 。        到
80 年 代 后 期 , 向 量 机 的 造 价 越 来 越 高 , 而 性 能 提 高 却 越 来 越
 难 。CRAY-3 的 时 钟 周 期 为 2ns ,CRAY-4 为1ns 。 在 这 种 形 势 下 , 人
 们 又 重 操 旧 业 , 并 行 计 算 机 再 一 次 红 红 火 火 地 搞 了 起 来 。 
在1990 年 的 超 级 计 算 机 大 会 上 ,Hillis 博 士 公 开 宣 称:“ 传 统 的
 巨 型 机( 向 量 巨 型 机)5 年 内 将 被 淘 汰” , 在 当 时 引 起 了 一 番
 争 论 。 今 天 看 来 ,Hillis 博 士 的 看 法 基 本 正 确 。 然 而 , 并 行 
机 对 向 量 机 的 胜 利 , 并 不 等 于 可 扩 展 性 对 可 编 程 性 的 胜 利 。
90 年 代 初 , 当 各 种 并 行 机 百 花 争 艳 , 令 人 们 眼 花 缭 乱 之 时 ,
 杀 出 了 一 匹“ 黑 马” , 即SGI 公 司 。 在1995 年11 月 公 布 的TOP 500 中
 , 它 独 占125 台 , 跃 居 众 家 之 首 。 其 优 势 之 一 是 具 有 共 享 存 
储 的SMP 结 构 , 因 而 具 有 可 编 程 性 。        从 以 上 列 举 的 三 个 
典 型 史 实 看 , 在 超 级 计 算 机 发 展 的 前20 年 间 , 基 本 遵 循 这 样
 一 个 规 律: 当 可 扩 展 性 与 可 编 程 性 不 能 相 容 时 , 人 们 总 是 选
 择 可 编 程 性 , 而 舍 弃 或 适 当 考 虑 可 扩 展 性 。 然 而 , 这 毕 竟 
只 是 一 种 权 宜 之 计 。 最 近 几 年 , 超 级 计 算 应 用 领 域 对 计 算 机
 性 能 的 需 求 飞 速 增 长 , 不 仅 向 量 机 不 能 担 此 重 任 ,SMP 和PVP 
也 已 力 不 从 心 。 在1996 年11 月 公 布 的TOP 500 中 ,MPP 仍 呈 上 升 趋 
势 , 而SMP 出 现 了 转 折 , 呈 下 滑 之 态 。 并 行 计 算 机 向 何 处 去 ?
 难 道 人 们 只 能 反 过 来 舍 弃 可 编 程 性 , 才 能 获 得 可 扩 展 性 吗 
? 当 然 不 是 。 美 籍 并 行 处 理 专 家 黄 铠 教 授 早 在1993 年 就 指 出:
“ 并 行 处 理 的 发 展 趋 势 是 用 分 布 式 共 享 存 储 结 构(Distributed 
Shared Memory ,DSM) 和 标 准Unix 来 构 造 可 扩 展 超 级 计 算 机 。” 即 
并 行 计 算 机 发 展 的 趋 势 既 不 是SMP , 也 不 是MPP , 而 是 两 者 优 势
 互 补 的DSM 。 三 、 分 布 式 共 享 存 储 结 构 ─ ─ 市 场 选 择 的 必 然 
结 果 超 级 计 算 机 必 须 具 有 很 好 的 可 扩 展 性 , 这 一 点 已 成 定 论
 。 然 而 , 这 并 不 意 味 着 可 以 不 考 虑 或 少 考 虑 可 编 程 性 。 如 
前 所 述 , 在 超 级 计 算 机 的 发 展 史 中 , 总 是 首 先 满 足 可 编 程 性
 。 这 里 有 一 种 无 形 的 、 然 而 却 是 决 定 性 的 力 量 在 起 作 用 , 
这 就 是 市 场 ! 大 部 分 超 级 计 算 机 的 用 户 所 要 求 的 不 仅 仅 是 高
 的 性 能 , 更 重 要 的 是 高 的 性 价 比 。        超 级 计 算 机 要 有 可
 编 程 性 , 似 乎 是 为 了 迎 合 用 户 编 程 的 习 惯 , 实 质 是 为 了 获 
得 高 的 性 价 比 。 一 般 说 来 , 超 级 计 算 机 系 统 可 分 为 两 大 部 分
 , 一 部 分 是 包 括 硬 件 和 系 统 软 件 的 平 台 , 另 一 部 分 是 应 用 
软 件 。 对 不 具 有 可 编 程 性 的 超 级 计 算 机 , 即 使 平 台 有 较 高 的
 性 价 比 , 但 却 大 大 增 加 了 移 植 原 有 应 用 软 件 的 难 度 和 开 发 
新 的 应 用 软 件 的 成 本 , 从 而 导 致 整 个 系 统 的 性 价 比 大 幅 度 下
 降 。 这 种 例 子 很 多 。 例 如 , 由Tensor 软 件 公 司 与Intel 通 力 合 作
 , 在Intel 的ipsc 上 开 发 并 行 石 油 地 震 资 料 处 理 应 用 软 件 , 用 
了4 年 多 的 时 间 才 完 成 了 一 个 应 用 系 统 。 相 应 地 , 中 科 院 计 
算 所 与 石 油 天 然 气 总 公 司 合 作 , 将 地 震 资 料 处 理 软 件GRISYS 在
SGI Power Challenge 上 并 行 化 , 仅 用 了8 个 人4 个 月 , 目 前 该 系 统 
在 兰 州 正 常 运 行 。 还 有 一 个 突 出 的 例 子 是CM-5 。        据TMC 自
 己 介 绍 , 他 们 有1/3 的 技 术 人 员 必 须 常 驻 用 户 单 位 , 与 用 户 
一 起 移 殖 、 开 发 应 用 软 件 , 指 导 用 户 使 用 并 行 机 。 正 因 为 并
 行 机 需 要 如 此 巨 大 的 附 加 成 本 , 所 以 被 市 场 无 情 淘 汰 也 就 
不 足 为 怪 了 。        如 果 过 去 市 场 的 作 用 在 超 级 计 算 领 域 还 
不 很 明 显 的 话 , 那 么 随 着 世 界 政 治 格 局 的 变 化 , 这 一 问 题 已
 变 得 非 常 明 确 。 今 天 , 并 行 机 已 突 破 狭 窄 的 应 用 范 围 , 走 
向 包 括 事 务 处 理 在 内 的 广 阔 市 场 。        1996 年 ,SGI 并 购CRAY 
时IDC 评 论 认 为 , 这 次 并 购“ 意 味 着 巨 型 机 厂 家 与 少 数 几 个 客
 户 携 手 生 产 少 量 专 门 化 、 高 价 格 产 品 的 时 代 已 经 结 束” ,“
 就 目 前 市 场 来 说 , 厂 家 必 须 把 这 类 高 档 系 统 作 为 一 种 更 普 
通 化 的 产 品 提 供 给 用 户” 。 这 就 是 说 , 超 级 计 算 机 一 味 依 赖
 于 政 府 和 军 方 的 支 持 、 不 计 成 本 、 只 求 性 能 的 时 代 已 经 过 
去 。 从 世 界 范 围 看 , 超 级 计 算 机 行 业 也 由“ 计 划 经 济” 走 向 
了 市 场 。        超 级 计 算 机 应 有 好 的 性 价 比 , 这 已 被 很 多 超 
级 计 算 机 用 户 所 认 识 。NASA 在1996 年11 月 发 表 的NPB 测 试 报 告 中 
, 列 出 了 多 种 平 台 每 百 万 美 元 的 持 续 性 能 。 报 告 认 为 , 这 些
 机 器 的 性 能 相 差 不 大 , 但 性 价 比 却 相 去 甚 远 。        因 此 ,
 可 编 程 性 与 可 扩 展 性 同 样 是 今 后 超 级 计 算 机 必 不 可 少 的 重 
要 性 能 。 这 是 作 为“ 上 帝” 的 广 大 用 户 的 意 志 , 是 市 场 选 择 
的 必 然 结 果 。 四 、 分 布 式 共 享 存 储 结 构 — ─ 技 术 发 展 的 趋 势
 市 场 需 要 既 有 可 扩 展 性 , 又 有 可 编 程 性 的 超 级 计 算 机 。 但 
需 要 不 等 于 现 实 。 要 在 分 布 式 环 境 下 实 现 存 储 逻 辑 共 享 , 是
 一 个 相 当 困 难 和 复 杂 的 问 题 。 众 所 周 知 , 现 今 的 计 算 机 存 
储 器 速 度 远 远 落 后 于CPU , 这 是 一 个 长 期 得 不 到 很 好 解 决 的 严
 重 瓶 颈 。 而 在 分 布 式 共 享 存 储 并 行 机 中 , 一 个CPU 存 取 远 程 
节 点 上 的 存 储 单 元 要 像 存 取 本 地 单 元 一 样 , 不 仅 方 便 而 且 具
 有 令 人 满 意 的 效 率 , 这 使 问 题 难 上 加 难 。        按 照 并 行 计
 算 模 型LogP 的 观 点 , 这 里 主 要 有 三 个 因 素: 发 送 与 接 收 端 的 
开 销(o) , 带 宽( 倒 数g) 和 时 延(L) 。 并 行 系 统 规 模 扩 展 时 ,
 节 点 增 加 , 数 据 传 送 的 路 径 变 长 。 为 此 , 人 们 用 硬 件 实 现 
了Wormhole( 虫 蚀 寻 径) 技 术 , 把 数 据 包 分 割 为 更 小 的 片( 或 叫
 微 包) , 采 用 异 步 流 水 的 办 法 , 使 时 延 几 乎 与 经 过 的 节 点 数
 无 关 。 随 着 路 上 时 延 的 大 幅 度 减 小 , 发 送 与 接 收 的 开 销 更 
为 突 出 。 人 们 将 进 程 破 分 为 线 程(thread) , 使 两 端 的 开 销 减 
少 了 两 个 数 量 级 。 在 这 些 关 键 技 术 取 得 重 大 突 破 的 基 础 上 ,
 一 些 研 究 部 门 在 企 业 的 支 持 下 , 设 计 了 各 具 特 色 的 实 验 型 
样 机 。 斯 坦 福 大 学 的DASH 系 统 就 是 一 个 范 例 。DASH 小 组 从1988 年
 开 始 工 作 , 节 点 由SGI 的4D/340(4CPU) 构 成 , 增 加 了 支 持 目 录 存
 储 器 与 群 间 接 口 的 新 板 卡 , 对 多 种 时 延 隐 藏 技 术 进 行 了 大 
量 的 研 究 实 验 。 其 中 包 括 预 取 技 术(Prefetching Technique) 、 硬 
件 支 持 的 一 致 性 高 速 缓 存(Coherent Cache) 、 非 严 格 的 存 储 一 致 
性(Relaxed Memory Consistency) , 以 及 多 现 场 切 换 技 术(Mulitiple Co
ntext) 等 。 他 们 的 工 作 证 明 , 这 些 时 延 隐 藏 技 术 是 富 有 成 效
 的 , 尤 以 预 取 、 多 现 场 切 换 为 佳; 多 种 技 术 综 合 利 用 , 效 果
 更 为 突 出; 软 硬 结 合 , 各 尽 其 能 , 是 实 现 分 布 式 共 享 存 储 器
 的 最 佳 途 径 。        超 级 计 算 机 领 域 技 术 上 的 突 破 和 丰 富 的
 成 果 , 使DSM 并 行 机 产 品 水 到 渠 成 。 人 们20 多 年 的 期 待 终 于 变
 成 了 现 实 , 一 些 既 具 有 可 扩 展 性 、 又 具 有 可 编 程 性 的 分 布 
式 共 享 存 储 并 行 机 相 继 面 世 , 如Sequent 的NUMA-Q 、HP(convex) 的SPP
 等 。SGI 去 年 发 布 的origin 系 列 , 是 一 个 典 型 的DSM 结 构 的 产 品 
, 称 为S2MP(Scalable share-memory Multiprocessing) , 是SGI SMP 的 成 功 经
 验 、DASH 的 研 究 结 果 、 以 及CRAY 先 进 技 术 的 共 同 结 晶 。        
超 级 计 算 机 已 走 过 了 整 整20 年 , 这 是 一 段 可 扩 展 性 与 可 编 程
 性 这 一 对 矛 盾 相 互 作 用 直 至 统 一 的 历 史 。 市 场 需 求 是 发 展 
的 动 力 , 技 术 进 步 是 发 展 的 条 件 。 有 专 家 估 计 , 从 现 在 起 直
 到 21 世 纪 若 干 年 ,DSM 结 构 将 是 超 级 计 算 机 的 主 流 , 将 稳 固 
地 占 领 超 级 计 算 机 的 主 要 市 场 。( 本 文 是 作 者 根 据 在 中 国 计
 算 机 学 会“ 当 代 计 算 机 体 系 结 构 、 操 作 系 统 的 发 展” 学 术 研
 讨 会 上 的 报 告 修 改 而 成) 
--

   
<<社会契约论>>是一本好书,应当多读几遍
风味的肘子味道不错,我还想再吃它      

※ 来源:·哈工大紫丁香 bbs.hit.edu.cn·[FROM: 202.118.230.220]
[百宝箱] [返回首页] [上级目录] [根目录] [返回顶部] [刷新] [返回]
Powered by KBS BBS 2.0 (http://dev.kcn.cn)
页面执行时间:211.768毫秒