环境搭建-文本数据可视化表示

时间:2024-07-05 21:29:12
【文件属性】:

文件名称:环境搭建-文本数据可视化表示

文件大小:685KB

文件格式:PDF

更新时间:2024-07-05 21:29:12

hadoop

4.2 寻优过程的设计 求最终代群体中的最优解如图9所 示。若 迭 代次数满足 设 定 的 终 止 条 件,对 最 终 生 成 的RDD 实行 Map操作。在 Map操作中,定义变量解码函 数并求解Shubert函数值,将获得的多个极值和对 应 变 量 以 键 值 对 的 形 式 进 行 存 储,具 体 格 式 为 〈value,(x y)〉。通过reduceByKey对键值对的键 进行排序,将其存储到 HDFS中,输出Shubert函 数的最大值及其对应的变量值,结束。 Figure 9 Solving Shubert function based on RDD 图9 基于RDD寻优Shubert函数极值 5 实验与分析 实验主要从两个方面进行验证分析: (1)高 效 性:对 比Local、Hadoop和Spark平 台下GA的运算耗时、加速比、平均迭代耗时,验证 基于Spark平台并行GA算法的高效性; (2)准 确 率:对 比 不 同 迭 代 次 数 下 求 解Shu- bert函数的极值结果,检验基于分布式平台的并行 GA寻优结果的准确率和稳定性。 5.1 环境搭建 本实验平台的集群由1个主节点(Master)和 19个从节点(Slave)组 成,具 体 配 置 参 见 表1。实 验中各平台采用相同的样本数据集。 412 Computer Engineering &Science 计算机工程与科学 2018,40(2)


网友评论