Apache Spark 1.4.1 发布,开源集群计算系统

2015年07月19日 17:53 245 次阅读 来源: 开源中国 作者: 路人甲
摘要 Apache Spark 1.4.1 发布,此版本是个维护版本,包括一些稳定性修复(DataFrame API, Spark Streaming, PySpark, Spark SQL 和 MLlib),基于 Spark 1.4 分支。强烈建议所有用户升级到最新版本,此版本贡献开发者有 85 人。更新内容,具体如下:DataSourcesandDataFrames SPARK-8804:Order...

        Apache Spark 1.4.1 发布,此版本是个维护版本,包括一些稳定性修复(DataFrame API, Spark Streaming, PySpark, Spark SQL 和 MLlib),基于 Spark 1.4 分支。强烈建议所有用户升级到最新版本,此版本贡献开发者有 85 人。


更新内容,具体如下:

Data Sources and DataFrames
SPARK-8804: Order of UTF8String is not consistent with String if there is any non-ascii character in it
SPARK-8406: Race condition when writing Parquet files
SPARK-8329: DataSource options parser no longer accepts ‘_’
SPARK-8368: ClassNotFoundException in closure for map
SPARK-8470: MissingRequirementError for ScalaReflection on user classes
SPARK-8358: DataFrame explode with alias and * fails
MLLib
SPARK-8151: Pipeline components should correctly implement copy
SPARK-8468: Some metrics in RegressionEvaluator should have negative sign
SPARK-8736: GBTRegressionModel shouldn’t threshold predictions
SPARK-8563: IndexedRowMatrix.computeSVD() yields the U with wrong numCols
PySpark
SPARK-8202: Infinite loop during external sort
SPARK-8573: Trigger exceptions when invalid operators are used
SPARK-8766: Support non ASCII characters in columns
SparkR
SPARK-8506: Support for Spark packages when initializing SparkR
SPARK-8085: Support for user defined schemas when reading from data sources

更多内容请看发行说明。


        Apache Spark 是一种与 Hadoop 相似的开源集群计算环境,但是两者之间还存在一些不同之处,这些有用的不同之处使 Spark 在某些工作负载方面表现得更加优越,换句话说,Spark 启用了内存分布数据集,除了能够提供交互式查询外,它还可以优化迭代工作负载。


        Spark 是在 Scala 语言中实现的,它将 Scala 用作其应用程序框架。与 Hadoop 不同,Spark 和 Scala 能够紧密集成,其中的 Scala 可以像操作本地集合对象一样轻松地操作分布式数据集。


        尽 管创建 Spark 是为了支持分布式数据集上的迭代作业,但是实际上它是对 Hadoop 的补充,可以在 Hadoo 文件系统中并行运行。通过名为 Mesos 的第三方集群框架可以支持此行为。Spark 由加州大学伯克利分校 AMP 实验室 (Algorithms, Machines, and People Lab) 开发,可用来构建大型的、低延迟的数据分析应用程序。

还可以输入136 讨论区:
评 论