Databricks Runtime 10.4 LTS
以下发布说明提供了Databricks Runtime 10.4和Databricks Runtime 10.4 Photon的信息,由Apache Spark 3.2.1提供支持。光子是在公共预览.Databricks于2022年3月发布了这些图像。
请注意
LTS说明这个版本在下面长期支持.看到长期支持(LTS)生命周期.
新功能和改进
冰山到德尔塔表转换器(公开预览)
Convert to Delta现在支持将一个Iceberg表转换为一个Delta表。它通过使用Iceberg本机元数据和文件清单来实现这一点。看到转换为三角洲湖.
自动压缩回滚现在默认启用
此版本改进了当存在并发Auto Compaction事务时提交Delta Lake write的行为。在此版本之前,由于并发修改表,这样的写操作经常会退出。现在即使有并发的自动压缩事务,写入也会成功。
低洗牌合并现在默认启用
的合并成
命令现在总是使用新的低洗牌实现。的性能合并成
命令对于大多数工作负载非常重要。以前用于启用此特性的配置设置已被删除。看到低shuffle合并数据.
插入顺序标记现在保留为更新
年代和删除
年代
的更新
而且删除
命令现在为更新或删除的文件保存现有的集群信息(包括z顺序)。这种行为是一种尽力而为的方法,这种方法不适用于文件非常小,以至于在更新或删除期间合并这些文件的情况。
HikariCP现在是默认的Hive metastore连接池
与之前的BoneCP连接池实现相比,HikariCP为Hive metastore访问带来了许多稳定性改进,同时保持了更少的连接。HikariCP在任何使用Databricks Hive metastore的Databricks Runtime集群上默认启用(例如,当spark.sql.hive.metastore.jars
未设置)。您还可以通过设置显式切换到其他连接池实现,例如BoneCPspark.databricks.hive.metastore.client.pool.type
.
Azure Synapse连接器现在允许设置允许的最大拒绝行数
的Azure Synapse连接器现在支持maxErrorsDataFrame选项。此更新使您能够配置取消加载操作之前在读写期间允许拒绝的最大行数。所有被拒绝的行都将被忽略。例如,如果10个记录中有2个有错误,则只处理8个记录。
属性直接映射到REJECT_VALUE
选项。创建外部表格
语句的MAXERRORS
选项的Azure Synapse连接器复制
命令。
默认情况下,maxErrors
值设置为0
:所有记录都是有效的。
异步状态检查点现在通常是可用的
您可以在带有大型状态更新的有状态流查询中启用异步状态检查点。这可以减少端到端的微批处理延迟。这个特性现在普遍可用。看到结构化流的异步状态检查点.
现在可以为SQL用户定义函数指定默认参数
在创建SQL用户定义函数(SQL UDF)时,现在可以为SQL UDF的参数指定默认表达式。然后,您可以调用SQL UDF,而无需为这些参数提供参数,Databricks将为这些参数填充默认值。看到创建函数.
新的Spark SQL函数
以下Spark SQL函数现在可以在这个版本中使用:
try_multiply:返回
乘数
乘以被乘数
,或零
在溢出。try_subtract:返回的减法
expr2
从expr1
,或零
在溢出。
高并发集群的新工作目录
在启用了表访问控制或凭据传递的High Concurrency集群上,笔记本的当前工作目录现在是用户的主目录。以前,工作目录为/砖/驱动程序
.
Delta表中的标识列现在通常是可用的
三角洲湖现在支持身份栏。写入定义标识列的Delta表时,如果不为该列提供值,Delta现在会自动分配一个惟一的、统计上递增或递减的值。看到创建表[使用].
库升级
升级的Python库:
Filelock从3.4.2到3.6.0
升级的R库:
从1.0-6到1.0-7酿造
扫帚从0.7.11到0.7.12
Cli从3.1.0到3.2.0
Clipr从0.7.1到0.8.0
色彩空间从2.0-2到2.0-3
蜡笔从1.4.2到1.5.0
Dplyr从1.0.7到1.0.8
Dtplyr从1.2.0到1.2.1
从0.14评估到0.15
Foreach从1.5.1到1.5.2
未来从1.23.0到1.24.0
泛型从0.1.1到0.1.2
胶水从1.6.0到1.6.1
Gower从0.2.2到1.0.0
从1.0.13到1.0.14的迭代器
Jsonlite从1.7.3到1.8.0
Magrittr从2.0.1到2.0.2
MGCV从1.8-38到1.8-39
支柱从1.6.4到1.7.0
randomForest从4.6-14到4.7-1
从2.1.1到2.1.2的读取器
食谱从0.1.17到0.2.0
Rlang从0.4.12升级到1.0.1
Rpart从4.1-15到4.1.16
RSQLite从2.2.9到2.2.10
Sparklyr从1.7.4到1.7.5
从3.1.1测试到3.1.2
Tidyr从1.1.4到1.2.0
Tidyselect从1.1.1到1.1.2
Tinytex从0.36到0.37
Yaml从2.2.1到2.3.5
升级的Java库:
Io.delta.delta-sharing-spark_2.12从0.3.0到0.4.0
Apache火花
Databricks Runtime 10.4包含Apache Spark 3.2.1。此版本包括所有Spark修复和改进Databricks Runtime 10.3(不支持),以及以下对Spark的额外错误修复和改进:
(火花- 38322)[SQL]支持格式化解释模式查询阶段显示运行时统计信息
(火花- 38162)[SQL]在normal和AQE Optimizer中优化一行计划
(火花- 38229)[SQL]解析时不应该用visitReplaceTable检查temp/external/ifNotExists
(火花- 34183)DataSource V2:微批处理执行中必需的分布和排序
(火花- 37932)[SQL]在应用重复数据删除关系之前,等待解析丢失的属性
(火花- 37904)改进Optimizer规则中的RebalancePartitions
(火花- 38236)[SQL][3.2][3.1]通过“new Path(locationUri)”检查表位置是否为绝对。创建/修改表中的isAbsolute
(火花- 38035)[SQL]为内置JDBC方言添加docker测试
(火花- 38042)[SQL]确保ScalaReflection。数据类型For works on aliased array types
(火花- 38273)[SQL]
decodeUnsafeRows
的迭代器应该关闭底层输入流(火花- 38311)[SQL]修复ANSI模式下DynamicPartitionPruning/BucketedReadSuite/ExpressionInfoSuite的问题
(火花- 38305)[CORE]在调用FileUtil方法之前显式检查unpack()中是否存在source
(火花- 38275)[SS]将writeBatch的内存使用量作为RocksDB状态存储的总内存使用量
(火花- 38132)[SQL]删除
NotPropagation
规则(火花- 38286)[SQL] Union 's maxRows and maxRowsPerPartition可能溢出
(火花- 38306)[SQL]修复了ANSI模式下的ExplainSuite,StatisticsCollectionSuite和StringFunctionsSuite
(火花- 38281)[SQL][测试]修复ANSI模式下的AnalysisSuite
(火花- 38307)[SQL][Tests]修复ANSI模式下的expressionecheckingsuite和CollectionExpressionsSuite
(火花- 38300)[SQL]使用
ByteStreams.toByteArray
为了简化fileToString
而且resourceToBytes
在catalyst.util(火花- 38304)[SQL] Elt()应该返回null如果索引在ANSI模式下为空
(火花- 38271)泊sonsampler可以输出比MaxRows更多的行
(火花- 38297)在DataFrame上显式强制转换返回值。POS中的to_numpy
(火花- 38295)[SQL][Tests]修复ANSI模式下的arithmesexpressionsuite
(火花- 38290)[SQL]修复ANSI模式下JsonSuite和ParquetIOSuite的问题
(火花- 38299)[SQL]清除已弃用的用法
StringBuilder.newBuilder
(火花- 38060)[SQL]在解析JSON阅读器中引用的NaN和Infinity值时尊重allowNonNumericNumbers
(火花- 38276)[SQL]在ANSI模式下添加批准的TPCDS计划
(火花- 38206)[SS]忽略在流-流连接上比较连接键的数据类型时的空性
(火花- 37290)不确定函数的指数规划时间
(火花- 38232)[SQL] Explain格式化不收集AQE中查询阶段下的子查询
(火花- 38283)在ANSI模式下测试无效的datetime解析
(火花- 38140)[SQL]由于时区差异,描述时间戳类型的列统计值(min, max)与值不一致
(火花- 38227)[SQL][SS]在时间窗口/会话窗口中应用嵌套列的严格空性
(火花- 38221)当将复杂的分组表达式移出Aggregate节点时,急切地遍历groupingexpression
(火花- 38216)[SQL]创建Hive表时,如果所有列都是分区列,会导致早期失败
(火花- 38214)[SS]当windowDuration是slideDuration的倍数时,不需要过滤窗口
(火花- 38182)[SQL]修复推送过滤器不包含引用时NoSuchElementException的问题
(火花- 38159)[SQL]为隐藏的文件元数据添加一个新的FileSourceMetadataAttribute
(火花- 38123)[SQL]统一使用
数据类型
作为targetType
的QueryExecutionErrors # castingCauseOverflowError
(火花- 38118)[SQL] HAVING子句中的Func(错误的数据类型)应该抛出数据不匹配错误
(火花- 35173)[SQL][PYTHON]添加多列添加支持
(火花- 38177)修正Optimizer中错误的transformexpression
(火花- 38228)[SQL]在ANSI模式下,遗留存储分配不应该因错误而失败
(火花- 38173)[SQL]无法正确识别引用列when quotedRegexColumnNa…
(火花- 38130)删除array_sort可排序条目检查
(火花- 38199)[SQL]删除不使用的文件
数据类型
的定义中指定的IntervalColumnAccessor
(火花- 38203)[SQL]修复ANSI模式下的SQLInsertTestSuite和SchemaPruningSuite
(火花- 38163)[SQL]保留的错误类
SparkThrowable
在构造函数生成器时(火花- 38157)[SQL]在test timestampNTZ/timestamp中显式设置ANSI为false。sql和SQLQueryTestSuite来匹配预期的黄金结果
(火花- 38069)[SQL][SS]改进时间窗口的计算
(火花- 38164)[SQL]新的SQL函数:try_subtract和try_multiply
(火花- 38176)[SQL] ANSI模式:允许隐式地将String转换为其他简单类型
(火花- 37498)为test_reuse_worker_of_parallelize_range添加最终值
(火花- 38198)[SQL][3.2]修复了当explainMode为CodegenMode时queryexecute .debug#toFile在maxFields中使用传入参数的问题
(火花- 38131)[SQL]只在面向用户的异常中使用错误类
(火花- 37652)[SQL]添加测试优化倾斜连接通过联合
(火花- 37585)使用TaskCompletionListener更新DataSourceRDD中的InputMetric
(火花- 38113)[SQL]在pivot的执行错误中使用错误类
(火花- 38178)修正测量RocksDB内存使用情况的逻辑
(火花- 37969)[SQL] HiveFileFormat应该检查字段名
(火花- 37652)回复“[SQL]添加测试优化倾斜连接通过联合”
(火花- 38124)[SQL][SS]引入statfulopclustereddistribution并应用于流-流连接
(火花- 38030)[SQL]规范化不应该删除AttributeReference dataType的可空性
(火花- 37907)InvokeLike支持ConstantFolding
(火花- 37891)[CORE]添加scalstyle检查来禁用scala.concurrent. executioncontext . implicit .global
(火花- 38150)关系式转换的更新注释
(火花- 37943)[SQL]在分组的编译错误中使用错误类
(火花- 37652)[SQL]添加测试优化倾斜连接通过联合
(火花- 38056)[Web UI][3.2]修复了使用LevelDB时结构化流在历史服务器中无法工作的问题
(火花- 38144)[核心]删除未使用的
spark.storage.safetyFraction
配置(火花- 38120)[SQL]修复HiveExternalCatalog。当分区列名是大写并且在分区值中是点时,listPartitions
(火花- 38122)[Docs]更新DocSearch的App Key
(火花- 37479)[SQL]迁移DROP NAMESPACE默认使用V2命令
(火花- 35703)[SQL]放宽桶连接约束并删除HashClusteredDistribution
(火花- 37983)[SQL]从排序聚合中退出agg构建时间指标
(火花- 37915)[SQL]如果联合之间有一个项目,则合并联合
(火花- 38105)[SQL]在join的解析错误中使用错误类
(火花- 38073)更新退出函数以避免后期绑定问题
(火花- 37941)[SQL]在强制转换的编译错误中使用错误类
(火花- 37937)[SQL]在横向连接的解析错误中使用错误类
(火花- 38100)[SQL]删除中未使用的私有方法
小数
(火花- 37987)修正flaky test StreamingAggregationSuite。重新启动查询时更改状态模式
(火花- 38003)[SQL] LookupFunctions规则只能从标量函数注册表中查找函数
(火花- 38075)[SQL]修复
hasNext
在HiveScriptTransformationExec
的进程输出迭代器(火花- 37965)[SQL]在Orc中读写现有数据时删除检查字段名
(火花- 37922)[SQL]如果可以安全地向上强制转换两个类型,则合并为一个类型(对于dbr-branch-10.x)
(火花- 37675)[SPARK-37793]一旦shuffle完成,防止覆盖push shuffle合并的文件
(火花- 38011)[SQL]删除ParquetFileFormat中重复和无用的配置
(火花- 37929)[SQL]支持级联模式
dropNamespace
API(火花- 37931)[SQL]如果需要引用列名
(火花- 37990)在RowToColumnConverter中支持TimestampNTZ
(火花- 38001)[SQL]将不支持的特性相关的错误类替换为
UNSUPPORTED_FEATURE
(火花- 37839)[SQL] DS V2支持部分聚合下推
AVG
(火花- 37878)[SQL]迁移SHOW CREATE TABLE默认使用v2命令
(火花- 37731)[SQL] Analyzer中的重构和清理函数查找
(火花- 37979)[SQL]在AES函数中切换到更通用的错误类
(火花- 37867)[SQL]编译内置JDBC方言的聚合函数
(火花- 38028)从ArrowColumnVector中暴露箭头向量
(火花- 30062)[SQL]将IMMEDIATE语句添加到DB2方言截断实现
(火花- 36649)[SQL]支持
触发器。AvailableNow
Kafka数据源(火花- 38018)[SQL]修复columnvtorutils。populate来正确处理CalendarIntervalType
(火花- 38023)(核心)
ExecutorMonitor.onExecutorRemoved
应该处理ExecutorDecommission
为完成(火花- 38019)(核心)使
ExecutorMonitor.timedOutExecutors
确定的(火花- 37957)[SQL]正确地为V2标量函数传递确定性标志
(火花- 37985)[SQL]修复了SPARK-37578测试不稳定的问题
(火花- 37986)[SQL]支持TimestampNTZ的基数排序
(火花- 37967)[SQL]文字。创建支持对象类型
(火花- 37827)[SQL]将一些内置的表属性放入V1Table中。适配V2命令
(火花- 37963)在InMemoryCatalog中重命名表后需要更新分区URI
(火花- 35442)[SQL]支持通过聚合/联合传播空关系
(火花- 37933)[SQL]修改V2ScanRelationPushDown下推规则遍历方法
(火花- 37917)[SQL]如果连接条件为空,则将左半/反连接右侧的限制向下推1
(火花- 37959)修正了KMeans和BiKMeans中检查规范的UT
(火花- 37906)spark-sql不应该将最后一个注释传递给后端
(火花- 37627)[SQL]在BucketTransform中添加排序列
系统环境
操作系统: Ubuntu 20.04.4 LTS
Java: Zulu 8.56.0.21-CA-linux64
Scala: 2.12.14
Python: 3.8.10
R: 4.1.2
三角洲湖: 1.1.0
已安装的Python库
图书馆 |
版本 |
图书馆 |
版本 |
图书馆 |
版本 |
---|---|---|---|---|---|
Antergos Linux |
2015.10 (ISO-Rolling) |
appdirs |
1.4.4 |
argon2-cffi |
20.1.0 |
async-generator |
1.10 |
attrs |
20.3.0 |
backcall |
0.2.0 |
bidict |
0.21.4 |
漂白剂 |
3.3.0 |
boto3 |
1.16.7 |
botocore |
1.19.7 |
certifi |
2020.12.5 |
cffi |
1.14.5 |
chardet |
4.0.0 |
周期计 |
0.10.0 |
Cython |
0.29.23 |
dbus-python |
1.2.16 |
装饰 |
5.0.6 |
defusedxml |
是0.7.1 |
distlib |
0.3.4 |
distro-info |
0.23 ubuntu1 |
entrypoints |
0.3 |
facets-overview |
1.0.0 |
filelock |
3.6.0 |
idna |
2.10 |
ipykernel |
5.3.4 |
ipython |
7.22.0 |
ipython-genutils |
0.2.0 |
ipywidgets |
7.6.3 |
绝地武士 |
0.17.2 |
Jinja2 |
14 |
jmespath |
0.10.0 |
joblib |
1.0.1 |
jsonschema |
3.2.0 |
jupyter-client |
6.1.12 |
jupyter-core |
4.7.1 |
jupyterlab-pygments |
0.1.2 |
jupyterlab-widgets |
1.0.0 |
kiwisolver |
1.3.1 |
考拉 |
1.8.2 |
MarkupSafe |
2.0.1 |
matplotlib |
3.4.2 |
使走调 |
0.8.4 |
nbclient |
0.5.3 |
nbconvert |
6.0.7 |
nbformat |
5.1.3 |
nest-asyncio |
1.5.1 |
笔记本 |
6.3.0 |
numpy |
1.20.1 |
包装 |
20.9 |
熊猫 |
1.2.4 |
pandocfilters |
3 |
parso |
0.7.0 |
容易受骗的人 |
0.5.1 |
pexpect |
4.8.0 |
pickleshare |
0.7.5 |
枕头 |
8.2.0 |
皮普 |
21.0.1 |
情节 |
发送的 |
prometheus-client |
0.10.1 |
prompt-toolkit |
3.0.17 |
protobuf |
3.17.2 |
psycopg2 |
2.8.5 |
ptyprocess |
0.7.0 |
pyarrow |
4.0.0 |
pycparser |
2.20 |
Pygments |
2.8.1发布 |
PyGObject |
3.36.0 |
pyparsing |
2.4.7 |
pyrsistent |
0.17.3 |
python-apt |
2.0.0 + ubuntu0.20.4.7 |
python-dateutil |
2.8.1发布 |
python-engineio |
4.3.0 |
python-socketio |
5.4.1之前 |
pytz |
2020.5 |
pyzmq |
20.0.0 |
请求 |
2.25.1 |
requests-unixsocket |
0.2.0 |
s3transfer |
0.3.7 |
scikit-learn |
0.24.1 |
scipy |
1.6.2 |
seaborn |
0.11.1 |
Send2Trash |
1.5.0 |
setuptools |
52.0.0 |
六个 |
1.15.0 |
ssh-import-id |
5.10 |
statsmodels |
0.12.2 |
韧性 |
8.0.1 |
terminado |
0.9.4 |
testpath |
0.4.4 |
threadpoolctl |
魅惑 |
龙卷风 |
6.1 |
traitlets |
5.0.5 |
unattended-upgrades |
0.1 |
urllib3 |
1.25.11 |
virtualenv |
20.4.1 |
wcwidth |
0.2.5 |
webencodings |
0.5.1 |
轮 |
0.36.2 |
widgetsnbextension |
3.5.1 |
已安装的R库
R库从Microsoft CRAN快照日期:2022-02-24.
图书馆 |
版本 |
图书馆 |
版本 |
图书馆 |
版本 |
---|---|---|---|---|---|
askpass |
1.1 |
为了 |
0.2.1 |
补丁 |
1.4.1 |
基地 |
4.1.2 |
base64enc |
0.1 - 3 |
位 |
4.0.4 |
bit64 |
你 |
团 |
1.2.2 |
引导 |
-28 - 1.3 |
酿造 |
1.0 7 |
生动 |
1.1.3 |
扫帚 |
0.7.12 |
bslib |
0.3.1 |
cachem |
1.0.6 |
callr |
3.7.0 |
脱字符号 |
-90 - 6.0 |
cellranger |
1.1.0 |
时间 |
-56 - 2.3 |
类 |
-20 - 7.3 |
cli |
3.2.0 |
clipr |
0.8.0 |
集群 |
2.1.2 |
codetools |
-18 - 0.2 |
色彩 |
2.0 - 3 |
commonmark |
1.7 |
编译器 |
4.1.2 |
配置 |
0.3.1 |
cpp11 |
0.4.2 |
蜡笔 |
1.5.0 |
凭证 |
1.3.2 |
旋度 |
4.3.2 |
data.table |
1.14.2 |
数据集 |
4.1.2 |
DBI |
1.1.2 |
dbplyr |
2.1.1 |
desc |
1.4.0 |
devtools |
2.4.3 |
diffobj |
0.3.5 |
消化 |
0.6.29 |
dplyr |
1.0.8 |
dtplyr |
1.2.1 " |
e1071 |
1.7 9 |
省略 |
0.3.2 |
评估 |
0.15 |
fansi |
1.0.2中 |
farver |
魅惑 |
fastmap |
1.1.0 |
fontawesome |
0.2.2 |
forcats |
0.5.1 |
foreach |
1.5.2 |
外国 |
-82 - 0.8 |
打造 |
0.2.0 |
fs |
1.5.2 |
未来 |
1.24.0 |
future.apply |
1.8.1 |
含漱剂 |
1.2.0 |
泛型 |
0.1.2 |
哥特 |
1.5.0 |
ggplot2 |
3.3.5 |
“大酒店” |
1.3.0 |
gitcreds |
0.1.1 |
glmnet |
4.1 - 3 |
全局变量 |
0.14.0 |
胶水 |
1.6.1 |
googledrive |
2.0.0 |
googlesheets4 |
1.0.0 |
高尔 |
1.0.0 |
图形 |
4.1.2 |
grDevices |
4.1.2 |
网格 |
4.1.2 |
gridExtra |
2.3 |
gsubfn |
0.7 |
gtable |
0.3.0 |
需要戴安全帽的 |
0.2.0 |
还 |
2.4.3 |
highr |
0.9 |
hms |
1.1.1 |
htmltools |
0.5.2 |
htmlwidgets |
1.5.4 |
httpuv |
1.6.5 |
httr |
1.4.2 |
hwriter |
1.3.2 |
hwriterPlus |
1.0 - 3 |
id |
1.0.1 |
ini |
0.3.1 |
不小 |
-12 - 0.9 |
isoband |
0.2.5 |
迭代器 |
1.0.14 |
jquerylib |
0.1.4 |
jsonlite |
1.8.0 |
KernSmooth |
-20 - 2.23 |
knitr |
1.37 |
标签 |
0.4.2 |
晚些时候 |
1.3.0 |
晶格 |
-45 - 0.20 |
熔岩 |
1.6.10 |
生命周期 |
1.0.1 |
listenv |
0.8.0 |
lubridate |
1.8.0 |
magrittr |
2.0.2 |
减价 |
1.1 |
质量 |
-55 - 7.3 |
矩阵 |
1.4 0 |
memoise |
2.0.1 |
方法 |
4.1.2 |
mgcv |
-39 - 1.8 |
mime |
0.12 |
ModelMetrics |
1.2.2.2 |
modelr |
0.1.8 |
孟塞尔 |
0.5.0 |
nlme |
-155 - 3.1 |
nnet |
-17 - 7.3 |
numDeriv |
2016.8 - -1.1 |
openssl |
1.4.6 |
平行 |
4.1.2 |
平行 |
1.30.0 |
支柱 |
1.7.0 |
pkgbuild |
1.3.1 |
pkgconfig |
2.0.3 |
pkgload |
1.2.4 |
plogr |
0.2.0 |
plyr |
1.8.6 |
赞美 |
1.0.0 |
prettyunits |
1.1.1 |
pROC |
1.18.0 |
processx |
3.5.2 |
prodlim |
2019.11.13 |
进步 |
1.2.2 |
progressr |
0.10.0 |
承诺 |
1.2.0.1 |
原型 |
1.0.0 |
代理 |
-26 - 0.4 |
ps |
1.6.0 |
purrr |
0.3.4 |
r2d3 |
0.2.5 |
R6 |
2.5.1 |
randomForest |
4.7 - 1 |
rappdirs |
0.3.3 |
rcmdcheck |
1.4.0 |
RColorBrewer |
1.1 - 2 |
Rcpp |
1.0.8 |
RcppEigen |
0.3.3.9.1 |
readr |
2.1.2 |
readxl |
1.3.1 |
食谱 |
0.2.0 |
复赛 |
1.0.1 |
rematch2 |
2.1.2 |
遥控器 |
2.4.2 |
reprex |
2.0.1 |
reshape2 |
1.4.4 |
rlang |
1.0.1 |
rmarkdown |
2.11 |
RODBC |
-19 - 1.3 |
roxygen2 |
7.1.2 |
rpart |
4.1.16 |
rprojroot |
2.0.2 |
Rserve |
-10 - 1.8 |
RSQLite |
2.2.10 |
rstudioapi |
0.13 |
rversions |
2.1.1 |
房车 |
1.0.2中 |
萨斯 |
0.4.0 |
尺度 |
1.1.1 |
selectr |
0.4 - 2 |
sessioninfo |
1.2.2 |
形状 |
1.4.6 |
闪亮的 |
1.7.1上 |
sourcetools |
0.1.7 |
sparklyr |
1.7.5 |
SparkR |
3.2.0 |
空间 |
-11 - 7.3 |
样条函数 |
4.1.2 |
sqldf |
-11 - 0.4 |
SQUAREM |
2021.1 |
统计数据 |
4.1.2 |
stats4 |
4.1.2 |
stringi |
1.7.6 |
stringr |
1.4.0 |
生存 |
-13 - 3.2 |
sys |
3.4 |
tcltk |
4.1.2 |
TeachingDemos |
2.10 |
testthat |
3.1.2 |
宠物猫 |
3.1.6 |
tidyr |
1.2.0 |
tidyselect |
1.1.2 |
tidyverse |
1.3.1 |
timeDate |
3043.102 |
tinytex |
0.37 |
工具 |
4.1.2 |
tzdb |
0.2.0 |
usethis |
2.1.5 |
use utf8 |
1.2.2 |
跑龙套 |
4.1.2 |
uuid |
1.0 - 3 |
vctrs |
0.3.8 |
viridisLite |
0.4.0 |
发呜呜声 |
1.5.7 |
沃尔多 |
0.3.1 |
晶须 |
0.4 |
withr |
2.4.3 |
xfun |
0.29 |
xml2 |
1.3.3 |
xopen |
1.0.0 |
xtable |
1.8 - 4 |
yaml |
2.3.5 |
邮政编码 |
2.2.0 |
安装Java和Scala库(Scala 2.12集群版本)
组ID |
工件ID |
版本 |
---|---|---|
antlr |
antlr |
2.7.7 |
com.amazonaws |
amazon-kinesis-client |
1.12.0 |
com.amazonaws |
aws-java-sdk-autoscaling |
1.11.655 |
com.amazonaws |
aws-java-sdk-cloudformation |
1.11.655 |
com.amazonaws |
aws-java-sdk-cloudfront |
1.11.655 |
com.amazonaws |
aws-java-sdk-cloudhsm |
1.11.655 |
com.amazonaws |
aws-java-sdk-cloudsearch |
1.11.655 |
com.amazonaws |
aws-java-sdk-cloudtrail |
1.11.655 |
com.amazonaws |
aws-java-sdk-cloudwatch |
1.11.655 |
com.amazonaws |
aws-java-sdk-cloudwatchmetrics |
1.11.655 |
com.amazonaws |
aws-java-sdk-codedeploy |
1.11.655 |
com.amazonaws |
aws-java-sdk-cognitoidentity |
1.11.655 |
com.amazonaws |
aws-java-sdk-cognitosync |
1.11.655 |
com.amazonaws |
aws-java-sdk-config |
1.11.655 |
com.amazonaws |
aws-java-sdk-core |
1.11.655 |
com.amazonaws |
aws-java-sdk-datapipeline |
1.11.655 |
com.amazonaws |
aws-java-sdk-directconnect |
1.11.655 |
com.amazonaws |
aws-java-sdk-directory |
1.11.655 |
com.amazonaws |
aws-java-sdk-dynamodb |
1.11.655 |
com.amazonaws |
aws-java-sdk-ec2 |
1.11.655 |
com.amazonaws |
aws-java-sdk-ecs |
1.11.655 |
com.amazonaws |
aws-java-sdk-efs |
1.11.655 |
com.amazonaws |
aws-java-sdk-elasticache |
1.11.655 |
com.amazonaws |
aws-java-sdk-elasticbeanstalk |
1.11.655 |
com.amazonaws |
aws-java-sdk-elasticloadbalancing |
1.11.655 |
com.amazonaws |
aws-java-sdk-elastictranscoder |
1.11.655 |
com.amazonaws |
aws-java-sdk-emr |
1.11.655 |
com.amazonaws |
aws-java-sdk-glacier |
1.11.655 |
com.amazonaws |
aws-java-sdk-glue |
1.11.655 |
com.amazonaws |
aws-java-sdk-iam |
1.11.655 |
com.amazonaws |
aws-java-sdk-importexport |
1.11.655 |
com.amazonaws |
aws-java-sdk-kinesis |
1.11.655 |
com.amazonaws |
aws-java-sdk-kms |
1.11.655 |
com.amazonaws |
aws-java-sdk-lambda |
1.11.655 |
com.amazonaws |
aws-java-sdk-logs |
1.11.655 |
com.amazonaws |
aws-java-sdk-machinelearning |
1.11.655 |
com.amazonaws |
aws-java-sdk-opsworks |
1.11.655 |
com.amazonaws |
aws-java-sdk-rds |
1.11.655 |
com.amazonaws |
aws-java-sdk-redshift |
1.11.655 |
com.amazonaws |
aws-java-sdk-route53 |
1.11.655 |
com.amazonaws |
aws-java-sdk-s3 |
1.11.655 |
com.amazonaws |
aws-java-sdk-ses |
1.11.655 |
com.amazonaws |
aws-java-sdk-simpledb |
1.11.655 |
com.amazonaws |
aws-java-sdk-simpleworkflow |
1.11.655 |
com.amazonaws |
aws-java-sdk-sns |
1.11.655 |
com.amazonaws |
aws-java-sdk-sqs |
1.11.655 |
com.amazonaws |
aws-java-sdk-ssm |
1.11.655 |
com.amazonaws |
aws-java-sdk-storagegateway |
1.11.655 |
com.amazonaws |
aws-java-sdk-sts |
1.11.655 |
com.amazonaws |
aws-java-sdk-support |
1.11.655 |
com.amazonaws |
aws-java-sdk-swf-libraries |
1.11.22 |
com.amazonaws |
aws-java-sdk-workspaces |
1.11.655 |
com.amazonaws |
jmespath-java |
1.11.655 |
com.chuusai |
shapeless_2.12 |
2.3.3 |
com.clearspring.analytics |
流 |
2.9.6 |
com.databricks |
Rserve |
1.8 - 3 |
com.databricks |
jets3t |
0.7.1-0 |
com.databricks.scalapb |
compilerplugin_2.12 |
0.4.15-10 |
com.databricks.scalapb |
scalapb-runtime_2.12 |
0.4.15-10 |
com.esotericsoftware |
kryo-shaded |
4.0.2 |
com.esotericsoftware |
minlog |
1.3.0 |
com.fasterxml |
同学 |
1.3.4 |
com.fasterxml.jackson.core |
jackson-annotations |
2.12.3 |
com.fasterxml.jackson.core |
jackson-core |
2.12.3 |
com.fasterxml.jackson.core |
jackson-databind |
2.12.3 |
com.fasterxml.jackson.dataformat |
jackson-dataformat-cbor |
2.12.3 |
com.fasterxml.jackson.datatype |
jackson-datatype-joda |
2.12.3 |
com.fasterxml.jackson.module |
jackson-module-paranamer |
2.12.3 |
com.fasterxml.jackson.module |
jackson-module-scala_2.12 |
2.12.3 |
com.github.ben-manes.caffeine |
咖啡因 |
2.3.4 |
com.github.fommil |
jniloader |
1.1 |
com.github.fommil.netlib |
核心 |
1.1.2 |
com.github.fommil.netlib |
native_ref-java |
1.1 |
com.github.fommil.netlib |
native_ref-java-natives |
1.1 |
com.github.fommil.netlib |
native_system-java |
1.1 |
com.github.fommil.netlib |
native_system-java-natives |
1.1 |
com.github.fommil.netlib |
netlib-native_ref-linux-x86_64-natives |
1.1 |
com.github.fommil.netlib |
netlib-native_system-linux-x86_64-natives |
1.1 |
com.github.luben |
zstd-jni |
1.5.0-4 |
com.github.wendykierp |
JTransforms |
3.1 |
com.google.code.findbugs |
jsr305 |
3.0.0 |
com.google.code.gson |
gson |
2.8.6 |
com.google.crypto.tink |
叮叮铃 |
1.6.0 |
com.google.flatbuffers |
flatbuffers-java |
1.9.0 |
com.google.guava |
番石榴 |
15.0 |
com.google.protobuf |
protobuf-java |
2.6.1 |
com.h2database |
h2 |
1.4.195 |
com.helger |
分析器 |
1.1.1 |
com.jcraft |
jsch |
0.1.50 |
com.jolbox |
bonecp |
0.8.0.RELEASE |
com.lihaoyi |
sourcecode_2.12 |
0.1.9 |
com.microsoft.azure |
azure-data-lake-store-sdk |
2.3.9 |
com.ning |
compress-lzf |
1.0.3 |
com.sun.istack |
istack-commons-runtime |
3.0.8 |
com.sun.mail |
javax.mail |
1.5.2 |
com.tdunning |
json |
1.8 |
com.thoughtworks.paranamer |
paranamer |
2.8 |
com.trueaccord.lenses |
lenses_2.12 |
0.4.12 |
com.twitter |
chill-java |
0.10.0 |
com.twitter |
chill_2.12 |
0.10.0 |
com.twitter |
util-app_2.12 |
7.1.0 |
com.twitter |
util-core_2.12 |
7.1.0 |
com.twitter |
util-function_2.12 |
7.1.0 |
com.twitter |
util-jvm_2.12 |
7.1.0 |
com.twitter |
util-lint_2.12 |
7.1.0 |
com.twitter |
util-registry_2.12 |
7.1.0 |
com.twitter |
util-stats_2.12 |
7.1.0 |
com.typesafe |
配置 |
1.2.1 " |
com.typesafe.scala-logging |
scala-logging_2.12 |
3.7.2章 |
com.univocity |
univocity-parsers |
2.9.1 |
com.zaxxer |
HikariCP |
4.0.3 |
commons-cli |
commons-cli |
1.2 |
commons-codec |
commons-codec |
1.15 |
commons-collections |
commons-collections |
3.2.2 |
commons-dbcp |
commons-dbcp |
1.4 |
commons-fileupload |
commons-fileupload |
1.3.3 |
commons-httpclient |
commons-httpclient |
3.1 |
commons-io |
commons-io |
2.8.0 |
commons lang |
commons lang |
2.6 |
通用日志 |
通用日志 |
1.1.3 |
commons net |
commons net |
3.1 |
commons-pool |
commons-pool |
1.5.4 |
dev.ludovic.netlib |
arpack |
2.2.1 |
dev.ludovic.netlib |
布拉斯特区 |
2.2.1 |
dev.ludovic.netlib |
lapack |
2.2.1 |
蜂巢3.2 - 2.3 - __hadoop - |
jets3t - 0.7 |
liball_deps_2.12 |
info.ganglia.gmetric4j |
gmetric4j |
1.0.10 |
io.airlift |
aircompressor |
0.21 |
io.delta |
delta-sharing-spark_2.12 |
0.4.0 |
io.dropwizard.metrics |
metrics-core |
以下4.4.1 |
io.dropwizard.metrics |
metrics-graphite |
以下4.4.1 |
io.dropwizard.metrics |
metrics-healthchecks |
以下4.4.1 |
io.dropwizard.metrics |
metrics-jetty9 |
以下4.4.1 |
io.dropwizard.metrics |
metrics-jmx |
以下4.4.1 |
io.dropwizard.metrics |
metrics-json |
以下4.4.1 |
io.dropwizard.metrics |
metrics-jvm |
以下4.4.1 |
io.dropwizard.metrics |
metrics-servlets |
以下4.4.1 |
io.netty |
netty-all |
4.1.68.Final |
io.prometheus |
simpleclient |
0.7.0 |
io.prometheus |
simpleclient_common |
0.7.0 |
io.prometheus |
simpleclient_dropwizard |
0.7.0 |
io.prometheus |
simpleclient_pushgateway |
0.7.0 |
io.prometheus |
simpleclient_servlet |
0.7.0 |
io.prometheus.jmx |
收集器 |
0.12.0 |
jakarta.annotation |
jakarta.annotation-api |
1.3.5 |
jakarta.servlet |
jakarta.servlet-api |
4.0.3 |
jakarta.validation |
jakarta.validation-api |
2.0.2 |
jakarta.ws.rs |
jakarta.ws.rs-api |
2.1.6 |
javax.activation |
激活 |
1.1.1 |
javax.annotation |
javax.annotation-api |
1.3.2 |
javax.el |
javax.el-api |
2.2.4 |
javax.jdo |
jdo api |
3.0.1 |
javax.transaction |
jta |
1.1 |
javax.transaction |
事务api |
1.1 |
javax.xml.bind |
jaxb-api |
2.2.2 |
javax.xml.stream |
stax-api |
1.0 - 2 |
javolution |
javolution |
5.5.1 |
jline |
jline |
2.14.6 |
joda-time |
joda-time |
2.10.10 |
log4j |
apache-log4j-extras |
1.2.17 |
log4j |
log4j |
1.2.17 |
maven-trees |
蜂巢3.2 - 2.3 - __hadoop - |
liball_deps_2.12 |
net.java.dev.jna |
jna |
5.8.0 |
net.razorvine |
地幔岩 |
4.30 |
net.sf.jpam |
jpam |
1.1 |
net.sf.opencsv |
opencsv |
2.3 |
net.sf.supercsv |
super-csv |
2.2.0 |
net.snowflake |
snowflake-ingest-sdk |
0.9.6 |
net.snowflake |
snowflake-jdbc |
3.13.3 |
net.snowflake |
spark-snowflake_2.12 |
2.9.0-spark_3.1 |
net.sourceforge.f2j |
arpack_combined_all |
0.1 |
org.acplt.remotetea |
remotetea-oncrpc |
1.1.2 |
org.antlr |
ST4 |
4.0.4 |
org.antlr |
antlr-runtime |
3.5.2 |
org.antlr |
antlr4-runtime |
4.8 |
org.antlr |
stringtemplate |
3.2.1之上 |
org.apache.ant |
蚂蚁 |
1.9.2 |
org.apache.ant |
ant-jsch |
1.9.2 |
org.apache.ant |
ant-launcher |
1.9.2 |
org.apache.arrow |
arrow-format |
2.0.0 |
org.apache.arrow |
arrow-memory-core |
2.0.0 |
org.apache.arrow |
arrow-memory-netty |
2.0.0 |
org.apache.arrow |
arrow-vector |
2.0.0 |
org.apache.avro |
avro |
1.10.2 |
org.apache.avro |
avro-ipc |
1.10.2 |
org.apache.avro |
avro-mapred |
1.10.2 |
org.apache.commons |
commons-compress |
1.21 |
org.apache.commons |
commons-crypto |
1.1.0 |
org.apache.commons |
commons-lang3 |
3.12.0 |
org.apache.commons |
commons-math3 |
3.4.1 |
org.apache.commons |
commons-text |
1.6 |
org.apache.curator |
curator-client |
2.13.0 |
org.apache.curator |
curator-framework |
2.13.0 |
org.apache.curator |
curator-recipes |
2.13.0 |
org.apache.derby |
德比 |
10.14.2.0 |
org.apache.hadoop |
hadoop-client-api |
3.3.1-databricks |
org.apache.hadoop |
hadoop-client-runtime |
3.3.1 |
org.apache.hive |
hive-beeline |
2.3.9 |
org.apache.hive |
hive-cli |
2.3.9 |
org.apache.hive |
hive-jdbc |
2.3.9 |
org.apache.hive |
hive-llap-client |
2.3.9 |
org.apache.hive |
hive-llap-common |
2.3.9 |
org.apache.hive |
hive-serde |
2.3.9 |
org.apache.hive |
hive-shims |
2.3.9 |
org.apache.hive |
hive-storage-api |
2.7.2 |
org.apache.hive.shims |
蜂巢0.23 -垫片 |
2.3.9 |
org.apache.hive.shims |
hive-shims-common |
2.3.9 |
org.apache.hive.shims |
hive-shims-scheduler |
2.3.9 |
org.apache.htrace |
htrace-core4 |
4.1.0-incubating |
org.apache.httpcomponents |
httpclient |
4.5.13 |
org.apache.httpcomponents |
httpcore |
4.4.12 |
org.apache.ivy |
艾薇 |
2.5.0 |
org.apache.mesos |
mesos-shaded-protobuf |
1.4.0 |
org.apache.orc |
orc-core |
1.6.12 |
org.apache.orc |
orc-mapreduce |
1.6.12 |
org.apache.orc |
orc-shims |
1.6.12 |
org.apache.parquet |
parquet-column |
1.12.0-databricks-0003 |
org.apache.parquet |
parquet-common |
1.12.0-databricks-0003 |
org.apache.parquet |
parquet-encoding |
1.12.0-databricks-0003 |
org.apache.parquet |
parquet-format-structures |
1.12.0-databricks-0003 |
org.apache.parquet |
parquet-hadoop |
1.12.0-databricks-0003 |
org.apache.parquet |
parquet-jackson |
1.12.0-databricks-0003 |
org.apache.thrift |
libfb303 |
0.9.3 |
org.apache.thrift |
libthrift |
0.12.0 |
org.apache.xbean |
xbean-asm9-shaded |
4.20 |
org.apache.yetus |
audience-annotations |
0.5.0 |
org.apache.zookeeper |
动物园管理员 |
操作 |
org.apache.zookeeper |
zookeeper-jute |
操作 |
org.checkerframework |
checker-qual |
3.5.0 |
org.codehaus.jackson |
jackson-core-asl |
1.9.13 |
org.codehaus.jackson |
jackson-mapper-asl |
1.9.13 |
org.codehaus.janino |
commons-compiler |
3.0.16 |
org.codehaus.janino |
janino |
3.0.16 |
org.datanucleus |
datanucleus-api-jdo |
4.2.4 |
org.datanucleus |
datanucleus-core |
4.1.17 |
org.datanucleus |
datanucleus-rdbms |
4.1.19 |
org.datanucleus |
javax.jdo |
3.2.0-m3 |
org.eclipse.jetty |
jetty-client |
9.4.43.v20210629 |
org.eclipse.jetty |
jetty-continuation |
9.4.43.v20210629 |
org.eclipse.jetty |
jetty-http |
9.4.43.v20210629 |
org.eclipse.jetty |
jetty-io |
9.4.43.v20210629 |
org.eclipse.jetty |
jetty-jndi |
9.4.43.v20210629 |
org.eclipse.jetty |
jetty-plus |
9.4.43.v20210629 |
org.eclipse.jetty |
jetty-proxy |
9.4.43.v20210629 |
org.eclipse.jetty |
jetty-security |
9.4.43.v20210629 |
org.eclipse.jetty |
jetty服务器 |
9.4.43.v20210629 |
org.eclipse.jetty |
jetty servlet |
9.4.43.v20210629 |
org.eclipse.jetty |
jetty-servlets |
9.4.43.v20210629 |
org.eclipse.jetty |
jetty-util |
9.4.43.v20210629 |
org.eclipse.jetty |
jetty-util-ajax |
9.4.43.v20210629 |
org.eclipse.jetty |
jetty-webapp |
9.4.43.v20210629 |
org.eclipse.jetty |
jetty-xml |
9.4.43.v20210629 |
org.eclipse.jetty.websocket |
websocket-api |
9.4.43.v20210629 |
org.eclipse.jetty.websocket |
websocket-client |
9.4.43.v20210629 |
org.eclipse.jetty.websocket |
websocket-common |
9.4.43.v20210629 |
org.eclipse.jetty.websocket |
websocket服务器 |
9.4.43.v20210629 |
org.eclipse.jetty.websocket |
websocket-servlet |
9.4.43.v20210629 |
org.fusesource.leveldbjni |
leveldbjni-all |
1.8 |
org.glassfish.hk2 |
hk2-api |
2.6.1 |
org.glassfish.hk2 |
hk2-locator |
2.6.1 |
org.glassfish.hk2 |
hk2-utils |
2.6.1 |
org.glassfish.hk2 |
osgi-resource-locator |
1.0.3 |
org.glassfish.hk2.external |
aopalliance-repackaged |
2.6.1 |
org.glassfish.hk2.external |
jakarta.inject |
2.6.1 |
org.glassfish.jaxb |
jaxb运行时 |
2.3.2 |
org.glassfish.jersey.containers |
jersey-container-servlet |
2.34 |
org.glassfish.jersey.containers |
jersey-container-servlet-core |
2.34 |
org.glassfish.jersey.core |
jersey客户端 |
2.34 |
org.glassfish.jersey.core |
jersey-common |
2.34 |
org.glassfish.jersey.core |
jersey-server |
2.34 |
org.glassfish.jersey.inject |
jersey-hk2 |
2.34 |
org.hibernate.validator |
hibernate验证框架 |
6.1.0.Final |
org.javassist |
javassist |
3.25.0-GA |
org.jboss.logging |
jboss-logging |
3.3.2.Final |
org.jdbi |
jdbi |
2.63.1 |
org.jetbrains |
注释 |
17.0.0 |
org.joda |
joda-convert |
1.7 |
org.jodd |
jodd-core |
3.5.2 |
org.json4s |
json4s-ast_2.12 |
3.7.0-M11 |
org.json4s |
json4s-core_2.12 |
3.7.0-M11 |
org.json4s |
json4s-jackson_2.12 |
3.7.0-M11 |
org.json4s |
json4s-scalap_2.12 |
3.7.0-M11 |
org.lz4 |
lz4-java |
1.7.1上 |
org.mariadb.jdbc |
mariadb-java-client |
2.2.5 |
org.objenesis |
objenesis |
2.5.1 |
org.postgresql |
postgresql |
42.2.19 |
org.roaringbitmap |
RoaringBitmap |
0.9.14 |
org.roaringbitmap |
垫片 |
0.9.14 |
org.rocksdb |
rocksdbjni |
6.20.3 |
org.rosuda.REngine |
REngine |
魅惑 |
org.scala-lang |
scala-compiler_2.12 |
2.12.14 |
org.scala-lang |
scala-library_2.12 |
2.12.14 |
org.scala-lang |
scala-reflect_2.12 |
2.12.14 |
org.scala-lang.modules |
scala-collection-compat_2.12 |
2.4.3 |
org.scala-lang.modules |
scala-parser-combinators_2.12 |
1.1.2 |
org.scala-lang.modules |
scala-xml_2.12 |
1.2.0 |
org.scala-sbt |
测试界面 |
1.0 |
org.scalacheck |
scalacheck_2.12 |
1.14.2 |
org.scalactic |
scalactic_2.12 |
3.0.8 |
org.scalanlp |
breeze-macros_2.12 |
1.2 |
org.scalanlp |
breeze_2.12 |
1.2 |
org.scalatest |
scalatest_2.12 |
3.0.8 |
org.slf4j |
jcl-over-slf4j |
1.7.30 |
org.slf4j |
jul-to-slf4j |
1.7.30 |
org.slf4j |
slf4j-api |
1.7.30 |
org.slf4j |
slf4j-log4j12 |
1.7.30 |
org.spark-project.spark |
未使用的 |
1.0.0 |
org.threeten |
threeten-extra |
1.5.0 |
org.tukaani |
xz |
1.8 |
org.typelevel |
algebra_2.12 |
2.0.1 |
org.typelevel |
cats-kernel_2.12 |
2.1.1 |
org.typelevel |
macro-compat_2.12 |
1.1.1 |
org.typelevel |
spire-macros_2.12 |
0.17.0 |
org.typelevel |
spire-bob体育客户端下载platform_2.12 |
0.17.0 |
org.typelevel |
spire-util_2.12 |
0.17.0 |
org.typelevel |
spire_2.12 |
0.17.0 |
org.wildfly.openssl |
wildfly-openssl |
1.0.7.Final |
org.xerial |
sqlite-jdbc |
3.8.11.2 |
org.xerial.snappy |
snappy-java |
1.1.8.4 |
org.yaml |
snakeyaml |
1.24 |
奥罗 |
奥罗 |
2.0.8 |
pl.edu.icm |
JLargeArrays |
1.5 |
software.amazon.ion |
ion-java |
1.0.2中 |
stax |
stax-api |
1.0.1 |