Databricks Runtime 5.4(不支持)
Databricks于2019年6月发布了这张图片。
以下发布说明提供了Databricks运行时5.4的信息，由Apache Spark提供支持。
新功能
Delta Lake在Databricks上添加了自动优化(公开预览)
如今，当您将数据写入云存储时，您需要压缩文件以获得最佳的I/O性能。您必须考虑正确的文件大小、压缩文件的频率、使用多大的集群等等。为了解决这类问题，我们很高兴在Databricks上介绍Delta Lake的自动优化。在每次写入Delta表的过程中，我们自动计算出正确的文件大小和压缩文件，这样您就不必担心优化存储布局。时，如果自动最优化选择是真正的， Databricks自动确定是否需要优化，并优化小文件。详细信息请参见自动优化Databricks。
一般可用的图书馆实用程序
现在一般都可以使用库实用程序。该特性允许您在notebook会话范围内操作Python库。看到库实用程序(dbutls . Library)。
Databricks Connect一般可用
Databricks Connect现已普遍可用。这个特性是一个Spark客户端库，可以让你连接你最喜欢的IDE (IntelliJ, Eclipse, PyCharm, RStudio)，笔记本服务器(Zeppelin, Jupyter)和其他自定义应用程序到Databricks集群并运行Spark代码。看到砖连接。
二进制文件数据源
二进制文件数据源读取二进制文件并将每个文件转换为包含文件原始内容和元数据的单个记录。您现在可以高效地将任意文件读入Spark DataFrame，而无需访问文件的内容。如果您想使用Spark加载大文件(如图像)进行评分，这尤其有用。看到二进制文件。
为深度学习工作负载优化了DBFS FUSE文件夹
Databricks现在提供了一个优化的FUSE挂载。您可以在训练和推断期间获得高性能的数据访问，而无需应用初始化脚本。储存于dbfs: /毫升并可于文件:/ dbfs /毫升现在由这个优化的FUSE mount支持。看到为机器学习和深度学习加载数据。
胶水亚瘤(公开预览)
胶水目录支持现在在公共预览。该特性允许您配置Databricks Runtime，以使用AWS Glue Data Catalog作为其亚存储，它可以直接代替外Hive亚瘤。它还允许多个Databricks工作区共享相同的metastore。有关更多信息和限制，请参见使用AWS胶水数据目录作为一个亚矿。
Apache火花
Databricks Runtime 5.4包含Apache Spark 2.4.3。此版本包括所有Spark修复和改进Databricks Runtime 5.3(不支持)，以及以下对Spark的额外错误修复和改进:
(火花- 27596)[SQL] JDBC ' query '选项不适用于Oracle数据库
(火花- 27240)在Scalar pandas UDF中使用pandas DataFrame作为结构类型参数。
(火花- 26745)[SQL][TESTS] JsonSuite测试用例:空行-> 0记录计数
(火花- 25535)解决common -crypto中的错误处理问题。
(火花- 26891)修复YarnSchedulerBackendSuite中的片状测试
(火花- 27563)[SQL][TEST]在HiveExternalCatalogVersionsSuite中自动获取最新的Spark版本
(火花- 27494)[SS] Null值不工作在Kafka源v2
(火花- 27550)[测试]修复test-dependencies.sh不要使用kafka-0-8Scala-2.12的配置文件
(火花- 26992)修正STS调度程序池的正确交付
(火花- 27544)[PYTHON][TEST]修复PYTHON测试脚本在Scala-2.12构建上的工作
(火花- 27539)[SQL]修复不准确的汇总outputRows估计列包含空值
(火花- 27469)统一common -beanutils deps到最新1.9.3
(火花- 27419)在迁移指南中添加spark.executor.heartbeatInterval更改的说明
(火花- 27496)致命错误也应该发送回发送方
(火花- 25079)将python3可执行文件更新到3.6.x
(火花- 27163)清理和巩固pandas UDF功能
(火花- 27403)[SQL]修复updateTableStats更新表统计数据总是用新的统计数据或None
(火花- 27479)隐藏org.apache.spark.util.kvstore的API文档
(火花- 27446)[R]使用现有的spark conf。
(火花- 27453)在DataFrameWriter中传递partitionBy作为选项
(火花- 27454)(火花- 27454)[HOT-FIX][ML][SQL] Cherrypick(修复在Spark图像数据源失败时遇到一些非法图像)
(火花- 27351)[SQL]错误的outputRows估计后aggregateestimate只有空值列
(火花- 27314)[SQL] Deduplicate exprIds for Union。
(火花- 27394)[web]在接收SparkListenerExecutorMetricsUpdate (backport 2.4)时，如有必要刷新LiveEntity
(火花- 27406)[SQL]当两台机器的Oops大小不同时，UnsafeArrayData序列化中断
(火花- 27419)[CORE]避免将心跳间隔设置为秒(2.4)
(火花- 27391)不要在continuousexecexecution作业中初始化lazy val。
(火花- 27390)[CORE][SQL][TEST]修复包名不匹配的问题
(火花- 27358)jquery更新到1.12。X获取安全补丁
(火花- 27216)[核心]升级RoaringBitmap到0.7.45修复Kryo不安全的ser/dser问题
(火花- 27382)[SQL][TEST]更新Spark 2.4。在HiveExternalCatalogVersionsSuite进行x测试
(火花- 27338)[CORE]修复UnsafeExternalSorter和TaskMemoryManager之间的死锁
(火花- 27338)[CORE][FOLLOWUP]删除尾随空格
(火花- 27338)[CORE]修复UnsafeExternalSorter中的死锁锁定两个UnsafeExternalSorter时的SpillableIterator。SpillableIterator和TaskMemoryManager
(火花- 27346)[SQL]松开ExpressionInfo中' examples '字段的换行断言条件
(火花- 26998)从执行器中删除SSL配置
(火花- 27244)[CORE][TEST][FOLLOWUP] toDebugString编辑敏感信息
(火花- 27267)更新hadoop-2.6依赖清单
(火花- 27267)更新snappy以避免在解压缩空序列化数据时出错
(火花- 27301)[DSTREAM]缩短文件系统缓存的生命周期到清理方法内部作用域
(火花- 27244)[CORE]使用时修改密码选项logConf=true
(火花- 26208)[SQL]当header=true时，为空csv文件添加头
(火花- 27275)修正EncryptedMessage中潜在的损坏。transferTo (2.4)
(火花- 23836)在标量pandas UDF中增加对StructType返回的支持
(火花- 26961)[CORE]开启并行类加载能力
(火花- 27274)修复2.4.1+ DOCS中对scala 2.11的引用;注意2.11支持在2.4.1+中已弃用
(火花- 27198)[CORE] Heartbeat interval in driver and executor不匹配
(火花- 27094)解决RackResolver吞线程中断问题。
(火花- 24935)[SQL]修复Hive UDAF有两个聚合缓冲区的问题
(火花- 27160)[SQL]修复了构建兽人过滤器时的DecimalType问题
(火花- 26606)[CORE]当通过遗留客户端提交到独立集群模式时，正确处理驱动程序选项
(火花- 27221)改进TreeNode中的assert错误信息。parseToJson (5. x)
(火花- 27102)[R][PYTHON][CORE]删除R的Scala代码中对PYTHON的Scala代码的引用
(火花- 27159)[SQL]更新mssql服务器方言支持二进制类型
(火花- 27112)[CORE]:在线程之间创建资源排序，以解决由于动态分配或块列表而试图杀死执行程序时遇到的死锁
(火花- 27178)[K8S]添加nss包修复测试
(火花- 27045)在SparkSQLDriver的情况下，UI中的SQL选项卡显示实际的SQL而不是callsite
(火花- 27119)[SQL]使用本地数据源读取Hive serde表时不推断模式
(火花- 27165)(火花- 27107)[BUILD][SQL]升级Apache ORC到1.5.5
(火花- 26742)[K8S]更新K8S客户端版本到4.1.2
(火花- 26927)[CORE]确保在动态分配管理器中处理事件时执行器处于活动状态。
(火花- 27097)[CHERRY-PICK 2.4]避免在整个阶段生成的代码中直接嵌入bob体育客户端下载平台依赖的偏移量
(火花- 27111)用InterruptedException (5.x)修复连续查询可能失败的竞争
(火花- 27111)[SS]修复连续查询可能会因InterruptedException而失败的竞争
(火花- 27080)[SQL]错误修正:mergewithmetastorechema与统一小写比较
(火花- 26604)【核心】清理StreamManager的频道注册
(火花- 27016)[SQL][BUILD]当从SQL语法文件生成解析器时，将所有antlr警告视为错误
(火花- 25863)(火花- 21871)[SQL]检查updateAndGetCompilationStats中的代码大小统计是否为空
(火花- 27078)[SQL]修复读Hive物化视图时NoSuchFieldError的问题
(火花- 27019)[SQL][web] onJobStart发生在onExecutionEnd之后不应该覆盖kvstore
(火花- 27065)[核心]避免一个阶段有多个活动任务集管理器
(火花- 24669)[SQL]在DROP DATABASE CASCADE的情况下使表无效
(火花- 26932)增加Hive 2.1.1 ORC阅读器问题警告
(火花- 25139)(火花- 18406)在PythonRunner中避免非致命的杀死Executor
系统环境
操作系统: Ubuntu 16.04.6 LTS
Java: 1.8.0_191
Scala: 2.11.12
PythonPython 2集群为2.7.12,Python 3集群为3.5.2。
R: R版本3.6.0 (2019-04-26)
GPU集群:安装了以下NVIDIA GPU库:
特斯拉司机375.66
CUDA 9.0
cuDNN 7.0
请注意
虽然在Apache Spark 2.4中支持Scala 2.12，但在Databricks Runtime 5.4中不支持。
已安装的Python库
图书馆 |
版本 |
图书馆 |
版本 |
图书馆 |
版本 |
|---|---|---|---|---|---|
ansi2html |
1.1.1 |
argparse |
1.2.1 " |
backports-abc |
0．5 |
宝途 |
2.42.0 |
boto3 |
1.4.1 |
botocore |
1.4.70 |
brewer2mpl |
1.4.1 |
certifi |
2016.2.28 |
cffi |
1.7.0 |
chardet |
tripwire |
彩色光 |
0.3.7 |
configobj |
5.0.6 |
密码学 |
1．5 |
周期计 |
0.10.0 |
Cython |
0.24.1 |
装饰 |
4.0.10 |
docutils |
0.14 |
enum34 |
1.1.6 |
et-xmlfile |
1.0.1 |
freetype-py |
1.0.2中 |
funcsigs |
1.0.2中 |
fusepy |
2.0.4 |
期货 |
3.2.0 |
ggplot |
0.6.8 |
html5lib |
0.999 |
idna |
2.1 |
ipaddress |
1.0.16 |
ipython |
2.2.0 |
ipython-genutils |
0.1.0 |
jdcal |
1．2 |
Jinja2 |
2.8 |
jmespath |
0.9.0 |
llvmlite |
0.13.0 |
lxml |
3.6.4 |
MarkupSafe |
0.23 |
matplotlib |
1.5.3 |
mpld3 |
0.2 |
msgpack-python |
0.4.7 |
ndg-httpsclient |
0.3.3 |
numba |
0.28.1 |
numpy |
1.11.1 |
openpyxl |
2.3.2 |
熊猫 |
0.19.2 |
pathlib2 |
魅惑 |
容易受骗的人 |
0.4.1 |
pexpect |
4.0.1 |
pickleshare |
0.7.4 |
枕头 |
3.3.1 |
皮普 |
19.1.1 |
厚度 |
3.9 |
prompt-toolkit |
1.0.7 |
psycopg2 |
2.6.2 |
ptyprocess |
0.5.1 |
py4j |
0.10.3 |
pyarrow |
0.8.0 |
pyasn1 |
0.1.9 |
pycparser |
2.14 |
Pygments |
2.1.3 |
PyGObject |
3.20.0 |
pyOpenSSL |
16.0.0 |
pyparsing |
2.2.0 |
pypng |
0.0.18 |
Python |
2.7.12 |
python-dateutil |
2.5.3 |
python-geohash |
0.8.5 |
pytz |
2016.6.1 |
请求 |
2.11.1 |
s3transfer |
0.1.9 |
scikit-learn |
0.18.1 |
scipy |
0.18.1 |
冲刷 |
0.32 |
seaborn |
是0.7.1 |
setuptools |
41.0.1 |
simplejson |
3.8.2 |
simples3 |
1．0 |
singledispatch |
3.4.0.3 |
六个 |
1.10.0 |
statsmodels |
0.6.1 |
龙卷风 |
5.1.1 |
traitlets |
4.3.0 |
urllib3 |
1.19.1 |
virtualenv |
16.1.0 |
wcwidth |
0.1.7 |
轮 |
0.33.3 |
wsgiref |
0.1.2 |
已安装的R库
图书馆 |
版本 |
图书馆 |
版本 |
图书馆 |
版本 |
|---|---|---|---|---|---|
abind |
1.4 - 5 |
askpass |
1．1 |
为了 |
0.2.1 |
补丁 |
1.1.3 |
基地 |
3.6.0 |
base64enc |
0.1 - 3 |
黑洞 |
1.69.0-1 |
位 |
-14 - 1.1 |
bit64 |
0.9 7 |
bitops |
1.0 6 |
团 |
1.1.1 |
引导 |
-20 - 1.3 |
酿造 |
1.0 6 |
callr |
3.2.0 |
车 |
3.0 - 2 |
carData |
3.0 - 2 |
脱字符号 |
-82 - 6.0 |
cellranger |
1.1.0 |
时间 |
-53 - 2.3 |
类 |
-15 - 7.3 |
cli |
1.1.0 |
clipr |
0.5.0 |
clisymbols |
1.2.0 |
集群 |
2.0.8 |
codetools |
-16 - 0.2 |
色彩 |
1.4 - 1 |
commonmark |
1.7 |
编译器 |
3.6.0 |
配置 |
0.3 |
蜡笔 |
1.3.4 |
旋度 |
3．3 |
data.table |
1.12.0 |
数据集 |
3.6.0 |
DBI |
1.0.0 |
dbplyr |
1.3.0 |
desc |
1.2.0 |
devtools |
2.0.1 |
消化 |
0.6.18 |
doMC |
1.3.5 |
dplyr |
0.8.0.1 |
省略 |
0.1.0 |
fansi |
0.4.0 |
forcats |
0.4.0 |
foreach |
1.4.4 |
外国 |
-71 - 0.8 |
打造 |
0.2.0 |
fs |
1.2.7 |
“绿带运动” |
2.1.5 |
泛型 |
发布 |
ggplot2 |
3.1.0 |
“大酒店” |
1.0.1 |
git2r |
0.25.2 |
glmnet |
-16 - 2.0 |
胶水 |
1.3.1 |
高尔 |
0.2.0 |
图形 |
3.6.0 |
grDevices |
3.6.0 |
网格 |
3.6.0 |
gridExtra |
2．3 |
gsubfn |
0.7 |
gtable |
0.3.0 |
水 |
3.22.1.1 |
还 |
魅惑 |
hms |
0.4.2 |
htmltools |
0.3.6 |
htmlwidgets |
1.3 |
httr |
1.4.0 |
hwriter |
1.3.2 |
hwriterPlus |
1.0 - 3 |
ini |
0.3.1 |
不小 |
0.9 8 |
迭代器 |
1.0.10 |
jsonlite |
1．6 |
KernSmooth |
-15 - 2.23 |
标签 |
0.3 |
晶格 |
-38 - 0.20 |
熔岩 |
1.6.5 |
lazyeval |
0.2.2 |
的小 |
0.3.7 |
lme4 |
-21 - 1.1 |
lubridate |
1.7.4 |
magrittr |
1．5 |
mapproj |
1.2.6 |
地图 |
3.3.0 |
maptools |
0.9 - 5 |
质量 |
7.3 - -51.1 |
矩阵 |
-17 - 1.2 |
MatrixModels |
0.4 - 1 |
memoise |
1.1.0 |
方法 |
3.6.0 |
mgcv |
-28 - 1.8 |
mime |
0.6 |
minqa |
1.2.4 |
ModelMetrics |
1.2.2 |
孟塞尔 |
0.5.0 |
mvtnorm |
-10 - 1.0 |
nlme |
-139 - 3.1 |
nloptr |
1.2.1 " |
nnet |
-12 - 7.3 |
numDeriv |
2016.8 - 1 |
openssl |
1.3 |
openxlsx |
4.1.0 |
平行 |
3.6.0 |
pbkrtest |
0.4 7 |
支柱 |
1.3.1 |
pkgbuild |
1.0.3 |
pkgconfig |
2.0.2 |
pkgKitten |
0.1.4 |
pkgload |
1.0.2中 |
plogr |
0.2.0 |
plyr |
1.8.4 |
赞美 |
1.0.0 |
prettyunits |
1.0.2中 |
pROC |
1.14.0 |
processx |
3.3.0 |
prodlim |
2018.04.18 |
进步 |
1.2.0 |
原型 |
1.0.0 |
ps |
1.3.0 |
purrr |
0.3.2 |
quantreg |
5.38 |
R.methodsS3 |
1.7.1上 |
R.oo |
1.22.0 |
R.utils |
2.8.0 |
r2d3 |
0.2.3 |
R6 |
测试盒框 |
randomForest |
-14 - 4.6 |
rappdirs |
0.3.1 |
rcmdcheck |
1.3.2 |
RColorBrewer |
1.1 - 2 |
Rcpp |
1.0.1 |
RcppEigen |
0.3.3.5.0 |
RcppRoll |
0.3.0 |
RCurl |
1.95 - -4.12 |
readr |
1.3.1 |
readxl |
1.3.1 |
食谱 |
0.1.5 |
复赛 |
1.0.1 |
遥控器 |
2.0.2 |
reshape2 |
3 |
里约热内卢 |
0.5.16 |
rlang |
0.3.3 |
RODBC |
-15 - 1.3 |
roxygen2 |
但是 |
rpart |
-15 - 4.1 |
rprojroot |
1.3 - 2 |
Rserve |
1.8 6 |
RSQLite |
2.1.1 |
rstudioapi |
0．10 |
尺度 |
1.0.0 |
sessioninfo |
1.1.1 |
sp |
1.3 - 1 |
sparklyr |
1.0.0 |
SparkR |
2.4.3 |
SparseM |
1.77 |
空间 |
-11 - 7.3 |
样条函数 |
3.6.0 |
sqldf |
-11 - 0.4 |
SQUAREM |
2017.10 - 1 |
statmod |
1.4.30 |
统计数据 |
3.6.0 |
stats4 |
3.6.0 |
stringi |
3 |
stringr |
1.4.0 |
生存 |
2.43 - 3 |
sys |
3．1 |
tcltk |
3.6.0 |
TeachingDemos |
2.10 |
testthat |
2.0.1 |
宠物猫 |
2.1.1 |
tidyr |
0.8.3 |
tidyselect |
0.2.5 |
timeDate |
3043.102 |
工具 |
3.6.0 |
usethis |
1.4.0 |
use utf8 |
1.1.4 |
跑龙套 |
3.6.0 |
viridisLite |
0.3.0 |
晶须 |
0.3 - 2 |
withr |
2.1.2 |
xml2 |
1.2.0 |
xopen |
1.0.0 |
yaml |
2.2.0 |
邮政编码 |
2.0.1 |
安装Java和Scala库(Scala 2.11集群版本)
组ID |
工件ID |
版本 |
|---|---|---|
antlr |
antlr |
2.7.7 |
com.amazonaws |
amazon-kinesis-client |
1.8.10 |
com.amazonaws |
aws-java-sdk-autoscaling |
1.11.313 |
com.amazonaws |
aws-java-sdk-cloudformation |
1.11.313 |
com.amazonaws |
aws-java-sdk-cloudfront |
1.11.313 |
com.amazonaws |
aws-java-sdk-cloudhsm |
1.11.313 |
com.amazonaws |
aws-java-sdk-cloudsearch |
1.11.313 |
com.amazonaws |
aws-java-sdk-cloudtrail |
1.11.313 |
com.amazonaws |
aws-java-sdk-cloudwatch |
1.11.313 |
com.amazonaws |
aws-java-sdk-cloudwatchmetrics |
1.11.313 |
com.amazonaws |
aws-java-sdk-codedeploy |
1.11.313 |
com.amazonaws |
aws-java-sdk-cognitoidentity |
1.11.313 |
com.amazonaws |
aws-java-sdk-cognitosync |
1.11.313 |
com.amazonaws |
aws-java-sdk-config |
1.11.313 |
com.amazonaws |
aws-java-sdk-core |
1.11.313 |
com.amazonaws |
aws-java-sdk-datapipeline |
1.11.313 |
com.amazonaws |
aws-java-sdk-directconnect |
1.11.313 |
com.amazonaws |
aws-java-sdk-directory |
1.11.313 |
com.amazonaws |
aws-java-sdk-dynamodb |
1.11.313 |
com.amazonaws |
aws-java-sdk-ec2 |
1.11.313 |
com.amazonaws |
aws-java-sdk-ecs |
1.11.313 |
com.amazonaws |
aws-java-sdk-efs |
1.11.313 |
com.amazonaws |
aws-java-sdk-elasticache |
1.11.313 |
com.amazonaws |
aws-java-sdk-elasticbeanstalk |
1.11.313 |
com.amazonaws |
aws-java-sdk-elasticloadbalancing |
1.11.313 |
com.amazonaws |
aws-java-sdk-elastictranscoder |
1.11.313 |
com.amazonaws |
aws-java-sdk-emr |
1.11.313 |
com.amazonaws |
aws-java-sdk-glacier |
1.11.313 |
com.amazonaws |
aws-java-sdk-glue |
1.11.313 |
com.amazonaws |
aws-java-sdk-iam |
1.11.313 |
com.amazonaws |
aws-java-sdk-importexport |
1.11.313 |
com.amazonaws |
aws-java-sdk-kinesis |
1.11.313 |
com.amazonaws |
aws-java-sdk-kms |
1.11.313 |
com.amazonaws |
aws-java-sdk-lambda |
1.11.313 |
com.amazonaws |
aws-java-sdk-logs |
1.11.313 |
com.amazonaws |
aws-java-sdk-machinelearning |
1.11.313 |
com.amazonaws |
aws-java-sdk-opsworks |
1.11.313 |
com.amazonaws |
aws-java-sdk-rds |
1.11.313 |
com.amazonaws |
aws-java-sdk-redshift |
1.11.313 |
com.amazonaws |
aws-java-sdk-route53 |
1.11.313 |
com.amazonaws |
aws-java-sdk-s3 |
1.11.313 |
com.amazonaws |
aws-java-sdk-ses |
1.11.313 |
com.amazonaws |
aws-java-sdk-simpledb |
1.11.313 |
com.amazonaws |
aws-java-sdk-simpleworkflow |
1.11.313 |
com.amazonaws |
aws-java-sdk-sns |
1.11.313 |
com.amazonaws |
aws-java-sdk-sqs |
1.11.313 |
com.amazonaws |
aws-java-sdk-ssm |
1.11.313 |
com.amazonaws |
aws-java-sdk-storagegateway |
1.11.313 |
com.amazonaws |
aws-java-sdk-sts |
1.11.313 |
com.amazonaws |
aws-java-sdk-support |
1.11.313 |
com.amazonaws |
aws-java-sdk-swf-libraries |
1.11.22 |
com.amazonaws |
aws-java-sdk-workspaces |
1.11.313 |
com.amazonaws |
jmespath-java |
1.11.313 |
com.carrotsearch |
hppc |
0.7.2 |
com.chuusai |
shapeless_2.11 |
2.3.2 |
com.clearspring.analytics |
流 |
2.7.0 |
com.databricks |
Rserve |
1.8 - 3 |
com.databricks |
dbml-local_2.11 |
0.5.0-db8-spark2.4 |
com.databricks |
dbml-local_2.11-tests |
0.5.0-db8-spark2.4 |
com.databricks |
jets3t |
0.7.1-0 |
com.databricks.scalapb |
compilerplugin_2.11 |
0.4.15-9 |
com.databricks.scalapb |
scalapb-runtime_2.11 |
0.4.15-9 |
com.esotericsoftware |
kryo-shaded |
4.0.2 |
com.esotericsoftware |
minlog |
1.3.0 |
com.fasterxml |
同学 |
1.0.0 |
com.fasterxml.jackson.core |
jackson-annotations |
2.6.7 |
com.fasterxml.jackson.core |
jackson-core |
2.6.7 |
com.fasterxml.jackson.core |
jackson-databind |
2.6.7.1 |
com.fasterxml.jackson.dataformat |
jackson-dataformat-cbor |
2.6.7 |
com.fasterxml.jackson.datatype |
jackson-datatype-joda |
2.6.7 |
com.fasterxml.jackson.module |
jackson-module-paranamer |
2.6.7 |
com.fasterxml.jackson.module |
jackson-module-scala_2.11 |
2.6.7.1 |
com.github.fommil |
jniloader |
1．1 |
com.github.fommil.netlib |
核心 |
1.1.2 |
com.github.fommil.netlib |
native_ref-java |
1．1 |
com.github.fommil.netlib |
native_ref-java-natives |
1．1 |
com.github.fommil.netlib |
native_system-java |
1．1 |
com.github.fommil.netlib |
native_system-java-natives |
1．1 |
com.github.fommil.netlib |
netlib-native_ref-linux-x86_64-natives |
1．1 |
com.github.fommil.netlib |
netlib-native_system-linux-x86_64-natives |
1．1 |
com.github.luben |
zstd-jni |
1.3.2-2 |
com.github.rwl |
jtransforms |
测试盒框 |
com.google.code.findbugs |
jsr305 |
2.0.1 |
com.google.code.gson |
gson |
2.2.4 |
com.google.guava |
番石榴 |
15.0 |
com.google.protobuf |
protobuf-java |
2.6.1 |
com.googlecode.javaewah |
JavaEWAH |
0.3.2 |
com.h2database |
h2 |
1.3.174 |
com.jcraft |
jsch |
0.1.50 |
com.jolbox |
bonecp |
0.8.0.RELEASE |
com.microsoft.azure |
azure-data-lake-store-sdk |
2.2.8 |
com.microsoft.azure |
azure存储 |
5.2.0 |
com.microsoft.sqlserver |
mssql-jdbc |
6.2.2.jre8 |
com.ning |
compress-lzf |
1.0.3 |
com.sun.mail |
javax.mail |
1.5.2 |
com.thoughtworks.paranamer |
paranamer |
2.8 |
com.trueaccord.lenses |
lenses_2.11 |
0.3 |
com.twitter |
chill-java |
0.9.3 |
com.twitter |
chill_2.11 |
0.9.3 |
com.twitter |
parquet-hadoop-bundle |
1.6.0 |
com.twitter |
util-app_2.11 |
6.23.0 |
com.twitter |
util-core_2.11 |
6.23.0 |
com.twitter |
util-jvm_2.11 |
6.23.0 |
com.typesafe |
配置 |
1.2.1 " |
com.typesafe.scala-logging |
scala-logging-api_2.11 |
2.1.2 |
com.typesafe.scala-logging |
scala-logging-slf4j_2.11 |
2.1.2 |
com.univocity |
univocity-parsers |
2.7.3 |
com.vlkan |
flatbuffers |
1.2.0-3f79e055 |
com.zaxxer |
HikariCP |
3.1.0 |
commons-beanutils |
commons-beanutils |
1.7.0 |
commons-beanutils |
commons-beanutils-core |
1.8.0 |
commons-cli |
commons-cli |
1．2 |
commons-codec |
commons-codec |
1.10 |
commons-collections |
commons-collections |
3.2.2 |
commons configuration |
commons configuration |
1．6 |
commons-dbcp |
commons-dbcp |
1．4 |
commons-digester |
commons-digester |
1．8 |
commons-httpclient |
commons-httpclient |
3．1 |
commons-io |
commons-io |
2.4 |
commons lang |
commons lang |
2.6 |
通用日志 |
通用日志 |
1.1.3 |
commons net |
commons net |
3．1 |
commons-pool |
commons-pool |
1.5.4 |
info.ganglia.gmetric4j |
gmetric4j |
1.0.7 |
io.airlift |
aircompressor |
0．10 |
io.dropwizard.metrics |
metrics-core |
3.1.5 |
io.dropwizard.metrics |
metrics-ganglia |
3.1.5 |
io.dropwizard.metrics |
metrics-graphite |
3.1.5 |
io.dropwizard.metrics |
metrics-healthchecks |
3.1.5 |
io.dropwizard.metrics |
metrics-jetty9 |
3.1.5 |
io.dropwizard.metrics |
metrics-json |
3.1.5 |
io.dropwizard.metrics |
metrics-jvm |
3.1.5 |
io.dropwizard.metrics |
metrics-log4j |
3.1.5 |
io.dropwizard.metrics |
metrics-servlets |
3.1.5 |
io.netty |
网状的 |
3.9.9.Final |
io.netty |
netty-all |
4.1.17.Final |
io.prometheus |
simpleclient |
0.0.16 |
io.prometheus |
simpleclient_common |
0.0.16 |
io.prometheus |
simpleclient_dropwizard |
0.0.16 |
io.prometheus |
simpleclient_servlet |
0.0.16 |
io.prometheus.jmx |
收集器 |
0.7 |
javax.activation |
激活 |
1.1.1 |
javax.annotation |
javax.annotation-api |
1．2 |
javax.el |
javax.el-api |
2.2.4 |
javax.jdo |
jdo api |
3.0.1 |
javax.servlet |
javax.servlet-api |
3.1.0 |
javax.servlet.jsp |
jsp-api |
2.1 |
javax.transaction |
jta |
1．1 |
javax.validation |
验证api |
1.1.0.Final |
javax.ws.rs |
javax.ws.rs-api |
2.0.1 |
javax.xml.bind |
jaxb-api |
2.2.2 |
javax.xml.stream |
stax-api |
1.0 - 2 |
javolution |
javolution |
5.5.1 |
jline |
jline |
2.14.6 |
joda-time |
joda-time |
2.9.3 |
log4j |
apache-log4j-extras |
1.2.17 |
log4j |
log4j |
1.2.17 |
maven-trees |
hive-exec-with-glue |
蜂巢- 12679 patch_deploy |
maven-trees |
hive-exec-with-glue |
hive-exec_shaded |
net.hydromatic |
eigenbase-properties |
1.1.5 |
net.razorvine |
地幔岩 |
4.13 |
net.sf.jpam |
jpam |
1．1 |
net.sf.opencsv |
opencsv |
2．3 |
net.sf.supercsv |
super-csv |
2.2.0 |
net.snowflake |
snowflake-ingest-sdk |
0.9.5 |
net.snowflake |
snowflake-jdbc |
3.6.15 |
net.snowflake |
spark-snowflake_2.11 |
2.4.10-spark_2.4 |
net.sourceforge.f2j |
arpack_combined_all |
0．1 |
org.acplt |
oncrpc |
1.0.7 |
org.antlr |
ST4 |
4.0.4 |
org.antlr |
antlr-runtime |
3.4 |
org.antlr |
antlr4-runtime |
4．7 |
org.antlr |
stringtemplate |
3.2.1之上 |
org.apache.ant |
蚂蚁 |
1.9.2 |
org.apache.ant |
ant-jsch |
1.9.2 |
org.apache.ant |
ant-launcher |
1.9.2 |
org.apache.arrow |
arrow-format |
0.10.0 |
org.apache.arrow |
arrow-memory |
0.10.0 |
org.apache.arrow |
arrow-vector |
0.10.0 |
org.apache.avro |
avro |
1.8.2 |
org.apache.avro |
avro-ipc |
1.8.2 |
org.apache.avro |
avro-mapred-hadoop2 |
1.8.2 |
org.apache.calcite |
calcite-avatica |
1.2.0-incubating |
org.apache.calcite |
calcite-core |
1.2.0-incubating |
org.apache.calcite |
calcite-linq4j |
1.2.0-incubating |
org.apache.commons |
commons-compress |
1.8.1 |
org.apache.commons |
commons-crypto |
1.0.0 |
org.apache.commons |
commons-lang3 |
3.5 |
org.apache.commons |
commons-math3 |
3.4.1 |
org.apache.curator |
curator-client |
2.7.1 |
org.apache.curator |
curator-framework |
2.7.1 |
org.apache.curator |
curator-recipes |
2.7.1 |
org.apache.derby |
德比 |
10.12.1.1 |
org.apache.directory.api |
api-asn1-api |
1.0.0-M20 |
org.apache.directory.api |
api-util |
1.0.0-M20 |
org.apache.directory.server |
apacheds-i18n |
2.0.0-M15 |
org.apache.directory.server |
apacheds-kerberos-codec |
2.0.0-M15 |
org.apache.hadoop |
hadoop-annotations |
2.7.3 |
org.apache.hadoop |
hadoop-auth |
2.7.3 |
org.apache.hadoop |
hadoop-client |
2.7.3 |
org.apache.hadoop |
hadoop-common |
2.7.3 |
org.apache.hadoop |
hadoop-hdfs |
2.7.3 |
org.apache.hadoop |
hadoop-mapreduce-client-app |
2.7.3 |
org.apache.hadoop |
hadoop-mapreduce-client-common |
2.7.3 |
org.apache.hadoop |
hadoop-mapreduce-client-core |
2.7.3 |
org.apache.hadoop |
hadoop-mapreduce-client-jobclient |
2.7.3 |
org.apache.hadoop |
hadoop-mapreduce-client-shuffle |
2.7.3 |
org.apache.hadoop |
hadoop-yarn-api |
2.7.3 |
org.apache.hadoop |
hadoop-yarn-client |
2.7.3 |
org.apache.hadoop |
hadoop-yarn-common |
2.7.3 |
org.apache.hadoop |
hadoop-yarn-server-common |
2.7.3 |
org.apache.htrace |
htrace-core |
3.1.0-incubating |
org.apache.httpcomponents |
httpclient |
4.5.4 |
org.apache.httpcomponents |
httpcore |
4.4.8 |
org.apache.ivy |
艾薇 |
测试盒框 |
org.apache.orc |
orc-core-nohive |
1.5.2 |
org.apache.orc |
orc-mapreduce-nohive |
1.5.2 |
org.apache.orc |
orc-shims |
1.5.2 |
org.apache.parquet |
parquet-column |
1.10.1.1-databricks3 |
org.apache.parquet |
parquet-common |
1.10.1.1-databricks3 |
org.apache.parquet |
parquet-encoding |
1.10.1.1-databricks3 |
org.apache.parquet |
parquet-format |
测试盒框 |
org.apache.parquet |
parquet-hadoop |
1.10.1.1-databricks3 |
org.apache.parquet |
parquet-jackson |
1.10.1.1-databricks3 |
org.apache.thrift |
libfb303 |
0.9.3 |
org.apache.thrift |
libthrift |
0.9.3 |
org.apache.xbean |
xbean-asm6-shaded |
4.8 |
org.apache.zookeeper |
动物园管理员 |
3.4.6 |
org.codehaus.jackson |
jackson-core-asl |
1.9.13 |
org.codehaus.jackson |
jackson-jaxrs |
1.9.13 |
org.codehaus.jackson |
jackson-mapper-asl |
1.9.13 |
org.codehaus.jackson |
jackson-xc |
1.9.13 |
org.codehaus.janino |
commons-compiler |
3.0.10 |
org.codehaus.janino |
janino |
3.0.10 |
org.datanucleus |
datanucleus-api-jdo |
3.2.6 |
org.datanucleus |
datanucleus-core |
3.2.10 |
org.datanucleus |
datanucleus-rdbms |
3.2.9 |
org.eclipse.jetty |
jetty-client |
9.3.20.v20170531 |
org.eclipse.jetty |
jetty-continuation |
9.3.20.v20170531 |
org.eclipse.jetty |
jetty-http |
9.3.20.v20170531 |
org.eclipse.jetty |
jetty-io |
9.3.20.v20170531 |
org.eclipse.jetty |
jetty-jndi |
9.3.20.v20170531 |
org.eclipse.jetty |
jetty-plus |
9.3.20.v20170531 |
org.eclipse.jetty |
jetty-proxy |
9.3.20.v20170531 |
org.eclipse.jetty |
jetty-security |
9.3.20.v20170531 |
org.eclipse.jetty |
jetty服务器 |
9.3.20.v20170531 |
org.eclipse.jetty |
jetty servlet |
9.3.20.v20170531 |
org.eclipse.jetty |
jetty-servlets |
9.3.20.v20170531 |
org.eclipse.jetty |
jetty-util |
9.3.20.v20170531 |
org.eclipse.jetty |
jetty-webapp |
9.3.20.v20170531 |
org.eclipse.jetty |
jetty-xml |
9.3.20.v20170531 |
org.fusesource.leveldbjni |
leveldbjni-all |
1．8 |
org.glassfish.hk2 |
hk2-api |
2.4.0-b34 |
org.glassfish.hk2 |
hk2-locator |
2.4.0-b34 |
org.glassfish.hk2 |
hk2-utils |
2.4.0-b34 |
org.glassfish.hk2 |
osgi-resource-locator |
1.0.1 |
org.glassfish.hk2.external |
aopalliance-repackaged |
2.4.0-b34 |
org.glassfish.hk2.external |
javax.inject |
2.4.0-b34 |
org.glassfish.jersey.bundles.repackaged |
jersey-guava |
2.22.2 |
org.glassfish.jersey.containers |
jersey-container-servlet |
2.22.2 |
org.glassfish.jersey.containers |
jersey-container-servlet-core |
2.22.2 |
org.glassfish.jersey.core |
jersey客户端 |
2.22.2 |
org.glassfish.jersey.core |
jersey-common |
2.22.2 |
org.glassfish.jersey.core |
jersey-server |
2.22.2 |
org.glassfish.jersey.media |
jersey-media-jaxb |
2.22.2 |
org.hibernate |
hibernate验证框架 |
5.1.1.Final |
org.iq80.snappy |
时髦的 |
0.2 |
org.javassist |
javassist |
3.18.1-GA |
org.jboss.logging |
jboss-logging |
3.1.3.GA |
org.jdbi |
jdbi |
2.63.1 |
org.joda |
joda-convert |
1.7 |
org.jodd |
jodd-core |
3.5.2 |
org.json4s |
json4s-ast_2.11 |
3.5.3 |
org.json4s |
json4s-core_2.11 |
3.5.3 |
org.json4s |
json4s-jackson_2.11 |
3.5.3 |
org.json4s |
json4s-scalap_2.11 |
3.5.3 |
org.lz4 |
lz4-java |
1.4.0 |
org.mariadb.jdbc |
mariadb-java-client |
2.1.2 |
org.mockito |
mockito-all |
1.9.5 |
org.objenesis |
objenesis |
2.5.1 |
org.postgresql |
postgresql |
42.1.4 |
org.roaringbitmap |
RoaringBitmap |
0.7.45 |
org.roaringbitmap |
垫片 |
0.7.45 |
org.rocksdb |
rocksdbjni |
5.2.1 |
org.rosuda.REngine |
REngine |
魅惑 |
org.scala-lang |
scala-compiler_2.11 |
2.11.12 |
org.scala-lang |
scala-library_2.11 |
2.11.12 |
org.scala-lang |
scala-reflect_2.11 |
2.11.12 |
org.scala-lang.modules |
scala-parser-combinators_2.11 |
1.1.0 |
org.scala-lang.modules |
scala-xml_2.11 |
1.0.5 |
org.scala-sbt |
测试界面 |
1．0 |
org.scalacheck |
scalacheck_2.11 |
1.12.5 |
org.scalactic |
scalactic_2.11 |
3.0.3 |
org.scalanlp |
breeze-macros_2.11 |
0.13.2 |
org.scalanlp |
breeze_2.11 |
0.13.2 |
org.scalatest |
scalatest_2.11 |
3.0.3 |
org.slf4j |
jcl-over-slf4j |
1.7.16 |
org.slf4j |
jul-to-slf4j |
1.7.16 |
org.slf4j |
slf4j-api |
1.7.16 |
org.slf4j |
slf4j-log4j12 |
1.7.16 |
org.spark-project.hive |
hive-beeline |
1.2.1.spark2 |
org.spark-project.hive |
hive-cli |
1.2.1.spark2 |
org.spark-project.hive |
hive-jdbc |
1.2.1.spark2 |
org.spark-project.hive |
hive-metastore |
1.2.1.spark2 |
org.spark-project.spark |
未使用的 |
1.0.0 |
org.spire-math |
spire-macros_2.11 |
0.13.0 |
org.spire-math |
spire_2.11 |
0.13.0 |
org.springframework |
spring核心 |
4.1.4.RELEASE |
org.springframework |
spring测试 |
4.1.4.RELEASE |
org.tukaani |
xz |
1．5 |
org.typelevel |
machinist_2.11 |
0.6.1 |
org.typelevel |
macro-compat_2.11 |
1.1.1 |
org.xerial |
sqlite-jdbc |
3.8.11.2 |
org.xerial.snappy |
snappy-java |
1.1.7.3 |
org.yaml |
snakeyaml |
1.16 |
奥罗 |
奥罗 |
2.0.8 |
software.amazon.ion |
ion-java |
1.0.2中 |
stax |
stax-api |
1.0.1 |
xmlenc |
xmlenc |
0.52 |