MinHashLSH¶
-
类
pyspark.ml.feature。
MinHashLSH
( *,inputCol:可选(str]=没有一个,outputCol:可选(str]=没有一个,种子:可选(int]=没有一个,numHashTables:int=1 ) ¶ -
激光冲徊化类Jaccard距离。可以稠密或稀疏向量的输入,但它是更有效的稀疏。例如,向量。稀疏的(10,((2,1.0),(3,1.0),(5, 1.0)])意味着有10个元素空间。这组包含元素2、3和5。此外,任何输入向量必须至少有1零指数,和所有非零值被视为二进制“1”的值。
笔记
例子
> > >从pyspark.ml.linalg进口向量> > >从pyspark.sql.functions进口上校> > >数据=((0,向量。稀疏的(6,(0,1,2),(1.0,1.0,1.0),),…(1,向量。稀疏的(6,(2,3,4),(1.0,1.0,1.0),),…(2,向量。稀疏的(6,(0,2,4),(1.0,1.0,1.0),)> > >df=火花。createDataFrame(数据,(“id”,“特征”])> > >mh=MinHashLSH()> > >mh。setInputCol(“特征”)MinHashLSH……> > >mh。setOutputCol(“散列”)MinHashLSH……> > >mh。setSeed(12345年)MinHashLSH……> > >模型=mh。适合(df)> > >模型。setInputCol(“特征”)MinHashLSHModel……> > >模型。变换(df)。头()行(id = 0,特性= SparseVector(6,{0: 1.0, 1: 1.0, 2: 1.0}),散列= [DenseVector ([6179668…> > >data2=((3,向量。稀疏的(6,(1,3,5),(1.0,1.0,1.0),),…(4,向量。稀疏的(6,(2,3,5),(1.0,1.0,1.0),),…(5,向量。稀疏的(6,(1,2,4),(1.0,1.0,1.0),)> > >df2=火花。createDataFrame(data2,(“id”,“特征”])> > >关键=向量。稀疏的(6,(1,2),(1.0,1.0])> > >模型。approxNearestNeighbors(df2,关键,1)。收集()行(id = 5,特性= SparseVector(6,{1: 1.0, 2: 1.0, 4: 1.0}),散列= [DenseVector ([6179668…> > >模型。approxSimilarityJoin(df,df2,0.6,distCol=“JaccardDistance”)。选择(…上校(“datasetA.id”)。别名(“艾达”),…上校(“datasetB.id”)。别名(“idB”),…上校(“JaccardDistance”))。显示()+ - - - + - - - + - - - - - - - - - - - - - - - - - - +idA | | idB | JaccardDistance |+ - - - + - - - + - - - - - - - - - - - - - - - - - - +| 0 | 5 | 0.5 || 1 | 4 | 0.5 |+ - - - + - - - + - - - - - - - - - - - - - - - - - - +…> > >mhPath=temp_path+“/ mh”> > >mh。保存(mhPath)> > >mh2=MinHashLSH。负载(mhPath)> > >mh2。getOutputCol()= =mh。getOutputCol()真正的> > >modelPath=temp_path+“/ mh型”> > >模型。保存(modelPath)> > >model2=MinHashLSHModel。负载(modelPath)> > >模型。变换(df)。头()。散列= =model2。变换(df)。头()。散列真正的
方法
清晰的
(参数)清除参数映射的参数是否被显式地设置。
复制
((额外的))创建这个实例的副本具有相同uid和一些额外的参数。
explainParam
(参数)解释一个参数并返回它的名字,医生,和可选的默认值,用户提供的字符串值。
返回文档的所有参数选择默认值和用户提供的值。
extractParamMap
((额外的))提取嵌入默认参数值和用户提供的值,然后合并他们额外的值从输入平面参数映射,后者使用价值如果存在冲突,即。排序:默认参数值< <额外的用户提供的值。
适合
(数据集[params))适合一个模型与可选参数的输入数据集。
fitMultiple
(paramMaps数据集)适合一个模型为每个参数映射的输入数据集paramMaps。
得到的价值inputCol或其默认值。
得到的价值numHashTables或其默认值。
getOrDefault
(参数)得到参数的值在用户提供的参数映射或其默认值。
得到的价值outputCol或其默认值。
getParam
(paramName)通过它的名称参数。
getSeed
()种子的价值或其默认值。
hasDefault
(参数)检查是否一个参数有默认值。
hasParam
(paramName)测试这个实例包含一个参数是否与给定名称(字符串)。
isDefined
(参数)检查参数是否由用户或显式地设置一个默认值。
收取
(参数)检查参数是否由用户显式地设置。
负载
(路径)从输入路径,读取一个毫升实例的快捷方式read () .load(路径)。
读
()返回一个MLReader这个类的实例。
保存
(路径)这个毫升实例保存到给定的路径,一个快捷方式的“写().save(路径)。
集
(参数值)设置一个参数嵌入参数映射。
setInputCol
(值)设置的值
inputCol
。设置的值
numHashTables
。setOutputCol
(值)设置的值
outputCol
。setparam
(自我,\ [,outputCol inputCol…))为这个MinHashLSH设置参数。
setSeed
(值)设置的值
种子
。写
()返回一个MLWriter实例毫升实例。
属性
返回所有参数命令的名字。
方法的文档
-
清晰的
( 参数:pyspark.ml.param.Param )→没有¶ -
清除参数映射的参数是否被显式地设置。
-
复制
( 额外的:可选(ParamMap]=没有一个 )→摩根大通¶ -
创建这个实例的副本具有相同uid和一些额外的参数。这个实现第一次调用参数。复制and then make a copy of the companion Java pipeline component with extra params. So both the Python wrapper and the Java pipeline component get copied.
- 参数
-
- 额外的 东西,可选
-
额外参数复制到新实例
- 返回
-
-
JavaParams
-
这个实例的副本
-
-
explainParam
( 参数:联盟(str,pyspark.ml.param.Param] )→str¶ -
解释一个参数并返回它的名字,医生,和可选的默认值,用户提供的字符串值。
-
explainParams
( )→str¶ -
返回文档的所有参数选择默认值和用户提供的值。
-
extractParamMap
( 额外的:可选(ParamMap]=没有一个 )→ParamMap¶ -
提取嵌入默认参数值和用户提供的值,然后合并他们额外的值从输入平面参数映射,后者使用价值如果存在冲突,即。排序:默认参数值< <额外的用户提供的值。
- 参数
-
- 额外的 东西,可选
-
额外的参数值
- 返回
-
- dict
-
合并后的参数映射
-
适合
( 数据集:pyspark.sql.dataframe.DataFrame,参数个数:联盟[ParamMap、列表(ParamMap)元组(ParamMap),没有一个)=没有一个 )→联盟(米,列表(米] ] ¶ -
适合一个模型与可选参数的输入数据集。
- 参数
-
-
数据集
pyspark.sql.DataFrame
-
输入数据集。
- 参数个数 dict或列表或元组,可选的
-
一个可选的参数覆盖嵌入参数的地图。如果列表/元组的参数映射,这适用于每一个参数并返回一个列表的模型映射。
-
数据集
- 返回
-
-
变压器
或者一个列表变压器
-
拟合模型(年代)
-
-
fitMultiple
( 数据集:pyspark.sql.dataframe.DataFrame,paramMaps:序列(ParamMap] )→迭代器(元组(int,米] ] ¶ -
适合一个模型为每个参数映射的输入数据集paramMaps。
- 参数
-
-
数据集
pyspark.sql.DataFrame
-
输入数据集。
-
paramMaps
collections.abc.Sequence
-
一系列的参数映射。
-
数据集
- 返回
-
-
_FitMultipleIterator
-
一个线程安全的iterable包含为每个参数映射模型。每次调用下一个(modelIterator)将返回(指数模型)模型是适合使用在哪里paramMaps(指数)。指数值可能不是连续的。
-
-
getInputCol
( )→str¶ -
得到的价值inputCol或其默认值。
-
getNumHashTables
( )→int¶ -
得到的价值numHashTables或其默认值。
-
getOrDefault
( 参数:联盟(str,pyspark.ml.param.Param(T]] )→联盟(任何,T] ¶ -
得到参数的值在用户提供的参数映射或其默认值。如果没有设置提出了一个错误。
-
getOutputCol
( )→str¶ -
得到的价值outputCol或其默认值。
-
getParam
( paramName:str )→pyspark.ml.param.Param ¶ -
通过它的名称参数。
-
getSeed
( )→int¶ -
种子的价值或其默认值。
-
hasDefault
( 参数:联盟(str,pyspark.ml.param.Param(任何]] )→bool¶ -
检查是否一个参数有默认值。
-
hasParam
( paramName:str )→bool¶ -
测试这个实例包含一个参数是否与给定名称(字符串)。
-
isDefined
( 参数:联盟(str,pyspark.ml.param.Param(任何]] )→bool¶ -
检查参数是否由用户或显式地设置一个默认值。
-
收取
( 参数:联盟(str,pyspark.ml.param.Param(任何]] )→bool¶ -
检查参数是否由用户显式地设置。
-
classmethod
负载
( 路径:str )→RL¶ -
从输入路径,读取一个毫升实例的快捷方式read () .load(路径)。
-
classmethod
读
( )→pyspark.ml.util.JavaMLReader(RL] ¶ -
返回一个MLReader这个类的实例。
-
保存
( 路径:str )→没有¶ -
这个毫升实例保存到给定的路径,一个快捷方式的“写().save(路径)。
-
集
( 参数:pyspark.ml.param.Param,价值:任何 )→没有¶ -
设置一个参数嵌入参数映射。
-
setNumHashTables
( 价值:int )→P¶ -
设置的值
numHashTables
。
-
setparam
( 自我,\ *,inputCol =没有,outputCol =没有,种子=没有,numHashTables = 1 ) ¶ -
为这个MinHashLSH设置参数。
-
setSeed
( 价值:int )→pyspark.ml.feature.MinHashLSH ¶ -
设置的值
种子
。
-
写
( )→pyspark.ml.util.JavaMLWriter¶ -
返回一个MLWriter实例毫升实例。
属性的文档
-
inputCol
=参数(父母=‘定义’,name = ' inputCol ', doc =输入列名称。) ¶
-
numHashTables
=参数(父母=‘定义’,name = ' numHashTables ', doc =”数量的哈希表,哈希表数量的增加降低了假阴性率,并提高运行性能降低。”) ¶
-
outputCol
=参数(父母=‘定义’,name = ' outputCol ', doc =输出列名称。) ¶
-
参数个数
¶ -
返回所有参数命令的名字。默认实现使用
dir ()
所有的属性类型参数
。
-
种子
=参数(父母=‘定义’,name =“种子”,医生=“随机种子。”) ¶
-