NGram

pyspark.ml.feature。 NGram ( *,n:int=2,inputCol:可选(str]=没有一个,outputCol:可选(str]=没有一个 )

变压器的特性,将输入的字符串数组转换成一个字格数组。Null值在输入数组将被忽略。它将返回一组字格,每个语法由空格分隔的字符串表示的单词。当输入为空,则返回一个空数组。当输入数组长度小于n(每个语法元素的数量),不返回字格。

例子

> > >df=火花createDataFrame([(inputTokens=(“一个”,“b”,“c”,“d”,“e”))))> > >ngram=NGram(n=2)> > >ngramsetInputCol(“inputTokens”)NGram……> > >ngramsetOutputCol(“nGrams”)NGram……> > >ngram变换(df)()行(inputTokens = [a, b, c, d ', ' e '], nGrams = [b, b c, c d ', ' d e '])> > >#改变n元长度> > >ngramsetparam(n=4)变换(df)()行(inputTokens = [a, b, c, d ', ' e '], nGrams = [a b c d ', ' b c d e '])> > >#暂时修改输出列。> > >ngram变换(df,{ngramoutputCol:“输出”})()行(inputTokens = [a, b, c, d ', ' e '],输出= [a b c d ', ' b c d e '])> > >ngram变换(df)()行(inputTokens = [a, b, c, d ', ' e '], nGrams = [a b c d ', ' b c d e '])> > >#必须使用关键字参数来指定参数。> > >ngramsetparam(“文本”)回溯(最近的电话):TypeError:关键字参数方法setparam力量。> > >ngramPath=temp_path+“/ ngram”> > >ngram保存(ngramPath)> > >loadedNGram=NGram负载(ngramPath)> > >loadedNGramgetN()= =ngramgetN()真正的> > >loadedNGram变换(df)(1)= =ngram变换(df)(1)真正的

方法

清晰的(参数)

清除参数映射的参数是否被显式地设置。

复制((额外的))

创建这个实例的副本具有相同uid和一些额外的参数。

explainParam(参数)

解释一个参数并返回它的名字,医生,和可选的默认值,用户提供的字符串值。

explainParams()

返回文档的所有参数选择默认值和用户提供的值。

extractParamMap((额外的))

提取嵌入默认参数值和用户提供的值,然后合并他们额外的值从输入平面参数映射,后者使用价值如果存在冲突,即。排序:默认参数值< <额外的用户提供的值。

getInputCol()

得到的价值inputCol或其默认值。

getN()

得到n的值或其默认值。

getOrDefault(参数)

得到参数的值在用户提供的参数映射或其默认值。

getOutputCol()

得到的价值outputCol或其默认值。

getParam(paramName)

通过它的名称参数。

hasDefault(参数)

检查是否一个参数有默认值。

hasParam(paramName)

测试这个实例包含一个参数是否与给定名称(字符串)。

isDefined(参数)

检查参数是否由用户或显式地设置一个默认值。

收取(参数)

检查参数是否由用户显式地设置。

负载(路径)

从输入路径,读取一个毫升实例的快捷方式read () .load(路径)

()

返回一个MLReader这个类的实例。

保存(路径)

这个毫升实例保存到给定的路径,一个快捷方式的“写().save(路径)。

(参数值)

设置一个参数嵌入参数映射。

setInputCol(值)

设置的值inputCol

setN(值)

设置的值n

setOutputCol(值)

设置的值outputCol

setparam(自我,\ [n inputCol, outputCol])

为这个NGram设置参数。

变换(数据集[params))

与可选参数转换的输入数据集。

()

返回一个MLWriter实例毫升实例。

属性

inputCol

n

outputCol

参数个数

返回所有参数命令的名字。

方法的文档

清晰的 ( 参数:pyspark.ml.param.Param )→没有

清除参数映射的参数是否被显式地设置。

复制 ( 额外的:可选(ParamMap]=没有一个 )→摩根大通

创建这个实例的副本具有相同uid和一些额外的参数。这个实现第一次调用参数。复制and then make a copy of the companion Java pipeline component with extra params. So both the Python wrapper and the Java pipeline component get copied.

参数
额外的 东西,可选

额外参数复制到新实例

返回
JavaParams

这个实例的副本

explainParam ( 参数:联盟(str,pyspark.ml.param.Param] )→str

解释一个参数并返回它的名字,医生,和可选的默认值,用户提供的字符串值。

explainParams ( )→str

返回文档的所有参数选择默认值和用户提供的值。

extractParamMap ( 额外的:可选(ParamMap]=没有一个 )→ParamMap

提取嵌入默认参数值和用户提供的值,然后合并他们额外的值从输入平面参数映射,后者使用价值如果存在冲突,即。排序:默认参数值< <额外的用户提供的值。

参数
额外的 东西,可选

额外的参数值

返回
dict

合并后的参数映射

getInputCol ( )→str

得到的价值inputCol或其默认值。

getN ( )→int

得到n的值或其默认值。

getOrDefault ( 参数:联盟(str,pyspark.ml.param.Param(T]] )→联盟(任何,T]

得到参数的值在用户提供的参数映射或其默认值。如果没有设置提出了一个错误。

getOutputCol ( )→str

得到的价值outputCol或其默认值。

getParam ( paramName:str )pyspark.ml.param.Param

通过它的名称参数。

hasDefault ( 参数:联盟(str,pyspark.ml.param.Param(任何]] )→bool

检查是否一个参数有默认值。

hasParam ( paramName:str )→bool

测试这个实例包含一个参数是否与给定名称(字符串)。

isDefined ( 参数:联盟(str,pyspark.ml.param.Param(任何]] )→bool

检查参数是否由用户或显式地设置一个默认值。

收取 ( 参数:联盟(str,pyspark.ml.param.Param(任何]] )→bool

检查参数是否由用户显式地设置。

classmethod 负载 ( 路径:str )→RL

从输入路径,读取一个毫升实例的快捷方式read () .load(路径)

classmethod ( )→pyspark.ml.util.JavaMLReader(RL]

返回一个MLReader这个类的实例。

保存 ( 路径:str )→没有

这个毫升实例保存到给定的路径,一个快捷方式的“写().save(路径)。

( 参数:pyspark.ml.param.Param,价值:任何 )→没有

设置一个参数嵌入参数映射。

setInputCol ( 价值:str )pyspark.ml.feature.NGram

设置的值inputCol

setN ( 价值:int )pyspark.ml.feature.NGram

设置的值n

setOutputCol ( 价值:str )pyspark.ml.feature.NGram

设置的值outputCol

setparam ( 自我,\ *,n = 2,inputCol =没有,outputCol =没有 )

为这个NGram设置参数。

变换 ( 数据集:pyspark.sql.dataframe.DataFrame,参数个数:可选(ParamMap]=没有一个 )→pyspark.sql.dataframe.DataFrame

与可选参数转换的输入数据集。

参数
数据集 pyspark.sql.DataFrame

输入数据集

参数个数 东西,可选

一个可选的参数覆盖嵌入参数的地图。

返回
pyspark.sql.DataFrame

改变了数据集

( )→pyspark.ml.util.JavaMLWriter

返回一个MLWriter实例毫升实例。

属性的文档

inputCol =参数(父母=‘定义’,name = ' inputCol ', doc =输入列名称。)
n :pyspark.ml.param.Param (int) =参数(父母=‘定义’,name = ' n ', doc = '每个语法元素的数量(> = 1)')
outputCol =参数(父母=‘定义’,name = ' outputCol ', doc =输出列名称。)
参数个数

返回所有参数命令的名字。默认实现使用dir ()所有的属性类型参数