ALINK(三十五):特征工程(十四)类别特征编码(二)独热编码

摘要:
此外,这些功能是互斥的,一次只能激活一个。因此,数据将变得稀疏,输出结果也是kV的稀疏结构。输入selectedCol0selectedCol1a1b1c1d2a2a2b2c2nullNULL2Encode作为编码结果--˃INDEX预测结果是单个令牌的索引,例如0,1,2…编码--˃矢量预测结果是稀疏矢量:1.DropLast为真,矢量中的非零元素数为0或1,例如$5、$5$0:1.0或NULL。编码--˃汇编_矢量预测结果是一个稀疏矢量。当预测选择列中的每一列预测VECTOR时,这是根据选择顺序的ASSEMBLY结果。
独热编码训练 (OneHotTrainBatchOp)

Java 类名:com.alibaba.alink.operator.batch.feature.OneHotTrainBatchOp

Python 类名:OneHotTrainBatchOp

功能介绍

one-hot编码,也称独热编码,对于每一个特征,如果它有m个可能值,那么经过 独热编码后,就变成了m个二元特征。并且,这些特征互斥,每次只有一个激活。 因此,数据会变成稀疏的,输出结果也是kv的稀疏结构。

编码结果

输入

selectedCol0

selectedCol1

a

1

b

1

c

1

d

2

a

2

b

2

c

2

e

null

NULL

2

Encode ——> INDEX

预测结果为单个token的index,如0, 1, 2 ...

Encode ——> VECTOR

预测结果为稀疏向量:

1. dropLast为true,向量中非零元个数为0或者1, 如$5, $5$0:1.0或者NULL。
2. dropLast为false,向量中非零元个数必定为1, 只能是$5$0:1.0或者NULL。
Encode ——> ASSEMBLED_VECTOR

预测结果为稀疏向量,是预测选择列中,各列预测为VECTOR时,按照选择顺序ASSEMBLE的结果。

向量维度

Encode ——> Vector
distinct token Number: 训练集中指定列的去重后的token数目
dropLast: 预测参数
enableElse: 训练时若填写discreteThresholds或discreteThresholdsArray则为true,默认为false
handleInvalid: 预测参数
举例

输入列为selectedCol0

1. 如果没有填写discreteThresholds,那么enableElse为false,distinct token Number为(a,b,c,d,e)一共5个token
    1.1 dropLast为True
        1.1.1 handleInvalid为keep: vectorSize=(5 - 1 + 0 + 1 = 5)
        1.1.2 handleInvalid为skip: vectorSize=(5 - 1 + 0 + 0 = 4)
        1.1.3 handleInvalid为error: vectorSize=(5 - 1 + 0 + 0 = 4)
    1.2 dropLast为False
        1.1.1 handleInvalid为keep: vectorSize=(5 - 0 + 0 + 1 = 6)
        1.2.2 handleInvalid为skip: vectorSize=(5 - 0 + 0 + 0 = 5)
        1.2.3 handleInvalid为error: vectorSize=(5 - 0 + 0 + 0 = 5)
2. 如果discreteThresholds为2, 那么enableElse为true, distinct token Number为(a,b,c)一共3个token
    2.1 dropLast为True
        1.1.1 handleInvalid为keep: vectorSize=(3 - 1 + 1 + 1 = 4)
        1.1.2 handleInvalid为skip: vectorSize=(3 - 1 + 1 + 0 = 3)
        1.1.3 handleInvalid为error: vectorSize=(3 - 1 + 1 + 0 = 3)
    2.2 dropLast为False
        1.1.1 handleInvalid为keep: vectorSize=(3 - 0 + 1 + 1 = 5)
        1.2.2 handleInvalid为skip: vectorSize=(3 - 0 + 1 + 0 = 4)
        1.2.3 handleInvalid为error: vectorSize=(3 - 0 + 1 + 0 = 4)

Token index

Encode ——> Vector
1. 训练集中出现过的token: 预测值为模型中token对应的token_index,若 dropLast为true, token_index最大的值会被丢掉,预测结果为全零元
2. null: 
    2.1 handleInvalid为keep: 预测值为distinct token Number - dropLast(true: 1, false: 0)
    2.2 handleInvalid为skip: null
    2.3 handleInvalid为error: 报错
3. 训练集中未出现过的token: 
    3.1 enableElse为true
        3.1.1 handleInvalid为keep: 预测值为:distinct token Number - dropLast(true: 1, false: 0) + 1
        3.1.2 handleInvalid为skip: 预测值为:distinct token Number - dropLast(true: 1, false: 0)
        3.1.3 handleInvalid为error: 预测值为:distinct token Number - dropLast(true: 1, false: 0)
    3.2 enableElse为false
        3.2.1 handleInvalid为keep: 预测值为:distinct token Number - dropLast(true: 1, false: 0)
        3.2.2 handleInvalid为skip: null
        3.2.3 handleInvalid为error: 报错
举例

输入列为selectedCol0

    1. 如果没有填写discreteThresholds
      假设模型中a,b,c,d,e对应的token index为0,1,2,3,4
      1.1 dropLast为True
      1.1.1 handleInvalid为keep

selectedCol0

Encode为INDEX的输出

Encode为VECTOR的输出

a

0

$5$0:1.0

b

1

$5$1:1.0

c

2

$5$2:1.0

d

3

$5$3:1.0

e

4 (Encode为IDNEX时,dropLast不起作用)

5 (最大的token index被drop了)

NULL

5

$5$4:1.0

 

  1. 1.1.2 handleInvalid为skip: vectorSize=(5 - 1 + 0 + 0 = 4)

selectedCol0

Encode为INDEX的输出

Encode为VECTOR的输出

a

0

$4$0:1.0

b

1

$4$1:1.0

c

2

$4$2:1.0

d

3

$4$3:1.0

e

4 (Encode为IDNEX时,dropLast不起作用)

4 (最大的token index被drop了)

NULL

NULL

NULL

1.3 handleInvalid为error: 直接报错
1.2 dropLast为False
1.1.1 handleInvalid为keep

selectedCol0

Encode为INDEX的输出

Encode为VECTOR的输出

a

0

$6$0:1.0

b

1

$6$1:1.0

c

2

$6$2:1.0

d

3

$6$3:1.0

e

4 (Encode为IDNEX时,dropLast不起作用)

$6$4:1.0

NULL

5

$6$5:1.0

1.2.2 handleInvalid为skip

selectedCol0

Encode为INDEX的输出

Encode为VECTOR的输出

a

0

$5$0:1.0

b

1

$5$1:1.0

c

2

$5$2:1.0

d

3

$5$3:1.0

e

4 (Encode为IDNEX时,dropLast不起作用)

$5$4:1.0

NULL

NULL

NULL

1.2.3 handleInvalid为error: 直接报错

    1. 如果discreteThresholds为2
      假设模型中a,b,c对应的token index为0,1,2
      2.1 dropLast为True
      1.1.1 handleInvalid为keep:

selectedCol0

Encode为INDEX的输出

Encode为VECTOR的输出

a

0

$4$0:1.0

b

1

$4$1:1.0

c

2

4 (最大的token index被drop了)

d

4

$4$3:1.0 (unknown token)

e

4

$4$3:1.0 (unknown token)

NULL

3

$4$2:1.0

  1. 1.1.2 handleInvalid为skip:

selectedCol0

Encode为INDEX的输出

Encode为VECTOR的输出

a

0

$3$0:1.0

b

1

$3$1:1.0

c

2

3 (最大的token index被drop了)

d

3

$3$2:1.0 (unknown token)

e

3

$4$2:1.0 (unknown token)

NULL

NULL

NULL

1.1.3 handleInvalid为error: 直接报错

    1. 2.2 dropLast为False
      1.1.1 handleInvalid为keep:

selectedCol0

Encode为INDEX的输出

Encode为VECTOR的输出

a

0

$5$0:1.0

b

1

$5$1:1.0

c

2

$5$2:1.0

d

4

$5$4:1.0 (unknown token)

e

4

$5$4:1.0 (unknown token)

NULL

3

$5$3:1.0

  1. 1.2.2 handleInvalid为skip:

selectedCol0

Encode为INDEX的输出

Encode为VECTOR的输出

a

0

$4$0:1.0

b

1

$4$1:1.0

c

2

$4$2:1.0

d

3

$4$3:1.0 (unknown token)

e

3

$4$3:1.0 (unknown token)

NULL

NULL

NULL

  1. 1.2.3 handleInvalid为error: 直接报错

参数说明

名称

中文名称

描述

类型

是否必须?

默认值

selectedCols

选择的列名

计算列对应的列名列表

String[]

 

discreteThresholds

离散个数阈值

离散个数阈值,低于该阈值的离散样本将不会单独成一个组别。

Integer

 

-2147483648

discreteThresholdsArray

离散个数阈值

离散个数阈值,每一列对应数组中一个元素。

Integer[]

 

null

代码示例

Python 代码

from pyalink.alink import *
import pandas as pd
useLocalEnv(1)
df = pd.DataFrame([
    ["a", 1],
    ["b", 1],
    ["c", 1],
    ["e", 2],
    ["a", 2],
    ["b", 1],
    ["c", 2],
    ["d", 2],
    [None, 1]
])
inOp = BatchOperator.fromDataframe(df, schemaStr='query string, weight long')
# one hot train
one_hot = OneHotTrainBatchOp().setSelectedCols(["query"])
model = inOp.link(one_hot)
model.lazyPrint(10)
# batch predict
predictor = OneHotPredictBatchOp().setOutputCols(["output"])
predictor.linkFrom(model, inOp).print()

Java 代码

import org.apache.flink.types.Row;
import com.alibaba.alink.operator.batch.BatchOperator;
import com.alibaba.alink.operator.batch.feature.OneHotPredictBatchOp;
import com.alibaba.alink.operator.batch.feature.OneHotTrainBatchOp;
import com.alibaba.alink.operator.batch.source.MemSourceBatchOp;
import org.junit.Test;
import java.util.Arrays;
import java.util.List;
public class OneHotTrainBatchOpTest {
    @Test
    public void testOneHotTrainBatchOp() throws Exception {
        List <Row> df = Arrays.asList(
            Row.of("a", 1),
            Row.of("b", 1),
            Row.of("c", 1),
            Row.of("e", 2),
            Row.of("a", 2),
            Row.of("b", 1),
            Row.of("c", 2),
            Row.of("d", 2),
            Row.of(null, 1)
        );
        BatchOperator <?> inOp = new MemSourceBatchOp(df, "query string, weight int");
        BatchOperator <?> one_hot = new OneHotTrainBatchOp().setSelectedCols("query");
        BatchOperator <?> model = inOp.link(one_hot);
        model.lazyPrint(10);
        BatchOperator <?> predictor = new OneHotPredictBatchOp().setOutputCols("output");
        predictor.linkFrom(model, inOp).print();
    }
}

运行结果

模型

column_index

token

token_index

-1

{"selectedCols":"["query"]","selectedColTypes":"["VARCHAR"]","enableElse":"false"}

null

0

a

0

0

b

1

0

c

2

0

d

3

0

e

4

预测

query

weight

output

a

1

$5$0:1.0

b

1

$5$1:1.0

c

1

$5$2:1.0

e

2

5

a

2

$5$0:1.0

b

1

$5$1:1.0

c

2

$5$2:1.0

d

2

$5$3:1.0

null

1

$5$4:1.0

 

 

免责声明:文章转载自《ALINK(三十五):特征工程(十四)类别特征编码(二)独热编码》仅用于学习参考。如对内容有疑问,请及时联系本站处理。

上篇JS === 实现简易调色板eltable数据遍历结合elform校验下篇

宿迁高防,2C2G15M,22元/月;香港BGP,2C5G5M,25元/月 雨云优惠码:MjYwNzM=

相关文章

netflix vector 系统性能监控安装使用

说明本次安装使用docker 1. vector 安装 docker run -d --name vector -p 80:80 netflixoss/vector:latest 2. 依赖的pcp 安装 yum install -y pcp-webapi pcp 3. 服务启动 a. vector docker 默认已经启动 b. pcp syste...

Spring Cloud微服务安全实战_5-6_refresh token失效处理

access_token是客户端调用其他微服务调的凭证,access_token有效期不能太长(丢了风险很大),一般可以设置2小时,如果access_token失效了,就不能调用微服务了,上节说了access_token失效的处理---refresh_token来刷新令牌,refresh_token可以设置很长的有效期,比如一个月 下面是用refresh_...

JWT黑名单和白名单

单点登录系统 单点登录系统保存了用户的登录名和密码,上网用户在单点登录系统中认证成功后,就可以直接登录各个业务系统。 1. 用户使用单点登录系统的登录界面,输入用户名和密码登录成功后, 单点登录系统为用户浏览器安装一个cookie,cookie的值是一个全局唯 一的字符串 (下文称为ticket),理论上这个唯一值永远不能重复,用来 标识用户成功的登录请求...

SpringBootSecurity学习(19)前后端分离版之OAuth2.0 token的存储和管理

内存中存储token 我们来继续授权服务代码的下一个优化。现在授权服务中,token的存储是存储在内存中的,我们使用的是 InMemoryTokenStore : 图中的tokenStore方法支持很多种令牌的存储方式,来看一下: InMemoryTokenStore:这个版本的实现是被默认采用的,它可以完美的工作在单服务器上(即访问并发量压力不大的情...

wifidog 认证

首先简介一下什么是Portal认证。Portal认证。通常也会叫Web认证。未认证用户上网时,设备强制用户登录到特定站点,用户能够免费訪问当中的服务。当用户须要使用互联网中的其他信息时,必须在门户站点进行认证。仅仅有认证通过后才干够使用互联网资源。 现金非常多中国移动CMCC、中国联通、中国电信ChinaNet的WIFI都使用这样的认证接入方式。...

公众号开发笔记二

前言 微信公众平台开发模板消息,用于公众号向用户发送服务通知,如学生进校门,用校卡滴,就可以在公众号接收服务通知,表明学生进校.在公众号内申请功能,添加模板消息. 只有认证后的服务号才能申请模板消息,需要选择2个行业,MP(维基百科,自由的百科全书),模板消息需要模板的ID,和模板中各种参数,内容以".DATA"结尾,否则视为保留字,模板保留符号"{{...