Skip to content

Latest commit

 

History

History
213 lines (191 loc) · 6.31 KB

din.md

File metadata and controls

213 lines (191 loc) · 6.31 KB
Raw

DIN

简介

利用DIN算法建模用户点击序列。支持多组序列共同embedding，如hist_item_id, hist_category_id。

EasyRec提供两种使用DIN模型的方法：

1. 内置模型

内置模型目前结合multi-tower共同使用，din 部分作为multi-tower的一个塔。

din.png

2. 组件化模型（推荐）

使用组件化方法搭建标准的DIN模型会更加方便，详见下方组件化模型配置。

模型配置

1. 内置模型

model_config: {
  model_class: 'MultiTowerDIN'
  feature_groups: {
    group_name: 'user'
    feature_names: 'user_id'
    feature_names: 'cms_segid'
    ...
    feature_names: 'new_user_class_level'
    wide_deep: DEEP
  }
  feature_groups: {
    group_name: 'item'
    feature_names: 'adgroup_id'
    feature_names: 'cate_id'
    ...
    feature_names: 'pid'
    wide_deep: DEEP
  }
  seq_att_groups: {
    group_name: "din"
    seq_att_map: {
       key: "brand"
       hist_seq: "tag_brand_list"
    }
    seq_att_map: {
       key: "cate_id"
       hist_seq: "tag_category_list"
    }
  }

  multi_tower {
    towers {
      input: "user"
      dnn {
        hidden_units: [256, 128, 96, 64]
      }
    }
    towers {
      input: "item"
      dnn {
        hidden_units: [256, 128, 96, 64]
      }
    }
    din_towers {
      input: "din"
      dnn {
        hidden_units: [128, 64, 32, 1]
      }
    }
    final_dnn {
      hidden_units: [128, 96, 64, 32, 16]
    }
    l2_regularization: 5e-7
  }
  embedding_regularization: 5e-5
}
  • model_class: 'MultiTowerDIN', 不需要修改。
  • feature_groups: 可配置多个feature_group，group name可以变。
  • seq_att_groups: 可配置多个seq_att_groups。
    • group name
    • seq_att_map: 需配置key和hist_seq，一一对应。
  • multi_tower: multi_tower相关的参数
    • towers: 每个feature_group对应了一个tower。
      • input必须和feature_groups的group_name对应。
      • dnn: deep part的参数配置
        • hidden_units: dnn每一层的channel数目，即神经元的数目
    • din_towers: 每个seq_att_groups对应了一个din_tower
      • input必须和seq_att_groups的group_name对应。
      • dnn: deep part的参数配置
        • hidden_units: dnn每一层的channel数目，即神经元的数目
    • final_dnn 整合towers和din_towers的输入
      • hidden_units: dnn每一层的channel数目，即神经元的数目
  • embedding_regularization: 对embedding部分加regularization，防止overfit

备注 DIN 模型需保证在单个样本中, seq_att_groups 内字段的序列长度相同, 例如模型配置示例的 seq_att_groups 中, 第一个样本的 tag_brand_list 和 tag_category_list 都是3个元素； 第二个样本的 tag_brand_list 和 tag_category_list 都是5个元素；

2. 组件化模型

model_config: {
  model_name: 'DIN'
  model_class: 'RankModel'
  feature_groups: {
    group_name: 'normal'
    feature_names: 'user_id'
    feature_names: 'cms_segid'
    feature_names: 'cms_group_id'
    feature_names: 'age_level'
    feature_names: 'pvalue_level'
    feature_names: 'shopping_level'
    feature_names: 'occupation'
    feature_names: 'new_user_class_level'
    feature_names: 'adgroup_id'
    feature_names: 'cate_id'
    feature_names: 'campaign_id'
    feature_names: 'customer'
    feature_names: 'brand'
    feature_names: 'price'
    feature_names: 'pid'
    wide_deep: DEEP
  }
  feature_groups: {
    group_name: 'sequence'
    feature_names: "cate_id"
    feature_names: "brand"
    feature_names: "tag_brand_list"
    feature_names: "tag_category_list"
    wide_deep: DEEP
  }
  backbone {
    blocks {
      name: 'deep'
      inputs {
        feature_group_name: 'normal'
      }
      keras_layer {
        class_name: 'MLP'
        mlp {
          hidden_units: [256, 128, 64]
        }
      }
    }
    blocks {
      name: 'seq_input'
      inputs {
        feature_group_name: 'sequence'
      }
      input_layer {
        output_seq_and_normal_feature: true
      }
    }
    blocks {
      name: 'DIN'
      inputs {
        block_name: 'seq_input'
      }
      keras_layer {
        class_name: 'DIN'
        din {
          attention_dnn {
            hidden_units: 32
            hidden_units: 1
            activation: "dice"
          }
          need_target_feature: true
        }
      }
    }
    top_mlp {
      hidden_units: [256, 128, 64]
    }
  }
  model_params {
    l2_regularization: 0
  }
  embedding_regularization: 0
}
  • model_name: 任意自定义字符串，仅有注释作用
  • model_class: 'RankModel', 不需要修改, 通过组件化方式搭建的单目标排序模型都叫这个名字
  • feature_groups: 特征组
    • 包含两个feature_group: dense 和sparse group
    • wide_deep: DIN模型使用的都是Deep features, 所以都设置成DEEP
  • backbone: 通过组件化的方式搭建的主干网络，参考文档
    • blocks: 由多个组件块组成的一个有向无环图（DAG），框架负责按照DAG的拓扑排序执行个组件块关联的代码逻辑，构建TF Graph的一个子图
    • name/inputs: 每个block有一个唯一的名字（name），并且有一个或多个输入(inputs)和输出
    • input_layer: 对输入的feature group配置的特征做一些额外的加工，比如执行可选的batch normalization、layer normalization、feature dropout等操作，并且可以指定输出的tensor的格式（2d、3d、list等）；参考文档
    • keras_layer: 加载由class_name指定的自定义或系统内置的keras layer，执行一段代码逻辑；参考文档
    • concat_blocks: DAG的输出节点由concat_blocks配置项定义，不配置时默认为所有DAG的叶子节点
    • top_mlp: 各输出组件块的输出tensor拼接之后输入给一个可选的顶部MLP层
  • model_params:
    • l2_regularization: 对DNN参数的regularization, 减少overfit
  • embedding_regularization: 对embedding部分加regularization, 减少overfit

示例config

  1. 内置模型：DIN_demo.config
  2. 组件化模型：DIN_backbone.config

参考论文

Deep Interest Network