2020

目录:

• BART: Denosing Sequence-to-Sequence Pre-training for Natural Language Generation, Translation, and Comprehension
  • 优势
  • model
  • 预训练模式
  • Finetuning 方式
  • 探索使用BART来提升机器翻译的decoder
  • 与其他训练目标比较
  • 与其他模型的区别
• Billion-scale Commodity Embedding for E-commerce Recommendation in Alibaba
  • 1. 概述
  • 2. 方法
    • 2.1 构建 item graph
    • 2.2 计算 emb
  • 3. 实验
    • 3.1 link prediction task (offline Eval)
    • 3.2 在线 A/BTest
    • 3.3 Case Study
  • 4. 系统部署与操作
  • 5. 相关工作
    • 5.1 Graph-Embedding
    • 5.2 Graph-Embedding with side-information
    • 5.3 Graph-Embedding for Recommendation System
  • 6. Future Work
• Deep Neural Networks for YouTube Recommendations
  • 相关博客文章
    • 2. SYSTEM OVERVIEW 系统概览
    • 3.1 推荐作为分类
    • 4.1 特征表示
  • Embedding Categorical Features 类别向量特征
• Unified Language Model Pre-training for Natural Language Understanding And Generation
  • 预训练设置
  • Finetuning 阶段
  • 实验：Abstracitve Summarization任务
  • 实验：Generative QA
  • 实验：用Generative QA自动生成问题，再用自动生成的问题反过来优化QA任务
  • 代码阅读