MindMaps

• 基础
  • 机器学习
    • 微积分、线性代数、概率论、最优化
    • 线性回归、梯度下降、逻辑回归、Softmax
    • 神经网络、Optimizer优化器
  • 深度学习
    • PyTorch深度学习框架
    • CNN卷积神经网络
    • NLP基础及相关算法模型RNN,LSTM,Word2Vec,GloVe,fastText,ELMo等
    • NLP用例应用: 情感分析、阅读理解、文本摘要、命名实体识别、机器翻译
  • 大语言模型基础
    • Transformer架构 - 2017年提出奠定大模型领域主流算法的基础架构
    • Transformer变体Bert, GPT架构