机器学习算法大全

Posted 2021-04-27 BAT笔试面试

机器学习算法主要包括classification(分类)、 clustering(聚类) 、regression(回归)、dimensionality reduction(降维)
决策树算法(Decision Tree) 
 *分类和回归树(Classification and Regression Tree,CART)
 * Iterative Dichotomiser 3(ID3)
 * C4.5- C5.0
  * Iterative Dichotomiser 3(ID3)
  * C4.5- C5.0支持向量机(Support Vector Machine)
贝叶斯算法(Bayesian)
  * 朴素贝叶斯(Naive Bayes)
  * 高斯朴素贝叶斯(Gaussian Naive Bayes)
  * 多项式朴素贝叶斯(Multinomial Naive Bayes)
  * 平均一致依赖估计器(Averaged One-Dependence Estimators,AODE)
  * 贝叶斯信念网络(Bayesian Belief Network,BBN)
  * 贝叶斯网络(Bayesian Network,BN)
关联规则学习算法(Association Rule Learning)
  * Apriori 算法(Apriori algorithm)
  * Eclat 算法(Eclat algorithm)
  * FP-growth
正则化算法(Regularization)
  * 岭回归(Ridge Regression)
  * 最小绝对收缩与选择算子(LASSO)
  * GLASSO- 弹性网络(Elastic Net)
  * 最小角回归(Least-Angle Regression)
集成算法(Ensemble)
集成算法主要分为三类Bagging、Bosting、Stacking
  * 随机森林(Random Forest)
  * 梯度提升决策树( Gradient Boosting Decision Tree,GBDT)
  * 极限梯度提升算法 ( eXtreme Gradient Boosting,XGBoost)
  * 自适应提升算法( adaptive boosting,AdaBoost)
  * 梯度推进机(Gradient Boosting Machines,GBM)
  * Light Gradient Boosting Machine,LightGBM
回归(Regression)
  * 普通最小二乘回归(Ordinary Least Squares Regression,OLSR)
  * 线性回归(Linear Regression)
  * 逻辑回归(Logistic Regression)
  * 逐步回归(Stepwise Regression)
  * 多元自适应回归样条(Multivariate Adaptive Regression Splines,MARS)
  * 本地散点平滑估计(Locally Estimated Scatterplot Smoothing,LOESS)
聚类算法(Clustering)
  * K-均值(k-Means)
  * k-Medians 算法
  * Expectation Maximi 封层 ation (EM)
  * 最大期望算法(EM)
  * 分层集群(Hierarchical Clstering)
降维算法(Dimensionality Reduction)
  * 主成分分析(Principal Component Analysis (PCA))
  * 主成分回归(Principal Component Regression (PCR))
  * 偏最小二乘回归(Partial Least Squares Regression (PLSR))
  * Sammon 映射(Sammon Mapping)
  * 多维尺度变换(Multidimensional Scaling (MDS))
  * 投影寻踪(Projection Pursuit)
  * 线性判别分析(Linear Discriminant Analysis (LDA))
  * 混合判别分析(Mixture Discriminant Analysis (MDA))
  * 二次判别分析(Quadratic Discriminant Analysis (QDA))
  * 灵活判别分析(Flexible Discriminant Analysis (FDA))
图模型(Graphical Models)
  * 贝叶斯网络(Bayesian network)
  * 马尔可夫随机域(Markov random field)
  * 链图(Chain Graphs)
  * 祖先图(Ancestral graph)
人工神经网络(Artificial Neural Network)
  * 感知器
  * 反向传播
  * Hopfield 网络
  * 径向基函数网络(Radial Basis Function Network,RBFN)
深度学习(Deep Learning)
  * 深玻耳兹曼机(Deep Boltzmann Machine,DBM)
  * 深度信念网络(Deep Belief Networks,DBN)
  * 卷积神经网络( Convolution Neural Network,CNN)
  * 循环神经网络(Recurrent neural network,RNN)
  * 长短记忆( Long Short Term Memory,LSTM)
  * 门控循环单元( Gated Recurrent Unit,GRU)
自然语言处理( Natural Language Processing,NLP)
  * word2vec
  * seq2seq
  * Attention model
  * Transformer(vanilla)
  * ELMO
  * Transformer(universal)
  * GPT
  * BERT
  * GPT-2
  * Transformer-XL
  * XLNet
个性化推荐算法
  * 协同过滤 (Collaborative filtering,CF)
  * LR
  * GBDT
  * fm(Factorization Machine,FM)
  * ffm
  * mlp
  * widedeep
  * dcn
  * deepfm
向量检索算法
  * KD树
  * Annoy(Approximate Nearest Neighbors Oh Yeah)
  * Hierarchcal Navigable Small World,HNSW
  * 乘积量化(Product Quantization,PQ)
  * 局部敏感哈希(Locality Sensitive Hashing,LSH)

欢迎留言补充~

推荐阅读

加小编微信（备注：机器学习）

拉你入“机器学习交流群”