算法与大数据

算法工程师

前文我们讨论过数据结构与算法的相关内容，而在人工智能火热的现在，AIDL-Notes |人工智能与深度学习实战系列包含了数学原理篇、机器学习篇、深度学习篇、自然语言篇、工程实践篇、人工智能与深度学习课程篇等内容。在实践方面，代码主要存放于 Artificial Intelligence & Deep Learning Workbench 中。

统计学基础

  • 相关性分析(相关系数r、皮尔逊相关系数、余弦相似度、互信息)

  • 回归分析(线性回归、L1/L2正则、PCA/LDA降维)

  • 聚类分析(K-Means)

  • 分布(正态分布、t分布、密度函数)

  • 指标(协方差、ROC曲线、AUC、变异系数、F1-Score)

  • 显著性检验(t检验、z检验、卡方检验)

  • A/B测试

机器学习

关联规则(Apriori、FP-Growth) 回归(Linear Regression、Logistics Regression) 决策树(ID3、C4.5、CART、GBDT、RandomForest)SVM(各种核函数) 推荐(User-CF、Item-CF) 推荐阅读：《集体智慧编程》、Andrew Ng — Machine Learning Coursera from Stanford

特征工程

可用性评估：获取难度、覆盖率、准确率 特征清洗：清洗异常样本采样：数据不均衡、样本权重单个特征：无量纲化(标准化、归一化)、二值化、离散化、缺失值(均值)、哑编码(一个定性特征扩展为N个定量特征)数据变换：log、指数、Box-Cox降维：主成分分析PCA、线性判别分析LDA、SVD分解特征选择：Filter(相关系数、卡方检验)、Wrapper(AUC、设计评价函数A*、Embedded(L1-Lasso、L2-Ridge、决策树、DL)衍生变量：组合特征特征监控：监控重要特征，fa特征质量下降我放一张公司内部算法培训关于特征工程的PPT，仅供学习参考：

img

再往后你就可以在技能树上点几个酷炫的了：

提升Adaboost加法模型xgboostSVM

软间隔损失函数核函数SMO算法libSVM聚类

K-Means并查集K-Medoids聚谱类SCEM算法

Jensen不等式混合高斯分布pLSA主题模型

共轭先验分布贝叶斯停止词和高频词TF-IDF词向量

word2vecn-gramHMM

前向/后向算法Baum-WelchViterbi中文分词数据计算平台

SparkCaffeTensorFlow推荐阅读：周志华——《机器学习》

可以看到，不管你是用TensorFlow还是用Caffe还是用MXNET等等一系列平台来做高大上的Deep Learning，在我看来都是次要的。想要在这个行业长久地活下去，内功的修炼要比外功重要得多，不然会活得很累，也很难获得一个优秀的晋升空间。

最后，关注你所在行业的最新paper，对最近的算法理论体系发展有一个大致印象，譬如计算广告领域的几大经典问题：

img

Links

最近更新于0001-01-01