算法与大数据

算法工程师

前文我们讨论过数据结构与算法的相关内容,而在人工智能火热的现在,AIDL-Notes | 人工智能与深度学习实战系列包含了数学原理篇、机器学习篇、深度学习篇、自然语言篇、工程实践篇、人工智能与深度学习课程篇等内容。在实践方面,代码主要存放于 Artificial Intelligence & Deep Learning Workbench 中。

统计学基础

  • 相关性分析(相关系数 r、皮尔逊相关系数、余弦相似度、互信息)

  • 回归分析(线性回归、L1/L2 正则、PCA/LDA 降维)

  • 聚类分析(K-Means)

  • 分布(正态分布、t 分布、密度函数)

  • 指标(协方差、ROC 曲线、AUC、变异系数、F1-Score)

  • 显著性检验(t 检验、z 检验、卡方检验)

  • A/B 测试

机器学习

关联规则(Apriori、FP-Growth) 回归(Linear Regression、Logistics Regression) 决策树(ID3、C4.5、CART、GBDT、RandomForest)SVM(各种核函数) 推荐(User-CF、Item-CF) 推荐阅读:《集体智慧编程》、Andrew Ng — Machine Learning Coursera from Stanford

特征工程

可用性评估:获取难度、覆盖率、准确率 特征清洗:清洗异常样本采样:数据不均衡、样本权重单个特征:无量纲化(标准化、归一化)、二值化、离散化、缺失值(均值)、哑编码(一个定性特征扩展为 N 个定量特征)数据变换:log、指数、Box-Cox 降维:主成分分析 PCA、线性判别分析 LDA、SVD 分解特征选择:Filter(相关系数、卡方检验)、Wrapper(AUC、设计评价函数 A*、Embedded(L1-Lasso、L2-Ridge、决策树、DL)衍生变量:组合特征特征监控:监控重要特征,fa 特征质量下降我放一张公司内部算法培训关于特征工程的 PPT,仅供学习参考:

img

再往后你就可以在技能树上点几个酷炫的了:

提升 Adaboost 加法模型 xgboostSVM

软间隔损失函数核函数 SMO 算法 libSVM 聚类

K-Means 并查集 K-Medoids 聚谱类 SCEM 算法

Jensen 不等式混合高斯分布 pLSA 主题模型

共轭先验分布贝叶斯停止词和高频词 TF-IDF 词向量

word2vecn-gramHMM

前向/后向算法 Baum-WelchViterbi 中文分词数据计算平台

SparkCaffeTensorFlow 推荐阅读:周志华——《机器学习》

可以看到,不管你是用 TensorFlow 还是用 Caffe 还是用 MXNET 等等一系列平台来做高大上的 Deep Learning,在我看来都是次要的。想要在这个行业长久地活下去,内功的修炼要比外功重要得多,不然会活得很累,也很难获得一个优秀的晋升空间。

最后,关注你所在行业的最新 paper,对最近的算法理论体系发展有一个大致印象,譬如计算广告领域的几大经典问题:

img

Links