生成式与判别式:朴素贝叶斯与逻辑回归对照
导读:李航第 1、6、12 章的暗线:生成式建模联合分布,判别式直接建模条件分布。同一份数据,两条路线的收敛速 […]
ARCHIVE
导读:李航第 1、6、12 章的暗线:生成式建模联合分布,判别式直接建模条件分布。同一份数据,两条路线的收敛速 […]
导读:李航第 8 章用前向分步加法模型统一 Boosting:每轮加一个基学习器去拟合当前损失最快的方向。Ad […]
导读:李航《统计学习方法》第 7 章的 SVM 对偶推导是中文机器学习书里最值得逐行抄写的一节:拉格朗日对偶把 […]
导读:PRML 第 6 章的高斯过程把回归推到函数空间:不学参数,直接在函数的分布上做贝叶斯。核函数选择即先验 […]
导读:PRML 第 9 章的 EM 算法是潜变量模型的通用训练机。它的收敛性证明(ELBO 单调不降)比算法本 […]
导读:PRML 第 3 章用线性回归演示完整的贝叶斯流程:先验、似然、后验、预测分布,每一步都是分布而不是点。 […]
导读:Goodfellow 第 8 章加工程实践:优化器不是越新越好,而是与病态几何和噪声结构的适配问题。 S […]
导读:深度学习的泛化能力来自一套正则化组合拳。Goodfellow 第 7 章把这些技术按作用机理分类,避免「 […]
导读:Goodfellow《深度学习》第 6 章的精髓:把反向传播理解为计算图上的链式法则,而不是需要背诵的公 […]
引言 2017年,Vaswani等人在《Attention Is All You Need》中提出的Trans […]