第6章 支持向量机 6.1 间隔与支持向量 给定训练样本集D={(x1, y1), (x2, y2), ..., (xn, yn)}, yi∈{-1, +1}，分类学习就是要基于训练样本集D在样本空间中找到一个划分超平面，将不同类别的样本分开。但在实际划分时，这样划分超平面可能是会很多个，我们应该在这些可能存在的多个划分超平面中找到一个“最优”的，那如何找到它？ 这个最优的划分超平面应

第5章 神经网络 5.1 神经元模型 各相关学科对“神经网络”的定义各不相同。以下是1988年T. Kohonen在Neural Networks创刊时对神经网络给出的定义。 神经网络定义：神经网络是由具有适应性的简单单元组成的广泛并行互连的网络，它的组织能够模拟生物神经系统对真实世界物体所作出的交互反应。 神经网络中最基本的元素或成分叫做 神经元模型，即上述定义中的所述的简单单元。

第4章 决策树 4.1 基本流程 决策树是一种常见的机器学习方法。决策树又叫判定树，是基于树结构来进行决策的，是一种跟人类做决策很类似的、自然的处理机制。比如，我们如果要判别“某个瓜是好瓜吗？”这个问题时，我们通常会进行一系列的判断或子决策：它是什么颜色的？如果是青绿色的，我们再看它的根蒂是什么形态的？如果是蜷缩的，那我们看它敲起来是什么声音？如果是浊响的，那么我们可能能因此做出决策：“这是一

一、二次型的定义及其矩阵表达式 \[ \text{二项式定理：}\\ (a+b)^n=\sum_{i = 0}^{n} C_n^ia^ib^{n-i}=\sum_{i = 0}^{n} C_n^ia^{n-i}b^i \] n元变量x1,x2,...,xn的二次齐次多项式（其中二次的意思是：每一项中所有变量的指数之和为2；齐次的意思是：指多项式中所有项的次数相同，对于二次齐次多项式，所

三、等价矩阵和矩阵的等价标准形 四、矩阵的轶 定义：设A是m×n矩阵，A中的最大的不为零的子行列式的阶数称为矩阵A的轶，记为r(A)。或这样定义：若存在k阶子式不为零，而任意k+1阶子式全为零（如果有的话），则k为矩阵A的轶，记作r(A)=k。 显然如果一个n阶方阵的轶为n，则可知： r(An×n)=n <=> |A|≠0 <=> A可逆

一、行列式的本质定义(定义一) ... 二、行列式的性质 ... 三、行列式的逆序数定义(定义二) 排列与逆序 排列：由n个数 1, 2, ..., n 组成的一个有序数组称为一个n级排列，如23145是一个5级排列，34521也是一5级排列。显然，由这样的n个数组成的n级排列一共有n!个。 逆序：在一个n级排列i1, i2, ..., in中，若is>it，且is排在it

第3章 线性模型 参考：《机械学习第1版第47次印刷-周志华著》、https://www.datawhale.cn/learn/content/2/65 西瓜书代码实战：https://github.com/datawhalechina/machine-learning-toy-code/blob/main/%E8%A5%BF%E7%93%9C%E4%B9%A6%E4%BB%A3%E7%A0%

线性代数参考文档 https://zh.d2l.ai/chapter_preliminaries/linear-algebra.html#id5 https://machine-learning-from-scratch.readthedocs.io/zh-cn/latest/%E7%BA%BF%E6%80%A7%E4%BB%A3%E6%95%B0.html 单元矩阵 单位矩阵（Ident

先占个位置，后续继续补充学习记录。现在是2025年7月16日23:54:13，脑子有点不听使唤了，明天继续。 第2章 模型评估与选择 本章介绍模型评估与选择，讲述如何评估模型的优劣和选择最适合自己业务场景的模型。 参考讲解视频： 合集·西瓜书代码实战 正太分布的前世今生：https://cosx.org/2013/01/story-of-normal-distribution-1/ 2.

此次机器学习入门系列的学习以经典教材周志华老师的《机器学习》（俗称西瓜书）、谢文睿等著的《机器学习公式详解第2版本》（俗称南瓜书）为主要学习资料，在此写下自己的学习记录或疑惑，方便后续查阅与复习。 前提要求是至少对本科必修的3门数学课《高等数学》、《线性代数》和《概率论与数理统计》。 参考讲解视频：《机器学习公式详解》（南瓜书）与西瓜书公式推导 第1章 绪论 1.1 引言 "算法"是指从