机器学习摘要

matlab

损失函数

• 对应一个已经确定了参数的cost function，尽管输入的参数是向量或者是矩阵，但是返回的\(J(\theta)\)一定是一个实数
• \(J(\theta)\)是将所有训练样本都输入到模型中计算，返回一个实数
• 更新假设函数的参数是在输入了所有的训练样本到模型中并且计算出了一个\(J(\theta)\)，才进行的

假设函数的值

• 在matlab编程中，\(h(x)\)假设函数返回的维度和标签是一样的。
• 要和公式对的上，就按照样本数量遍历训练样本，而不是直接使用矩阵的方法，在实现神经网络的时候会哭的。

神经网络

• 在神经网络的\(J(\Theta)\)损失函数中，出现了从k=1到k=K的求和，其实这个就是对y在[0 0 0 1 ... 0 0]形式下，对这个向量中的每一个元素的操作。K的大小就是y的长度