1、神经网络中，线性回归采用均方误差作为损失函数，逻辑回归（分类算法）采用交叉熵
2、神经网络中对数几率回归解决的是二分类问题，对于多个选项的问题可以使用softmax函数
3、神经网络的原始输出并不是一个概率值，实际上只是输入的数值做了复杂的加权和非线性处理之后得到的一个值。
4、神经网络中对于多分类问题，采用categorical_crossentropy以及sparse_categorical_crossentropy来计算softmax交叉熵。如果列表是数字编码，那么损失函数就使用sparse_categorical_crossentropy，独热编码时，损失函数使用categorical_crossentropy。