TRMF 辅助论文:最小二乘法复现TRMF

1 目标函数(总)

论文笔记:Temporal Regularized Matrix Factorization forHigh-dimensional Time Series Prediction_UQI-LIUWJ的博客-CSDN博客

TRMF 辅助论文:最小二乘法复现TRMF

1.1 求解W

我们留下含有W的部分:

 TRMF 辅助论文:最小二乘法复现TRMF

TRMF 辅助论文:最小二乘法复现TRMF

然后对wi求导

线性代数笔记:标量、向量、矩阵求导_UQI-LIUWJ的博客-CSDN博客

TRMF 辅助论文:最小二乘法复现TRMF

TRMF 辅助论文:最小二乘法复现TRMF

TRMF 辅助论文:最小二乘法复现TRMF是一个标量,所以放在xi的左边和右边没有影响

所以

TRMF 辅助论文:最小二乘法复现TRMF

也即:

TRMF 辅助论文:最小二乘法复现TRMF

TRMF 辅助论文:最小二乘法复现TRMF

 对应的代码如下:(假设sparse_mat表示 观测矩阵)

from numpy.linalg import inv as inv
for i in range(dim1):
    #W矩阵的每一行分别计算
    pos0 = np.where(sparse_mat[i, :] != 0)
    #[num_obs] 表示i对应的有示数的数量

    Xt = X[pos0[0], :]
    #[num_obs,rank

    vec0 = sparse_mat[i, pos0[0]] @ Xt
    #sparse_mat[i, pos0[0]] 是一维向量,
    #所以sparse_mat[i, pos0[0]] @ Xt 和 sparse_mat[i, pos0[0]].T @ Xt 是一个意思,
    #输出的都是一个一维向量
    #[rank,1]

    mat0 = inv(Xt.T @ Xt + np.eye(rank))
    #[rank,rank]

    W[i, :] = mat0 @ vec0

 其中:

TRMF 辅助论文:最小二乘法复现TRMF
vec0 = sparse_mat[i, pos0[0]] @ Xt

TRMF 辅助论文:最小二乘法复现TRMF
mat0 = inv(Xt.T @ Xt + np.eye(rank))

1.2 求解X

我们留下含有X的部分

TRMF 辅助论文:最小二乘法复现TRMF

TRMF 辅助论文:最小二乘法复现TRMF

TRMF 辅助论文:最小二乘法复现TRMF表示逐元素乘积 (两个向量a和b,aTRMF 辅助论文:最小二乘法复现TRMFb可以用diag(a) b表示)

当t=1~ld的时候,我们没有TRMF 辅助论文:最小二乘法复现TRMF什么事情,所以此时我们更新X的方式和之前的W差不多TRMF 辅助论文:最小二乘法复现TRMF

同理,X的更新方式为:

TRMF 辅助论文:最小二乘法复现TRMF

而当t≥ld+1的时候,我们就需要考虑TRMF 辅助论文:最小二乘法复现TRMF

对于任意xt(我们令其为xo),他会出现在哪些TRMF 辅助论文:最小二乘法复现TRMF中呢?

首先 是 TRMF 辅助论文:最小二乘法复现TRMF

TRMF 辅助论文:最小二乘法复现TRMF

TRMF 辅助论文:最小二乘法复现TRMF

对xo求导,有:

TRMF 辅助论文:最小二乘法复现TRMF

其次,是所有的 TRMF 辅助论文:最小二乘法复现TRMF

对每一个l,有用的项就是xo相关的项,于是我们可以写成,对每一个l的

TRMF 辅助论文:最小二乘法复现TRMF

TRMF 辅助论文:最小二乘法复现TRMF

对xo求导,有TRMF 辅助论文:最小二乘法复现TRMF

于是我们可以写成TRMF 辅助论文:最小二乘法复现TRMF

几部分拼起来,有

TRMF 辅助论文:最小二乘法复现TRMF

TRMF 辅助论文:最小二乘法复现TRMF

TRMF 辅助论文:最小二乘法复现TRMF

=0

TRMF 辅助论文:最小二乘法复现TRMF

TRMF 辅助论文:最小二乘法复现TRMF

TRMF 辅助论文:最小二乘法复现TRMF

=

TRMF 辅助论文:最小二乘法复现TRMF

TRMF 辅助论文:最小二乘法复现TRMF

+TRMF 辅助论文:最小二乘法复现TRMF

所以xo(o≥ld+1)的更新公式为

TRMF 辅助论文:最小二乘法复现TRMF

3 更新θ

TRMF 辅助论文:最小二乘法复现TRMF

我们留下和θ (θk)有关的部分

TRMF 辅助论文:最小二乘法复现TRMF

TRMF 辅助论文:最小二乘法复现TRMF

TRMF 辅助论文:最小二乘法复现TRMF

TRMF 辅助论文:最小二乘法复现TRMF

TRMF 辅助论文:最小二乘法复现TRMF

TRMF 辅助论文:最小二乘法复现TRMF

TRMF 辅助论文:最小二乘法复现TRMF

关于θk求导

TRMF 辅助论文:最小二乘法复现TRMF

TRMF 辅助论文:最小二乘法复现TRMF

4 总结

TRMF 辅助论文:最小二乘法复现TRMF

x:

t ∈ 1~ld:TRMF 辅助论文:最小二乘法复现TRMF

 

t ≥ld+1 TRMF 辅助论文:最小二乘法复现TRMF

 TRMF 辅助论文:最小二乘法复现TRMF

 

上一篇:Maven项目通过tomcat运行不起来


下一篇:2021CCPC桂林 B. A Plus B Problem