As the documentation explains

• mod(a,b) is defined as a-b.*fix(a./b)
• rem(a,b) is defined as a-b.*floor(a./b)

这两个函数的生成机制不同，rem 函数采用 fix 函数，而 mod 函数采用了 floor 函数（这两个函数是用来取整的，fix 函数向 0 方向舍入，floor 函数向无穷小方向舍入）。 rem（x，y）命令返回的是 x-n.*y，如果 y 不等于 0，其中的 n = fix(x./y)，而 mod(x,y) 返回的是 x-n.*y，当 y 不等于 0 时，n=floor(x./y)。

当 x 和 y 的正负号一样的时候，两个函数结果是等同的；当 x 和 y 的符号不同时，rem 函数结果的符号和 x 的一样，而 mod 和 y 一样。

而不同的高级语言中，语言环境不同，“%”所代表的意义也不一样。在C++和Java中，“%”代表的是“取余”，而在Python中，“%”代表的是“取模”，得到的结果也就不同。

>> mod(5,2)
ans =1                   % 除数是正，余数就是正
>> mod(-5,2)
ans =1
>> mod(5,-2)
ans =-1                  % 除数是负，余数就是负
>> mod(-5,-2)
ans =-1                  % 用 rem 时，不管除数是正是负，余数的符号与被除数的符号相同
>> rem(5,2)
ans =1                   % 被除数是正，余数就是正
>> rem(5,-2); 
ans =1
>> rem(-5,2)
ans =-1                 % 被除数是负， 余数就是负
>> rem(-5,-2)
ans =-1


Referrence： https://www.runoob.com/w3cnote/remainder-and-the-modulo.html
             https://www.zhihu.com/question/31344913