搞了一天，才算搞定。

第一步：定位Matlab中Java环境的ext目录

新建一个M script文件，或者直接在Matlab的交互式命令行中输入：

disp(java.lang.System.getProperty('java.ext.dirs'));

查看输出（不同的版本、安装环境不一样）：

D:\Program Files\MATLAB\R2012b\sys\java\jre\win64\jre\lib\ext;C:\WINDOWS\Sun\Java\lib\ext

第二步：将需要的java文件打包放入到ext目录中，这里选择第一个目录

eclipse打包时 设定compier很关键，要不然之后会出现错误：Unsupported major.minor version 51.0

第三步：重启Matlab

第四步：编写M文件，调用java类

disp(java.lang.System.getProperty('java.ext.dirs'));  //寻找matlab中JAVA环境的ext文件夹

test = pku.Recommendation;   //调用jar的java类，注意使用matlab的OOP写法。
disp(test.Recommendation());

Matlab的输出如下：

注：我使用的是一个基于物品的协同过滤项目代码，附上链接http://www.cnblogs.com/yangxiao99/p/4456038.html