jBridge让AI算力落地的桥联框架技术

在5G网络中,云服务端(cloud server)往往不能满足大运算力要求,这是由于硬件环境要求越来越高,第三方云服务无法满足扩充或支持,满足计算的硬件(比如:GPU)价值不菲,进而无法达到理想的算力条件;也或是出于网络安全因素的考虑,避免核心算法遭到攻击;因此需要算力转移,从云端移至本地服务器(local server),使得本地服务资源作为核心算力的支撑,同时又不影响云服务的正常访问。

当然,本地服务可以按照自己需求随意部署配置,*度和成本均可以得到合理控制;也可以放心部署自己核心算法和数据进而解决网络安全问题。

遗憾的是云服务端与本地服务端分属不同的域(domain),具体来讲,云服务端在广域,比如www.domian.com部署在第三方机房、阿里云、腾讯云、百度云等,而本地服务端在局域,部署在企业内部机房。当用户访问云服务端某网页发出请求的时候,需要一个类似中转的服务jBridge桥联帮助使得他们进行顺利交互,如图

jBridge让AI算力落地的桥联框架技术

 

那么什么是jBridge?jBridge是javascript的前端插件,其原理是面向AI应用的桥联架构技术,侧重解决云端至本地服务端的信息桥联问题,解决大算力转移至本地的技术。

首先,当用户访问云服务端某网页发出请求的时,jBridge侦听到请求并通知本地服务器,本地服务利用本地算力处理该请求并返回结果,jBridge获得结果发送到云端刷新网页。

jBridge担任了云服务端和本地服务端的桥联角色,用户访问云端,而计算处理发生在本地,这样就实现了“重本地轻云端”的算力要求。

jBridge代码使用说明:jBridge只需几行js代码插入网页即可使用,分为server云端和client本地服务端两个部分。

server云端代码如下:(范例)

var jbridge = io.connect(‘https://tulong.me/push’);//图龙解服务jBridge接口

id=‘myaccount’;//图龙解注册账号

function doSend(){

jbridge.emit(‘server’, { server: id+’-’+‘how are you?’});//发出请求

}

jbridge.on(“client:”+id, function (data) {

console.log(‘client’,data.client);//接收client来自本地的处理结果

});

client本地服务端代码:(范例)

var jbridge = io.connect(‘https://tulong.me/push’);//图龙解服务jBridge接口

id=‘myaccount’;//图龙解注册账号

function doSend(){

jbridge.emit(‘client’, { client: id+’-’+‘I am fine’});//发出处理结果

}

jbridge.on(‘server:’+id, function (data) {

console.log(‘server’,data.server);//接收来自server云端请求,此处可根据接收到的信息加入处理代码。

});

doSend();

范例输出:

server发出请求“how are you”,client接收处理使用本地算力后给出应答结果"I am fine."。

下载1:

https://tulong.me/js/jquery_min_bridge.js

下载2:

https://tulong.me/js/jbridge.js

    0人点赞   日记本     更多精彩内容,就在简书APP
上一篇:使用 emacs 服务器模式


下一篇:解决“无法加载文件,因为在此系统上禁止运行脚本”的问题