开发者社区技术周刊 又和大家见面了,快来看看这周有哪些值得我们开发者关注的重要新闻吧。
智源研究院发布超大规模新型预训练模型“文汇”参数量级达113亿
AI公司Rokid发布双目MR眼镜Rokid Vision 2:兼容4G和5G网络
TypeScript 4.2 Beta发布
Go泛型提案已提交,Go 1.18 beta有望试用
Docker发布开发团队2021年三个首选方向
工信部印发《工业互联网创新发展行动计划(2021-2023 年)》
ICLR 2021丨美团、上交大等:鲁棒的可微分神经网络搜索DARTS-
"妙笔"生花:一个易用、高效的文本生成开源库
行 业 要 闻
Industry News
1,智源研究院发布超大规模新型预训练模型“文汇”参数量级达113亿
中新网北京新闻1月12日电 超大规模新型预训练模型“文汇”日前发布, 旨在探索解决当前大规模自监督预训练模型不具有认知能力的问题。 “文汇”模型运用数据驱动的方法建构预训练模型,将用户行为、常识知识以及认知联系起来,让AI主动“学习”与创造。数据显示,“文汇”模型参数规模达113亿,仅次于DALL·E模型的120亿参数量,是目前我国规模最大的预训练模型,已实现与国际领先预训练技术的并跑。
2,AI公司Rokid发布双目MR眼镜Rokid Vision 2:兼容4G和5G网络
1月15日消息,据国外媒体报道,今日,人工智能公司Rokid发布了 最新的双目混合现实(MR)眼镜Rokid Vision 2。 Rokid Vision 2拥有轻薄的外观,可以像普通眼镜一样折叠,它拓展了现有的用户界面,包括手机、笔记本电脑、游戏机和平板电脑,并兼容4G和5G网络。此外,这款眼镜结合了AR和AI功能,将混合现实与现实世界相结合,帮助提高生产率,为用户提供身临其境的体验。
3,TypeScript 4.2 Beta 发布
TypeScript在版本4.1引入了一种新的类型:模板字面量类型 (template literal types)。此类型能够对字符串的特定模式进行建模。
但在4.1中,模板字符串类型和模板字符串表达式之间存在一些奇怪的不一致地方。这是因为模板字符串表达式无法与新的模板字符串类型兼容。
因此在TypeScript 4.2中,模板字符串表达式现在总是以模板字面量类型开始。
为in运营算符执行更严格的检查
放宽可选属性和字符串索引签名之间的规则
4,Go泛型提案已提交,Go 1.18 beta有望试用
Go团队核心成员Ian Lance Taylor宣布已提交为Go添加泛型的提案 (Proposal)。Ian在博客说道: “为Go添加泛型的语言变更完全向后兼容 (fully backward compatible),现有的Go程序会继续像现在一样正常运行。” Ian还表示如果提案能通过,Go团队会在年底前发布一个完整但可能未优化的实现,以供开发者试用,或许会在 Go 1.18 beta中提供。
5,Docker发布开发团队2021年三个首选方向
Docker团队SCOTT JOHNSTON发布了2021年与开发团队相关的主要趋势,首选三个方向,包括分布式协作、更多微服务、加速AI/ML普及。
第一是开放、分布式协作。 其团队对2020年数千名 Docker 开发人员工作方式的调查显示,有51%的人更喜欢远程工作。远程开发工作部署将在 2021 年完成。
第二是更多微服务应用,降低复杂性。 微服务应用在2020年证明了其价值,尤其是压缩了从设计到生产的时间,并能快速响应需求。在Docker开发人员社区中,有65%的人说他们的组织已经在使用微服务。
第三是加速AI/ML的普及。 Docker团队预计,2021年开发团队在其应用程序中使用AI/ML工具的情况会有所增加。
6,工信部印发《工业互联网创新发展行动计划(2021-2023 年)》
1月13日消息,工信部今天发布关于印发《工业互联网创新发展行动计划(2021-2023年)》的通知。IT之家获悉,通知指出, 新型基础设施进一步完善。 覆盖各地区、各行业的工业互联网网络基础设施初步建成,在10个重点行业打造30个5G全连接工厂。基本建成国家工业互联网大数据中心体系,建设20个区域级分中心和10个行业级分中心。
学 术 前 沿
Academic News
1,ICLR 2021丨美团、上交大等:鲁棒的可微分神经网络搜索DARTS-
可微分方法(DARTS)是神经网络架构搜索(NAS)中最流行的方法。 现有不少方法都致力于解决性能崩塌的问题,从而提升其稳定性。RobustDARTS[1]提出了用超网的特征根作为判别是否进入崩塌的标志,本文在实验重发现了反例,即在特征根不断增大的情形下,搜索出的模型性能仍在提升。本文受FairDARTS[2]中跳跃连接存在不公平竞争优势的启发,使用了一个额外的跳跃链接(auxiliary skip),简单有效地提升了DARTS的鲁棒性,且不使用额外的超参数和指示标志。
*论文链接:https://openreview.net/forum?id=KLH36ELmwIB
2,"妙笔"生花:一个易用、高效的文本生成开源库
文本生成作为近年来自然语言处理中的热门领域,受到了学界和工业界的广泛关注。随着研究的不断深入,文本生成领域下的子任务和相应的模型越来越丰富,一些优秀的开源框架也纷纷涌现。现有的开源文本生成库大致可分为两类, 一类倾向于模块化驱动,提供各个组件供研究者搭建不同的模型, 但缺点在于许多特殊的baseline无法通过模块完成; 另一类倾向于baseline驱动,方便用户快速调用baseline, 但缺点在于整体结构不够统一,可扩展性有限。
因此,为了兼顾两者的优势, 中国人民大学AI BOX团队推出了新的开源文本生成库TextBox(妙笔), 在保证组件模块化的同时,提供了许多较新baseline的接口,使得研究者一方面可以基于模块搭建自己的模型,另一方面也可以快速调用已有的baseline完成实验。
*论文链接:https://arxiv.org/pdf/2101.02046.pdf
*以上信息来源于网络,由“京东智联云开发者”公众号编辑整理,
不代表京东智联云立场*
推荐阅读:
欢迎点击【京东智联云】,了解开发者社区
更多精彩技术实践与独家干货解析
欢迎关注【京东智联云开发者】公众号