HaaS轻应用(Python): 使用“千里传音“服务打造您的专属云喇叭

2022-06-10 19:43:28

来源 | HaaS技术社区

1、前言

Python 语言的是一款非常容易使用的解释性语言，它的主要特点如下：
● 易学易用
● 可扩展可移植
● 丰富的三方库
正是由于以上这些特点，使得Python在一些逻辑简单，功能复杂的场景应用非常广泛。近几年，随着人工智能的飞速发展，Python 的优点得到的充分的体现，因此成为了AI开发的首选语言。

Python轻应用主要是基于micropython实现，在保留了python语言主要特性的基础上，他还对嵌入式系统的底层做了非常不错的封装，它的特点如下：
● 沿用python语法和基本数据结构，保持易学易用性
● 提供基于嵌入式系统的硬件功能库封装，让嵌入式开发简单便捷

今天要介绍的是如何使用Python 轻应用，连接阿里云的千里传音服务，打造一个现象级的云喇叭产品。

2、方案介绍

2.1、什么是千里传音？

“千里传音”服务，是阿里云IoT针对带有语音播报能力的AIoT设备，提供的一个云端一体的解决方案。为播报提醒类设备应用提供从播报语料合成，语料管理，语料推送到设备，播报设备管理等完善功能，配合集成了端侧播报能力的HaaS设备，帮助用户高效完成播报类设备应的开发和长期运行。

“千里传音”服务以项目为单位来帮助客户组织应用和管理设备，以便客户面向不同的用户来管理设备语料更新，以及批量或单个设备语料推送。同时，“千里传音”服务为客户应用提供云端API，通过传入语料组合逻辑，及设备ID，就可以完成对端设备播报的调用，简单省事。借助阿里云IoT平台提供的高并发设备通信能力，帮助客户无忧完成大规模设备部署和长期高可用运行。

它主要有三个部分组成：App,服务器，和播报设备

HaaS轻应用(Python): 使用“千里传音“服务打造您的专属云喇叭

”千里传音“，指的就是无论服务的使用者(App)和播放设备之间的物理距离有多远，都可以通过服务器，将自己想要传达的音频数据，传输给相关播报设备进行播报。

  • 服务的使用者，可以通过千里传音服务提供的SDK和服务器进行通讯

目前千里传音服务提供了多种编程语言的SDK,包括Java,JS,Python,PHP 等等，开发者可以选自自己熟悉的开发语言进行开发。调试阶段，可以使用在线调试工具进行调试。

  • 服务器通过MQTT将播放资源和指令下发给播放设备进行播放

         目前设备支持本地音频播放和在线音频播放，在线音频的播放需要通过物模型自定义服务，将音频的url发送给设备端，本地音频的播放，需要通过千里传音SpeechPost服务先将音频链接发送给设备端，设备端将音频文件以ID 命名并保存。当服务端需要播放的时候，将所有的音频文件按照ID 组合起来，通过SpeechBroadcast服务下发给设备端，设备端将音频组合起来，进行播放。

千里传音服务提供的能力如下:

● 项目管理
客户通过项目形式管理不同应用场景中的设备和语料。
● 智能语料生成
通过人工智能算法帮助客户快速完成文字到固定播报语料的生成，支持wav和mp3格式输出。
● 语料组合播报
通过远程命令，告知特定设备将本地语料以特定顺序组合后播报，并支持加入动态数字内容。
● 动态语料合成
支持用户通过API生成动态播报语料，推送到端侧播报。此类语料设备端采用在线播放的形式，将不固化到设备中。
● 语料空中推送
为客户提供语料空中推送到单个和项目中全量设备的能力，实现设备端固化语料的更新。使设备播报语音内容变得可以运营。
● 云端API
为客户提供平台能力对应API，以实现上述播报能力的云端控制。

2.2、如何使用千里传音？

本方案中，播报设备指的是阿里云的物联网硬件设备HaaS100，App的使用的是在线调试工具或者PC端的Python 应用。
具体的交互流程如下:

HaaS轻应用(Python): 使用“千里传音“服务打造您的专属云喇叭

以上代码逻辑，均在Python轻应用中实现，具体细节轻参考物品清单章节中的Python轻应用固件软件部分

3、物品清单

3.1、硬件

  • HaaS100 开发板一块
  • 电源一个
  • micro usb 一个
  • sdcard 一个
  • 有源喇叭一个购买链接
  • 杜邦线一根

注意事项:

  • HaaS100支持外接微型SD卡（Micro SD），最大支持64GB数据的存储,SD卡槽位于开发板背,可以外接微型SD存储卡
  • sdcard 格式支持:  FAT16/FAT32，本案例中暂时不支持exFAT 格式
  • 喇叭的链接方法如下:

HaaS轻应用(Python): 使用“千里传音“服务打造您的专属云喇叭

Column 1

Column 2

Column 3

喇叭丝印接口

HaaS100 GPIO NUM

图中连接线颜色

IN

28

黄色

VCC

2

红色

GND

4

绿色

3.2、软件

3.2.1、千里传音产品和设备创建

● 创建项目
登录阿里云官网，选择产品阿里云IoT平台->企业物联网平台->控制台->增值服务->IoT云端一体服务，进入千里传音服务后台

HaaS轻应用(Python): 使用“千里传音“服务打造您的专属云喇叭

在项目创建过程中，需要输入项目名称，并对项目进行简单描述，以便后期维护。

HaaS轻应用(Python): 使用“千里传音“服务打造您的专属云喇叭
在完成项目创建后，系统将帮助用户创建一个与项目名相同的产品，以便后续加入设备。同时，如果用户希望为设备增加千里传音以外的能力，也可以直接到物联网平台的设备管理界面中，为设备添加物模型能力。
在项目列表中，点击需要配置的项目，可以对项目内容进行配置管理。

HaaS轻应用(Python): 使用“千里传音“服务打造您的专属云喇叭

在项目配置界面，有两个选项，分别是服务配置和设备管理，其中服务配置是用来配置千里传音服务的的，主要是语料管理，设备配置是用来管理项目中设备列表的。
● 生成语料
如下图所示，在项目配置中，选中服务配置->管理服务，

HaaS轻应用(Python): 使用“千里传音“服务打造您的专属云喇叭
进去千里传音服务配置界面以后，选中语料配置中的新增语料

HaaS轻应用(Python): 使用“千里传音“服务打造您的专属云喇叭
新增自定义语料界面如下:

HaaS轻应用(Python): 使用“千里传音“服务打造您的专属云喇叭
其中语料标识和语料内容非常重要,语料标识必须是项目级别唯一，它是作为语料组合调用时候的唯一标签，同时也作为设备端保存语料的文件名。语料内容指的就是我们要播报的文本.
除此之外，我们还可以自定义语料的场景，包括方言场景，童声场景，客服场景以及通用场景；自定义语料的播放速度；自定义语料的播报音量等。

● 创建设备
在完成语料构建和管理后，需要在项目中创建设备，以便最终用户的播报应用可以将命令发送到设备端，完成整个播报链路。点击“设备管理”标签，将进入设备管理界面。

HaaS轻应用(Python): 使用“千里传音“服务打造您的专属云喇叭
设备创建可以有单个创建和批量创建两种方式。
点击“创建设备”会打开创建单个设备弹窗，并要求用户输入设备相关信息。

HaaS轻应用(Python): 使用“千里传音“服务打造您的专属云喇叭
DeviceName：英文字符组成的设备名称，设备名称在项目中不可重复。
备注名称：为了便于用户区分设备，给设备赋予的别名。
点击“批量添加”会打开批量创建设备弹窗。

HaaS轻应用(Python): 使用“千里传音“服务打造您的专属云喇叭

添加方式
○ 自动生成：指系统将为用户自动生成DeviceName。
○ 批量上传：需要用户通过.csv文件上传自定义的DeviceName。
设备数量：需要批量添加的设备个数。

在创建完成设备以后，设备管理界面，可以显示设备列表，点击设备对应的鉴权信息，可以查看设备的三元组信息

HaaS轻应用(Python): 使用“千里传音“服务打造您的专属云喇叭

● 语料推送

在创建完成设备以后，我们就可以回到语料配置界面，将新增的语料推送到相应的设备上面进行测试了。
如下图所示，点击需要推送的语料，操作栏中的推送到设备按钮(下图中我们推送的语料id是  yuan)

HaaS轻应用(Python): 使用“千里传音“服务打造您的专属云喇叭
进入语料推送界面，如下图所示，默认支持单个设备推送，分组推送和全部设备推送。

HaaS轻应用(Python): 使用“千里传音“服务打造您的专属云喇叭
单个设备和分组模式，需要选择自己的设备名或者分组名，选中以后点击确定即可完成推送。

3.2.2、HaaS100 Python轻应用固件

可以通过HaaS100  AliOS Things 3.3 开源代码编译或者Python轻应用官方固件直接下载(2021.5月份以后)，相关下载方法都在Python轻应用快速上手中有详细介绍: Python轻应用快速上手

3.2.3、串口工具

mac电脑推荐使用picocom,windows 电脑推荐使用putty, 务必保证设置串口波特率为1500000
千里传音设备端Python轻应用代码

  1. #!/usr/bin/env python
  3. # -*- encoding: utf-8 -*-
  5. '''
  7. @File       :    haas_speech.py
  9. @Description:    file description  
  11. @Date       :    2021/04/19 13:56:50
  13. @Author     :    guoliang.wgl
  15. @version    :    1.0
  17. '''
  20. import iot
  22. import utime
  24. import http
  26. import ujson as json
  28. import math
  32. AUDIO_ENABLED = True
  34. if AUDIO_ENABLED:
  36.     from audio import Player,Snd
  39. toneDir = "/sdcard/resource/"
  41. tonenameSuffix = [".wav", ".mp3"]
  45. tonenameNumb = ["SYS_TONE_0", "SYS_TONE_1", "SYS_TONE_2", "SYS_TONE_3", "SYS_TONE_4", "SYS_TONE_5", "SYS_TONE_6", "SYS_TONE_7", "SYS_TONE_8", "SYS_TONE_9"]
  47. tonenameNumb1 = "SYS_TONE_yao"
  49. tonenameDot = "SYS_TONE_dian"
  51. tonenameUnit = ["SYS_TONE_MEASURE_WORD_ge", "SYS_TONE_MEASURE_WORD_shi", "SYS_TONE_MEASURE_WORD_bai", "SYS_TONE_MEASURE_WORD_qian"]
  53. tonenameHunit = ["SYS_TONE_MEASURE_WORD_wan", "SYS_TONE_MEASURE_WORD_yi", "SYS_TONE_MEASURE_WORD_sw", "SYS_TONE_MEASURE_WORD_bw", "SYS_TONE_MEASURE_WORD_qw"]
  55. tonepathConnected = "fs:/sdcard/resource/connected.wav"
  57. tonepathPowerOn = "fs:/sdcard/resource/poweron.wav"
  61. on_request = False
  63. on_play = False
  67. if AUDIO_ENABLED:
  69.     Snd.install_codec_driver()
  71.     Snd.init()
  73.     player = Player()
  75.     player.create()
  77.     player.set_volume(10)
  82.     def play(path):
  84.         global player
  86.         player.set_source(path)
  88.         player.start()
  90.         player.wait_complete()
  92.    
  94.     def playlist(pathlist):
  96.         for path in pathlist:
  98.             play('fs:'+path)
  102.         print('********end playlist*******')
  105. def add_amount(num_str, toneList, formatFlag):
  109.     global tonenameNumb
  111.     global tonenameNumb1
  113.     global tonenameDot
  115.     global tonenameUnit
  117.     global tonenameHunit
  119.     global toneDir
  121.     global tonenameSuffix
  125.     num_f = float(num_str)
  127.     numb = int(num_f)
  129.     deci = num_f - numb
  131.     target = numb
  133.     subTarget = 0
  135.     subNumber = None
  137.     slot = 0
  139.     factor = 0
  141.     count = 0
  143.     prevSlotZero = False
  145.     hundredMillionExist = False
  147.     tenThousandExist = False
  149.    
  151.     if (numb < 0 or numb >= 1000000000000):
  153.         print('amount overrange')
  155.         return toneIndex
  159.     if (deci < 0.0001 and deci > 0.0):
  161.         deci = 0.0001
  163.    
  165.     i = 2
  167.     while(i >= 0):
  171.         factor = math.pow(10000,i)
  173.         if target < factor:
  175.             i = i -1
  177.             continue
  179.         subTarget = int(target / factor)
  181.         target %= factor
  183.         if (subTarget == 0):
  185.             i = i -1
  187.             continue
  189.            
  191.         if (i == 2):
  193.             hundredMillionExist = True
  195.         elif (i == 1):
  197.             tenThousandExist = True
  199.        
  201.         subNumber = subTarget
  203.         prevSlotZero = False
  207.         depth = 3
  209.         while(depth >= 0):
  211.             if(subNumber == 0):
  213.                 break
  215.             factor = math.pow(10, depth)
  219.             if ((hundredMillionExist == True or tenThousandExist == True) and i == 0):
  221.                 pass
  223.             elif (hundredMillionExist == True and tenThousandExist == True and depth > 0 and subTarget < factor):
  225.                 pass
  227.             elif (subTarget < factor):
  229.                 depth = depth - 1
  231.                 continue
  235.             slot = int(subNumber / factor)
  237.             subNumber %= factor
  239.             if (slot == 0 and depth == 0):
  241.                 depth = depth - 1
  243.                 continue
  245.                
  249.             if ((subTarget < 20 and depth == 1) or (slot == 0 and prevSlotZero) or (slot == 0 and depth == 0)):
  251.                 pass
  253.             else:
  255.                 toneList.append(toneDir + tonenameNumb[slot] + tonenameSuffix[formatFlag])
  257.                 count += 1
  259.                 if (slot == 0 and prevSlotZero == False):
  261.                     prevSlotZero = True
  263.                 elif (prevSlotZero == True and slot != 0):
  265.                     prevSlotZero = False
  269.             if (slot > 0 and depth > 0) :
  271.                 toneList.append(toneDir + tonenameUnit[depth] + tonenameSuffix[formatFlag])
  273.                 count += 1
  277.             depth = depth - 1
  279.        
  281.         if (i > 0):
  283.             toneList.append(toneDir + tonenameHunit[i - 1] + tonenameSuffix[formatFlag])
  285.             count += 1
  287.         i = i - 1
  291.     if (count == 0 and numb == 0):
  293.         toneList.append(toneDir + tonenameNumb[0] + tonenameSuffix[formatFlag])
  295.     if (deci >= 0.0001) :
  297.         toneList.append(toneDir + tonenameDot + tonenameSuffix[formatFlag])
  301.         deci ="{:.4f}".format(deci)
  303.         deci_tmp = str(deci).strip().rstrip('0')
  305.         deci_str = ''
  307.         got_dot = False
  309.         for j in range(len(deci_tmp)):
  311.             if(got_dot):
  313.                 deci_str = deci_str + deci_tmp[j]
  315.             elif deci_tmp[j] == '.':
  317.                 got_dot = True
  319.         deciArray = deci_str
  321.         for item in deciArray:
  323.             if (item >= '0' and item <= '9'):
  325.                 toneList.append(toneDir + tonenameNumb[int(item)] + tonenameSuffix[formatFlag])
  327.        
  329.     return toneList
  333. def do_voice_test():
  335.     """
  337.     @description  :
  339.     ---------
  341.     @param        :
  343.     -------
  345.     @Returns      :
  347.     -------
  349.     """
  355.     global on_request
  357.     global add_amount
  359.     global playlist
  361.     global on_play
  365.     # 请替换物联网平台申请到的产品和设备信息,可以参考文章:https://blog.csdn.net/HaaSTech/article/details/114360517
  367.     productSecret = "xxxxxxxx"
  369.     productKey = "xxxxxxx"
  371.     deviceName  =    "xxxxxxx"
  373.     deviceSecret  =   "xxxxxxxx"
  375.     # 初始化linkkit sdk
  377.     key_info = {
  379.         'region' : 'cn-shanghai' ,
  381.         'productKey': productKey ,
  383.         'deviceName': deviceName ,
  385.         'deviceSecret': deviceSecret ,
  387.         'productSecret': productSecret
  389.     }
  391.     device = iot.Device(key_info)
  393.     # 物联网平台连接成功的回调函数
  395.     def on_connect():
  399.         if AUDIO_ENABLED:
  401.             global player
  403.         global tonepathConnected
  405.         print('linkkit is connected ')
  407.         if AUDIO_ENABLED:
  409.             play(tonepathConnected)
  411.     device.on('connect',on_connect)
  415.     # 设置service 事件接收函数（本案例是千里传音）
  419.     def on_service(serviceid,request):
  421.         global on_request
  423.         global on_play
  425.        
  429.         print("serviceid is :" + serviceid)
  431.         print("request is :" + request)
  435.         data = json.loads(request)
  437.         if serviceid == "SpeechPost":
  439.             on_request = data
  441.             print('**********SpeechPost data *******' )
  443.             print(on_request)
  445.         elif serviceid == "SpeechBroadcast":
  447.             on_play = data
  449.             print('**********SpeechPost data *******' )
  451.             print(on_play)
  455.         else:
  457.             pass
  459.         print("on_service end")
  463.     device.on('service',on_service)
  465.     # 连接物联网平台
  467.     device.connect()
  471.     def download_resource_file(on_request):
  475.         client=http.client()
  479.         client.set_header("Accept: */*\r\n")
  481.         client.get(on_request['url'])
  485.         response = json.loads(client.get_response())
  487.         #print(response)
  489.         format = response['format']
  491.         size = response['size']
  493.         format = response['format']
  499.         audio = response['audios'][0]
  501.         id = audio['id']
  505.         path = '/sdcard/resource/'+id+'.'+format
  507.         print('************ begin to download: ' + path)
  511.         ret  = client.download(audio['url'],path)
  515.         if ret == 0 :
  517.             print('************ download: ' + path + ' succeed')
  519.         else:
  521.             print('************ download: ' + path + ' failed')
  523.    
  525.     def play_voice(data):
  529.         global toneDir
  531.         global tonenameSuffix
  533.         global playlist
  537.         format =  data['format']
  539.         audioResFormat = 0
  541.         if (format == 'mp3'):
  543.             audioResFormat = 1
  545.         speechs =  data['speechs']
  547.         print(type(speechs))
  549.         print(speechs)
  553.         toneList = []
  561.         for speech in speechs:
  563.             print(speech)
  565.             # length = len(speech)
  567.             if speech.endswith('}') and speech.startswith('{') and (speech[1] == '$'):
  569.                 speech_num = speech.strip('{').strip('$').strip('}')
  571.                 toneList = add_amount(speech_num,toneList,audioResFormat)
  573.             else:
  575.                 toneList.append(toneDir + speech + tonenameSuffix[audioResFormat])
  577.             print(toneList)
  579.         if AUDIO_ENABLED:
  581.             playlist(toneList)
  587.     # 触发linkit sdk持续处理server端信息
  589.     while(True):
  591.         device.do_yield(1000)
  593.         if  on_request:
  595.             print('***************************')
  597.             print(on_request)
  599.             download_resource_file(on_request)
  601.             on_request = False
  603.         elif on_play:
  605.             print('***************************')
  607.             print(on_play)
  609.             play_voice(on_play)
  611.             on_play = False
  613.     # 断开连接
  615.     device.close()
  617.     if AUDIO_ENABLED:
  619.         player.stop()
  621.         player.release()
  627. if __name__ == '__main__':
  629.     if AUDIO_ENABLED:
  631.         play(tonepathPowerOn)
  633.     do_voice_test()

以上是Python轻应用的主体代码，它的主要功能如下：

  1. 连接物联网平台
  2. 监听SpeechPost 服务，下载服务端推送过来的音频文件到 /sdcard/resource/
  3. 监听SpeechBroadcast服务，播放指定的音频

注意事项：

  1. 下载常用本地音频资源文件到/sdcard/resource目录 资源文件下载
  2. 请务必将代码中的

          PRODUCT_KEY = "xxxxxx"
          PRODUCT_SECRET = "xxxxxxx"
          DEVICE_NAME  =    "xxxxx"
          DEVICE_SECRET  =   "xxxxxx"
          替换成千里传音产品中相关信息

4、如何实现

4.1、固件烧录

请参考Python轻应用快速上手 中烧录相关章节。

4.2、轻应用运行

将物品软件清单中Python轻应用的代码保存为haas_speech.py,并拷贝到sdcard中，设备插入sdcard后重启
● 执行联网操作

python /data/python-apps/wifi/main.py your_ssid. your_password

● 执行haas_speech.py

python /sdcard/haas_speech.py

4.3、调试

4.3.1在线调试

  1. 打开在线调试并登录
  2. 如下如所示，选中SpeechByCombination,选择右侧服务器华东(上海)，设置我们需要发送的语音序列信息，数字请使用{$xxx} 进行表示，其它语音请以此按照千里传音后台的语料ID 进行配置，最后设置需要调试的设备DeviceName 和 ProductKey。HaaS轻应用(Python): 使用“千里传音“服务打造您的专属云喇叭
  3. 点击发起调试即可

4.3.2、SDK调试

  • 安装SDK核心库
pip install aliyun-python-sdk-core
  •       修改如下Python代码中的KeyID 和 Secret,并保存为SpeechByCombination.py
  1. #coding=utf-8
  5. from aliyunsdkcore.client import AcsClient
  7. from aliyunsdkcore.request import CommonRequest
  9. from aliyun_key import *
  11. client = AcsClient(accessKeyId, accessSecret, 'cn-shanghai')
  15. request = CommonRequest()
  17. request.set_accept_format('json')
  19. request.set_domain('iot.cn-shanghai.aliyuncs.com')
  21. request.set_method('POST')
  23. request.set_protocol_type('https') # https | http
  25. request.set_version('2018-01-20')
  27. request.set_action_name('SpeechByCombination')
  31. request.add_query_param('RegionId', "cn-shanghai")
  33. request.add_query_param('CombinationList.1', "welcome")
  35. # request.add_query_param('CombinationList.1', "zfbGet")
  37. # request.add_query_param('CombinationList.2', "{$10000.056}")
  39. # request.add_query_param('CombinationList.3', "yuan")
  41. request.add_query_param('ProductKey', "a1Ba4rCO9iM")
  43. request.add_query_param('DeviceName', "py_voice_01")
  47. response = client.do_action(request)
  49. # python2:  print(response)
  51. print(str(response, encoding = 'utf-8'))
  • 执行python  SpeechByCombination.py

技术交流

Python轻应用继承了Python易学易用的特点，同时提供了基于嵌入式硬件的基础库封装，让开发者可以很方便的通过交互式的环境，实时进行嵌入式开发，让嵌入式开发也变得简单方便。

欢迎使用钉钉扫码加入Python轻应用SVIP群：

HaaS轻应用(Python): 使用“千里传音“服务打造您的专属云喇叭

上一篇：阿里云新品发布会周刊第53期 丨 数据泄露的危害有多大？该怎么保护我们的数据信息安全


下一篇：系统自动重启的几大原因及解决办法