百度AI快车道深圳开讲 解读端侧推理引擎飞桨Paddle Lite2.0
如今 手机中的AI功能越来越普遍。试问谁手机里没装着几个修图软件?识别人像 抠图 换背景一气呵成 “小白”也能瞬间化身“PS大神”;还有种种AR黑科技 例如地图实景导航 可谓是“小路痴们”的福音。这些让生活更加便利的应用背后 离不开让AI能力快速部署到硬件设备的重要工具——端侧推理引擎。百度飞桨Paddle Lite能够提供一套功能完整 易用 高性能面向终端和边缘设备的端侧推理引擎 方便广大开发者将应用部署到任何端侧设备之上。
11月5日 飞桨Paddle Lite 2.0 在Wave Summit+深度学习开发者秋季峰会上正式发布 其具备打通端到端部署全流程的能力 进一步提升易用性 并拥有广泛的硬件支持 预测性能全面领先 INT8 量化性能亮眼 备受业界关注。11月16日 百度AI快车道——企业深度学习实战营来到硬件企业云集的深圳 与当地开发者一起分享和体验了飞桨Paddle Lite在实际业务中的应用。
百度多位技术大咖在本次活动中担任讲师 详细解读了飞桨 Paddle Lite 及其相关的服务工具EasyEdge 硬件产品EdgeBoard的技术特点 使用方法和相关应用。据介绍 Paddle Lite是飞桨产品栈中用于端侧高性能轻量化AI应用部署的推理引擎 核心用途是将训练出的模型在不同硬件平台场景下快速部署 根据输入数据 执行预测推理得到计算结果 支持实际的业务应用。而EasyEdge则是基于Paddle Lite的端计算模型生成平台 把设备兼容等问题进行了封装 开发者可以非常便捷地进行模型转换 部署到多种硬件上快速开发。EdgeBoard则是百度大脑面向嵌入式与边缘部署场景打造的FPGA硬件解决方案 包括多款计算卡 计算盒 抓拍机等系列硬件及软硬一体定制服务。
在实战课中 讲师带来了基于Paddle Lite 的移动端目标检测部署和模型在端上部署的实践课内容。移动端目标检测部署的案例是在手机端识别小动物或日常物品 不少学员都顺利完成 而在Edgeboard上的部署案例更是让现场学员“玩得不亦乐乎”。胡萝卜 茄子 西红柿等一兜兜蔬菜被搬上课桌 学员跟随导师一起动手完成在EdgeBoard计算卡上部署蔬菜识别模型的任务。学员们三四个人围坐在一起 有人负责模型搭建 有人负责EdgeBoard计算卡与显示屏 摄像头等硬件设备的调试 经过团队协作短短10分钟 将摄像头对准蔬菜 电脑屏幕上立即显示出蔬菜的名称 单人操作半小时即可完成整个过程。即使蔬菜外面套有塑料袋 模拟日常买菜时的自助结算场景 模型也可以准确的识别蔬菜名称。学员们纷纷表示：“Paddle Lite用起来很顺 部署很快。” “平台搭建起来很方便 还挺成熟的。”
据了解 集成了蔬菜识别模型的EdgeBoard具备高性能 低成本 使用简单等三大优点 支持多模型 高精模型部署 同时支持模型可擦写升级 提供丰富的开发资源 并支持硬件定制 十分适用于智能硬件打造和AI项目部署。EdgeBoard可无缝兼容百度大脑丰富的模型与工具资源 现已上架至百度AI市场 工业中的质检分拣机器人 零售中的自助电子秤等都是应用EdgeBoard的典型案例。
活动现场 学员们始终保持着极高的热情 伴随着课程内容的逐步推进 实际操作中疑问点被抛出 被讨论 被解决。谈到此次课程 一位从事出境游产品研发的学员表示：“在AI落地的情况下 需要很多应用部署 包括各种设备的兼容性 适配性方面 听了这次课后觉得百度在这方面确实做得比较好的 ”具体来说 他谈到 “比如在模型裁剪方面 我们自己本身也在摸索 今天听到百度已经做出了开源工具可以直接使用 对开发者而言比较友好。”
百度 AI 快车道企业深度学习实战营是百度依托自身深厚的深度学习技术实践经验 面向有 AI 技术需求企业的算法工程师 架构师群体提供的快速应用扶持计划。计划的学习内容囊括了10套工程实施与深度学习技术落地结合的详细方案 覆盖百度领先的AI技术和业务应用场景的深入剖析 如OCR 精密仪器质检 推荐排序经典场景 遥感图像处理等;源于百度业务实践的深度学习平台飞桨的性能优势 模型优势 生态优势的解读;百度自研和顶级学术会议魁首算法 预训练模型的详细介绍 还有与案例和算法紧密相扣的在线实验 并以“短平快”的课程 进行业务问题定位 框架及算法的快速应用培训 为更多企业带去深度学习技术和经验分享。
此外 AI快车道将持续为开发者准备深度学习技术的干货解析与实战演练。下一站将带着百度自研的持续学习语义理解框架——百度艾尼(ERNIE)前往上海 在11月23日 为当地开发者带去一场极具水准的AI知识与实战课堂。课程将围绕持续学习语义理解框架ERNIE的详解和实战进行 并且新增了11月5日最新发布的ERNIE开发套件介绍。百度的明星讲师将通过原理详解 现场实践和交流环节 让开发者得以快速上手 使用ERNIE 解决实际问题。(活动详情详见下方流程图 也可以关注微信公众号“飞桨PaddlePaddle”查看相关的活动文章参与报名)
看到这里 是不是有些后悔错过了这次百度AI快车道的活动?不用担心 对于想要重温课程内容 或无法到达现场的开发者们 可以进入“IT大咖说”网站后搜索“AI快车道”收看活动视频。关注百度飞桨官网https://www.paddlepaddle.org.cn 微信公众号"飞桨PaddlePaddle" 如果使用过程中遇到任何问题 大家可通过Paddle Lite官方QQ群与开发人员进行技术交流及问题反馈 ,下次课堂期待有你的参与。
