TEEAI Lab张嘉伟:利用闲置资源贡献算力,人人可以参与

火星财经·热度: 43705
如果不解决人工智能算力和成本问题,大众看到的多是比较浅显的应用。

8月15日,由火星财经(微信:hxcj24h)、光谷创业咖啡、Consensus Lab共识实验室共同主办的线下交流活动“火星财经中国行·长沙站”在长沙市高新区管委会举行。TEE AI Lab 美国加州实验室合伙人张嘉伟发表了主题为“TEE的AI,天生区块链”的演讲。


他表示,TEE利用闲置资源,人人可以参与贡献算力,TEE算力棒本身是AI硬件加速设备,TEE的算法自带博彩式的奖励机制。

他还表示,有了更大的算力后,可以让人们真正感受到人工智能。

以下为张嘉伟演讲全文:

人工智能现在是一个比较火的话题,很多人都在利用,比如谷歌做的阿尔法狗、无人驾驶汽车还有人脸识别等。

人工智能应用背后至少有四大块,包含算法、模型和数据等,利用大量数据训练模型,一轮接一轮训练之后模型不断优化,达到最后可用的落地应用。人脸识别就是用大量人的照片训练人脸识别模型,一轮接一轮训练之后,模型有能力识别人脸。

模型和数据方面,已经有很多成熟的大公司在做项目,比如Facebook等,也有很多小公司在做,都在解决这个问题,而且相当一部分人已经解决了这个问题,能够真正让这些模型可用,有数据跟大家进行开发,所以今天要解决的是算法的问题。

现在的算法是怎样解决的呢?最主要的是买一个CPU放在云端,租给开发者用。这种方法很好,可以快速获得GPU,但是不能让人工智能广泛落地,因为成本比较高。

每一款人工智能应用都需要算力的支持,最主要是在前期,也就是真正的人工智能应用可以使用之前。你需要进行训练,比如1万个人中每一个人都需要有强大算力的支持。目前真正使用的时候也需要算力,需要用模型给你输出结果,比如前期买1500万个CPU训练,这一套系统很贵,特别是GPU常常断货,整体来说GPU就是难买、贵、耗电。

但从计算问题细节上来讲,人工智能模型大部分需要训练四个小时甚至几个月时间,如果想租用,别人会限制GPU,很难把这些时间拿过来给你使用,而且如果用传统算法,每次任务中断需再分配任务,训练时间更长,整套设备搭建起来也需要一定的技术支持,至少需要知道一些人工智能指导整个平台怎么配置。即使有公司帮你全套做好也需要价格、功耗、GPU,所以这不是一个适用于普罗大众的方案。

如果不解决人工智能算力和成本问题,大众看到的多是比较浅显的应用,所以第一步要解决的是占比最大的问题。解决这个问题必须换一个角度思考,提出一个新问题,每个人家中都有手机,它其实也是计算机,包括机顶盒、智能家居、平板都是计算机。

早期的计算机有一间房大,现在不到巴掌大的手机都可以提供算力,但是大部分被浪费了。首先看机顶盒,一天看电视四个小时,实际上剩余20个小时都被浪费掉了,所以要做的是把十多种计算机算力整合起来。

我们现在做了一个平台,整合所有闲置算力资源,结合一套前沿性的算法,可以让算力贡献出来,为人工智能提供算力,最终落地并进入寻常百姓家。


这个图片就是我们的设备,体积跟U盘一样,身材小却拥有大算力。它是全球首款AI芯片的矿机,身材小巧、低能耗、低成本、算力强大,插入USB即可开始工作,整合所有资源进行算力分配、人工智能训练分配,并把人工智能训练的成果到平台,在平台上贡献算力也会得到奖励。算力棒价格是89美元、599人民币。

TEE算力棒的训练跟传统训练有几个不同,首先TEE算力棒可以接入手机设备、平板设备,可以利用更多终端。我们有一套前沿性算法,所有设备可以随时参与进来,想参与多久就参与多久,不像GPU需要整个过程都存在那里,所以更灵活,而且TEE算力棒随插随用,门槛限制很低,让菜市场老大爷都可以使用起来,让全民都可以参与AI训练。

TEE算力棒是什么呢?TEE算力棒的特点是特别专一,只做人工智能加速,想利用它打游戏、看视频也做不了。对比两款主流人工智能的训练GPU,GTX1080和GTX Titan XP,可以看到在价格跟算力上,TEE算力棒都完胜这样两个产品,原因就是我们专一,只做加速,所以可以得到更快、更便宜的结果。

人脸识别现在用的摄像机在GPU电脑进行整套推导,至少需要六千美元以上,TEE算力棒只要把算力棒插入上面,就可以完成整套解决方案,成本会更低。

整个训练算法一定要分布式、要去中心化。现在的主流算法是SGD,拥有局限性,因为SGD本身是串型算法,每次训练中当第一轮训练结束之后才能进行第二轮,而且整个过程中设备速度慢,会成为瓶颈。

现在腾讯、阿里做的分布式SGD算法也是把GPU插到主机,在同一个机房进行,甚至不敢楼上楼下进行,因为对整个网络很敏感,网线布局很讲究,无法跨物理空间进行大量部署。

我们做出了一套前沿性、开创性的算法MCMC,这本身是一个并行算法,计算能力与设备数量成线性增长,不需要计算梯度,完全可以忍耐延迟、单个单位不同的计算速度,只需要计算forward propagation。

这套算法是真正有效的,它首先是一个传统数学方法在AI训练上的再次使用,电子工程中解决电路板布线问题就是用的这个方法。我们不仅从数学上是可行的,也做了实验,实验收敛了等效VGG16的模型,正确率与GPU一致。

我们做的实验,VGG16模型,实际应用中比较复杂的模型,数量比较大,整个进行完之后正确率与GPU保持一致,在三个城市进行,100个TEE AI算力棒一起,证实了算法完全无视网络延迟、个体差异,算力持续与设备数量成线性增长。

我们的算法还有一个很有趣的特点,就是天生自带一种博彩式的奖励机制,对所有参与训练设备完全一视同仁,不会被GPU所压制。TEE算力棒可以以量取胜,比如说抽奖,大家都是公平的,一视同仁,我买的少也完全有可能中奖。

总结一下,我讲了四个部分。首先是利用闲置资源,人人可以参与;第二是TEE算力棒本身是AI硬件加速设备,MCMC算法AI训练算法天生区块链,自带博彩式的奖励机制。

因为综合了所有特点,并有博彩式奖励机制,我们不是为了计算而计算,而是为了人工智能提供训练算力。举个例子,有更大算力可以做什么?可以让人们真正感受到人工智能,因为现在大部分都被大公司掌握,他们有GPU和真正的服务器,但是我们全民参与的平台是人人可用的。

在闲置资源整合平台中,普通大众都可以感受到更深的人工智能。比如早上起床时,人工智能根据以前的起床习惯和今天的呼吸情况和状态,帮你在某一时间打开窗帘等等。谢谢大家!


本文为火星财经原创稿件,版权归火星财经所有,未经授权不得转载,转载须在文章标题后注明“文章来源:火星财经”,若违规转载,火星财经有权追究法律责任。

声明:本文为入驻“火星号”作者作品,不代表火星财经官方立场。
转载请联系网页底部:内容合作栏目,邮件进行授权。授权后转载时请注明出处、作者和本文链接。 未经许可擅自转载本站文章,将追究相关法律责任,侵权必究。
提示:投资有风险,入市须谨慎,本资讯不作为投资理财建议。
语音技术由科大讯飞提供
关键字:  中国行长沙站
最近更新
本文来源:火星财经
原文标题:
涨跌幅
排名币种成交额价格(USD)涨幅
您可能感兴趣的内容
暂无内容

评论0