微软发明的GPU和FPGA之间的数据传输方案
日期:2024-01-15 03:23:19   来源:数据传输类

  2018年5月,在Bulid大会上,微软宣布 Project Brainwave 开放预览,这是一种用于深度神经网络处理的架构,能够适用于Azure与边缘环境,并能让Azure成为实时运行人工智能最快的云平台。

  为什么微软要基于FPGA来进行AI芯片设计呢?这是因为当时微软的搜索引擎都是依靠CPU驱动,尽管英特尔等公司一直在改进CPU,但是这些芯片还是不能满足微软的需求。而此时恰好FPGA能弥补这个不足。

  图形处理单元(GPU)已经被用于图形应用许多年,近年来也被应用于其他例如图形处理、搜索以及其他一般的应用。虽然FPGA和GPU均可以被视为专用处理器,但是在某一些场合,如果FPGA与GPU之间能够直接进行通信以及任务的共享、转交,会更高效的完成任务,这也是基于FPGA设计人工智能芯片的重要设计的具体方案之一。

  为了实现FPGA与GPU之间的通信,微软在2013年8月16日申请了一项名为“GPU和FPGA组件之间的直接通信的方法和系统”的发明专利(申请号:1.6),申请人为微软技术许可有限责任公司。

  根据该专利目前公开的资料,让我们共同来看看这项FPGA与GPU之间的通信技术吧。

  如上图,为用于GPU和FPGA组件之间直接通信的系统框图,系统100包括存储计算机指令的存储器、中央处理单元(CPU)102、图形处理单元(GPU)104和现场可编程门阵列(FPGA)106,这些部件通过总线进行连接,传输数据包括经由PCIe交换机在GPU和FPGA之间直接传输数据。

  而要达到数据传输的目的,必然不可避免要对于数据在硬件中进行编址,也就是例如基于虚拟存储器存储的数据,被存储在不连续的块中的数据的物理地址中时,有必要进行地址编码。当数据在GPU与FPGA之间传输时,数据可以从FPGA的存储器传输到GPU中,由于采用了编址,因此也就不会发生数据错位、丢失等问题。

  在GPU和FPGA通信中,也分为直接通信和间接通信两种方式,首先我们来看看间接通信方式。

  如上图,为GPU和FPGA组件之间间接通信的系统示意图,如图所示,数据202经由GPU、快速PCI交换机、CPU和CPU存储器,在GPU存储器和FPGA存储器之间交换。这是一个间接的路径,由于在GPU和FPGA之间经过了CPU,因此也被称为GPU-CPU-FPGA传输。

  这种间接传输的方式,虽能保证数据在GPU和FPGA之间共享,但是由于数据经过了两次PCIe交换机并由于操作系统和CPU存储器硬件两者的等待时间加时,因此增加了通信等待时间和操作系统的开销。

  接着,我们来看看GPU和FPGA组件之间直接通信的流程图,如上图所示,首先要获取标识用于直接访问FPGA的存储器的地址的虚拟指针,例如FPGA驱动程序能生成标识用于直接访问FPGA中的存储器的地址的虚拟指针。

  之后就可以启动虚拟指针到与FPGA外部的GPU相关联的图形处理单元(GPU)驱动程序的传输,经过外部的总线接口,可以直接启动GPU与FPGA之间的数据传输,而无需作为中间操作来将数据存储在中央处理单元的存储器中。

  以上就是微软发明的GPU与FPGA之间的数据传输方案,在微软进行基于FPGA的人工智能芯片设计的过程中,FPGA担任着机器学习算法的主要硬件基础。这种在GPU与FPGA之间传输数据的技术,势必会加速人工智能芯片的发展以及加快深度学习技术的发展。

  据外媒报道, 微软 Windows 智能手机最知名的美国企业客户之一也准备放弃它了。这不禁让人开始质疑该公司的手机业务在未来还能走多远。下面就随手机便携小编共同来了解一下相关联的内容吧。 近日有报道称,纽约警察局准备放弃使用3.6万部搭载 Windows  Phone OS的诺基亚手机。 在2017年7月, 微软 放弃了支持 Windows  Mobile 8.1操作系统。但是,纽约警察局购买的两款手机——诺基亚Lumia 640XL和Lumia 830——均可以升级到Windows 10 Mobile。(但是,在这两款手机中,只有更新的Lumia 640XL手机有资格升级到即将推出的Fall Windows 10 Mo

  微软 今天官方宣布了新一代服务器操作系统“ Windows  Server 2019”,将在2018年下半年正式对外发布,目前慢慢的开始通过Insider渠道进行内测。下面就随嵌入式小编共同来了解一下相关联的内容吧。 微软 表示, Windows  Server 2019基于现有的 Windows  Server 2016开发而来,后者是迄今为止普及速度最快的服务器系统。 Windows Server 2016和桌面上的Windows 10同宗同源,2016年10月份才正式对外发布,距今不到一年半时间,如此看来Windows Server 2019就像是之前的多个R2版本,属于一次迭代升级版,内核不会有太大变化。 Win

  11月22日消息,据美国科技博客TheNextWeb报道,亚马逊在中国大陆推出Kindle的计划已经暂缓。此前还有新闻媒体报道称,亚马逊的中文版CloudDrive云计算服务在中国的发布也被推迟,该服务也是Kindle在中国发布的关键前提。 亚马逊并未正式公开宣布Kindle将在中国大陆发布,但近期的种种迹象显示,该公司的确准备部署这一战略。但有知情人士称,虽然处于筹备阶段,但亚马逊却暂停了CloudDrive在中国大陆地区的推出时间,导致Kindle的发布也被推后。 一名知情人士称,由于Kindle非常依赖CloudDrive来提供服务和获取收入,因此Kindle的发布也会受一定的影响。 此前有报道称,亚马逊已经改变了计划

  行业领导者打破藩篱,使研发人员能够轻松地在 Windows 11 上训练并部署先进的 AI 模型,并在配备 RTX 的 PC 和工作站上提供节能的推理。 生成式 AI,以 ChatGPT 等大型语言模型(LLM)应用、Stable Diffusion 和 Adobe Firefly 等图片生成器,以及 NVIDIA DLSS 3 Frame Generation(DLSS 3 帧生成技术)等游戏渲染技术为代表,正在迅速为生产力、内容创作、游戏等开创计算的新时代。 在微软Build 开发者大会上,NVIDIA 和微软展示了一系列搭载 NVIDIA RTX GPU 的 Windows 11 PC 和工作站的先进技术,

  ,在生成式 AI 的新时代推动 Windows PC 创新 /

  IT之家 4 月 16 日消息,一个名为“爱奇艺 Preview”的软件此前在 GitHub 被曝光,根据IT之家小伙伴的发现,该应用已经上架微软 Win11 应用商店。 据应用介绍,爱奇艺 Windows App 是专为 Windows 11 用户倾力打造的一款视频娱乐客户端。当前为 Preview 版,有几率存在功能不完整或性能不稳定。不支持 Windows 10 S 操作系统。 IT之家测试,爱奇艺 Preview 目前的版本为 6.0 版,是继承之前的爱奇艺 UWP。根据官方更新日志,6.0 版本的功能如下: 全新设计,包含完整的电影、电视剧、综艺、动漫、儿童、纪录片等在线视频检索能力,播放器右侧包含更细

  Win11应用商店:全新WinUI 3版本,软件界面大变 /

  微软 Exchange 服务器无法正确解析 2022 年的新日期,导致出现了无法处理邮件的问题,被用户调侃为“2022 版千年虫”。 FIP-FS 扫描引擎加载失败 – 无法将“2201010001”转换为 long (2022/01/01 00:00 UTC) 根据挪威公司 Sopra Steria 经理 Marius Sandbu 发布的报告,因为微软使用了 signed int32 作为日期格式,结果 2201010001 超过了 long int 的最大值 2147483647。 (“千年虫”是指由于部分计算机程序只采用两位十进制数表示年份,在跨世纪时就会出现错误。) 微软现已发布了针对该问题的修复

  新浪手机讯 11月21日上午消息, 《时代》杂志近期公布了他们评选出的2017年十大电子科技类产品,任天堂Switch游戏机排名第一,iPhone X位列第二名,Apple Watch则是上榜的唯一可穿戴设备。 这份榜单涵盖手机,智能手表,游戏机,相机等品类,几乎涵盖宅男们所有的梦想产品。 第一名 任天堂Switch 任天堂Switch游戏机 你很难定义这款游戏机是“家用”还是“手持”,因为它可拿在手上玩,还可以拆下手柄接到电视上大屏游戏。任天堂在它上面结合了自己的优秀大IP们,从超级马里奥到塞尔达传说,有趣的设计和游戏体验迷倒不少人。 第二名 iPhone X 苹果iPhone X 确实很贵的手机,但是很抢

  生成式人工智能如何变革未来工作方式:Orange Business对Microsoft 365 Copilot的早期洞察 自2022年11月 OpenAI 向公众开放 ChatGPT 以来, 生成式人工智能 一时间成为了热点话题。从那以后,几乎每家企业都在思考:它对我们有啥好处?它会对我们的工作方式、客户体验和运营带来什么改变?可见,将生成式人工智能的力量运用到工作场景的角力已然开始,而其中的另一个关键进展是Microsoft(微软)已正式公开宣布将推出 Microsoft 365 Copilot 供大众使用。 Orange 是参与 Microsoft 365 Copilot抢先体验计划的全球企业之一 。Microsoft

  365 Copilot的早期洞察 /

  深度学习训练营:21天实战TensorFlow+Keras+scikit-learn (张强)

  直播回放 : Microchip 通过 TrustFlex 安全元件和 Microsoft Azure 实现安全身份验证

  直播回放 : Azure Sphere 助力稳定,安全和灵活的物联网解决方案

  ADI世健工业嘉年华——深度体验:ADI伺服电机控制方案

  解锁【W5500-EVB-Pico】,探秘以太网底层,得捷电子Follow me第4期来袭!

  OPPO,锐思智芯,高通三方携手,一同推动智能手机影像AI Motion变革

  美国拉斯维加斯,2024年1月11日 锐思智芯携手OPPO、高通,共同合作推动创新性融合视觉传感(Hybrid Vision Sensing, HVS®)技术在智能 ...

  赋能旗舰级智能手机主摄应用,思特威推出全新5000万像素1/1.28英寸图像传感器SC580XS

  2024年1月11日,中国上海 思特威(上海)电子科技股份有限公司,重磅推出其首颗5000万像素1 1 28英寸图像传感器新品SC580XS。此款 ...

  为客户提供增强的兼容性、成本效益并加速其智能手表产品的上市时间2024年1月9日,美国拉斯维加斯芯原股份今日宣布专注于提供图形用户界 ...

  谷歌宣布与三星合作推出安卓系统统一的 Quick Share 附近共享应用

  1 月 10 日消息,谷歌今天在 CES 上推出了大量新功能,并宣布与三星合作开发全新 Quick Share,旨在取代 2020 年推出的 Google ...

  加速度的全新维度:博世推出全球最小的可穿戴和耳穿戴设备用 MEMS 加速计

  易于集成,具有语音活动检测功能全球最小尺寸的 MEMS 加速计:1 2 x 0 8 x 0 55 mm³语音活动检测功能可为耳穿戴设备节省电量,并延 ...

  汇顶科技两款芯片助力OPPO Find X7封神,实现移动安全与音频新体验

  WiFi联盟选择MaxLinear用于Wi-Fi 6Release 2测试床

  智己汽车:当电子电气架构迭代至中央集成式,如何布局其信息安全和功能安全?

  钠离子电池正式上车,钠电池时代线:安波福多域融合计算平台,颠覆汽车智能化?

  选修有礼:Keysisht“测试测量”系列12节新课程,炎夏预约开启~

  邀您观看 微信直播:户外照明智能互连解决方案 让TE连接光明与智能未来

  免费申请英飞凌FMCW雷达解决方案Position2Go,角度,距离,速度,运动方向检测一板搞定!

  有奖直播|贝能国际推出基于英飞凌技术的毫米波雷达模组,完美解决PIR市场痛点

  面板/显示存储技术电源管理音频/视频嵌入式软件/协议接口/其它便携/移动产品综合资讯论坛惊奇科技词云: