商业
您现在的位置:首页 > 商业 > Nvidia打破了实时会话AI培训和推理的记录

Nvidia打破了实时会话AI培训和推理的记录

发布时间:2019/08/14 商业 浏览次数:7

 

Nvidia用于开发和运行能够理解和响应自然语言请求的会话AI的GPU驱动平台已经实现了一些关键的里程碑,打破了一些对任何基于其技术的人构成重大影响的记录 – 包括大小公司,以及他们用来实现这些进步的代码是开源的,用PyTorch编写并且易于运行。

Nvidia今天宣布的最大成就包括它在培训BERT方面取得了突破性进展,BERT是世界上最先进的AI语言模型之一,也是一种被广泛认为是自然语言处理的良好标准的最先进模型。 Nvidia的AI平台能够在不到一个小时的时间内训练模型,在仅仅53分钟就取得了破纪录的成就,然后训练有素的模型可以成功地推断(即实际应用通过培训实现的学习能力以实现结果)两毫秒(10毫秒被认为是业内的高水位),另一个记录。

Nvidia的突破不仅仅是吹嘘权利的原因 – 这些进步可以扩展并为使用NLP会话AI和GPU硬件的任何人提供实际利益。 Nvidia在一个SuperPOD系统上实现了创纪录的时间,该系统由92个运行1,472个V100 GPU的Nvidia DGX-2H系统组成,并对运行Nvidia TensorRT的Nvidia T4 GPU进行了推断 – 这甚至超过了性能高度优化的CPU数量级。但它正在提供BERT培训代码,而TensorRT通过GitHub优化BERT Sample以供所有人利用。

除了这些里程碑,Nvidia的研究部门还建立并培训了基于“变形金刚”的最大规模的语言模型,这也是BERT的基础技术。这个定制模型包含大量的83亿个参数,使其成为BERT-Large(当前最大的核心BERT模型)的24倍。 Nvidia谦虚地称这个模型为“威震天”,并提供了用于训练这个模型的PyTorch代码,以便其他人可以训练他们自己类似的,基于变形金刚的大型语言模型。

姓 名:
邮箱
留 言: