Nvidia打破了实时会话AI培训和推理的记录

 
Nvidia用于开发和运行能够理解和响应自然语言请求的会话AI的GPU驱动平台已经实现了一些关键的里程碑，打破了一些对任何基于其技术的人构成重大影响的记录 – 包括大小公司，以及他们用来实现这些进步的代码是开源的，用PyTorch编写并且易于运行。
Nvidia今天宣布的最大成就包括它在培训BERT方面取得了突破性进展，BERT是世界上最先进的AI语言模型之一，也是一种被广泛认为是自然语言处理的良好标准的最先进模型。 Nvidia的AI平台能够在不到一个小时的时间内训练模型，在仅仅53分钟就取得了破纪录的成就，然后训练有素的模型可以成功地推断(即实际应用通过培训实现的学习能力以实现结果)两毫秒(10毫秒被认为是业内的高水位)，另一个记录。
Nvidia的突破不仅仅是吹嘘权利的原因 – 这些进步可以扩展并为使用NLP会话AI和GPU硬件的任何人提供实际利益。 Nvidia在一个SuperPOD系统上实现了创纪录的时间，该系统由92个运行1,472个V100 GPU的Nvidia DGX-2H系统组成，并对运行Nvidia TensorRT的Nvidia T4 GPU进行了推断 – 这甚至超过了性能高度优化的CPU数量级。但它正在提供BERT培训代码，而TensorRT通过GitHub优化BERT Sample以供所有人利用。
除了这些里程碑，Nvidia的研究部门还建立并培训了基于“变形金刚”的最大规模的语言模型，这也是BERT的基础技术。这个定制模型包含大量的83亿个参数，使其成为BERT-Large(当前最大的核心BERT模型)的24倍。 Nvidia谦虚地称这个模型为“威震天”，并提供了用于训练这个模型的PyTorch代码，以便其他人可以训练他们自己类似的，基于变形金刚的大型语言模型。