使用 NGC 可数构建和部署口罩检测应用程序

采用 NGC 紧密结合和调动墨镜探测客户端

AI 指导工作时序很复杂。紧密结合一个 AI 客户端不是一项简单的执行，因为它须要各种具有领域专业知识的各种个人利益之外者来大规模开发和调动客户端。信息科学家和开发人员须要难于地回访软体紧密结合块，例如数学方法和桶内，它们不仅安全、更高性能，而且具有紧密结合其 AI 数学方法所须的皓端。

在紧密结合完客户端之后，DevOps 和 IT 技术人员须要一些方法，这些方法可以帮助他们在各种器材之间无缝地调动和管理这些客户端，包含本地器材、皓器材或边缘器材。

NVIDIA 紧密结合了 NGC 附录，通过提供难于回访的 GPU 建模软体，例如桶内、预先基础训练的数学方法、应用框架和紧密结合 AI 客户端所须的 Helm 图片，来比较简单和加速 AI 指导工作时序。

在这序言中会，我们将展现如何采用 NGC 附录和它的连锁反应心底层特性，例如闭包、NGC 私有载入和 AI 紧密结合块来紧密结合和调动一个墨镜探测客户端，作为一个下述，该下述展现了 development-to-deployment 管道。

比较简单用户旅程

随着 NGC 的推出，NVIDIA 比较简单了整个用户体验，并将所须的之外桶内、数学方法、代码和 Helm 图片集中会在一个大都，而无须在附录中会有别于和协调各种独立的紧密结合块。

您可以找到针对特定执行的指导工作增益的 NGC 闭包，如自动口语识别或图像分类，以及金融业 SDK，例如 NVIDIA Clara 或迁移学习 (TLT)。如果您期盼紧密结合一个用于对象探测的客户端，那么在附录中会抓取该闭包，您将在一个大都找到所有之外资本。

采用 NVIDIA TF32 Tensor Cores 加速 AI 基础训练

NVIDIA Ampere GPU 体系结构引入了第三代 Tensor Cores，以及新的TensorFloat32 (TF32) 模式加速 FP32 线性和行列式乘积。TF32 模式是AmpereGPU 体系结构上 32 位常量的 AI 基础训练的默认选项。它为单准确性DL指导工作增益带来了 Tensor Core 加速，而不须要对数学方法分镜进行任何更改。

采用本机16 位格式 (FP16/BF16) 的混合准确性基础训练依然是快的考虑，只须要数学方法分镜中会的几行代码。表1显示了与 FP32 CUDA 连锁反应比起，A100Tensor Cores 的数学处理量。许多人指出的是，对于单准确性基础训练，A100 提供的数学处理量比上新一代基础训练GPU V100 更高 10 倍。

实质上构造

TF32 是 GPU 体系结构 Ampere 新一代 Tensor Core 中会新增的一种新的量度模式。点积量度，它构成了行列式乘积和线性的紧密结合块，将 FP32 的输入轮化到 TF32，在不财产损失准确性的情况量度其产品，然后将这些其产品积累到 FP32 输出中会。

TF32 只是作为 Tensor Core 操作模式公开，而不是一个特性。内存中会的所有加载和其他操作完全保留在 FP32 中会，只有线性和行列式乘积在乘积以后将它们的输入类比为 TF32。无论如何，16位特性提供加载、各种数算符等等。