编程客栈（）3月17日 消息:高昂的 AI 训练成本一直是 AI 采用的障碍之一，阻碍了许多公司应用 AI 技术。根据2017年 Forrester 咨询报告，48% 的公司强调高昂的技术成本是没有采用人工智python能驱动解决方案的主要原因之一。

然而，根据最近发展趋势，AI 训练成本正在迅速下降，并且这一趋势有望在未来持续下去。根据ARK Invest Big Ideas2023报告，类似 GPT-3级别性能的大型语言模型的训练成本从2020年的460万美元暴跌至2022年的45万美元，每年下降70%。

下面我们进一步探讨人工智能训练成本下降的趋势，并讨论导致这种下降的因素。

【资料图】

AI 培训成本如何随时间变化?

根据最近的ARK Invest2020研究，训练深度学习模型的成本正快速提高。事实上，对于许多用例而言，与运行 AI 推理系统相关的费用已大幅降低到几乎可以忽略不计的水平。

此外，在过去几年中，培训成本每年下降十倍。例如，2017年，在公共云上训练像 ResNet-50这样的图像分类器的python成本约为1，000美元，但到2019年，成本已大幅下降至约10美元。

这些发现与OpenAI2020年的一份报告一致，该报告发现自2012年以来，训练人工智能模型执行相同任务所需的计算能力每16个月减少两倍。

此外，ARK 报告强调了人工智能训练成本的下降。该报告预测，到2030年，GPT-3级别模型的培训成本将编程客栈降至30美元，而2022年为45万美元。

随着 AI 技术的不断改进，训练 AI 模型变得更便宜、更容易，从而使它们更容易为更广泛的企android业所用。包括硬件和软件成本以及基于云的 AI 在内的几个因素导致了 AI 训练成本的下降。

让我们在下面探讨这些因素。

1、硬件

人工智能需要专门的高端昂贵硬件来处理大量数据和计算。NVIDIA、IBM 和 Google 等组织提供GPU和TPU来执行高性能计算 （HPC） 工作负载。高昂的硬件成本使得人工智能难以大规模普及。

然而，随着技术的进步，硬件成本正在降低。根据ARK Invest2023报告，预测 AI 相关计算单元 （RCU） 生产成本，即 AI 训练硬件成本每年应下降57%，导致到2030年 AI 训练成本降低70%，如下图所示。

2. 软件

通过提高效率和可扩展性，人工智能软件培训成本每年可降低47%。TensorFlow和PyTorch等软件框架使开发人员能够在分布式系统上以高性能训练复杂的深度学习模型，从而节省时间和资源。

此外，大型预训练模型（如Inceptionv3或ResNet）和迁移学习技术也有助于降低成本，因为它允许开发人员微调现有模型而不是从头开始训练。

3. 基于云的人工智能

基于云的 AI 训练通过按需提供可扩展的计算资源来降低成本。使用现收现付模式，企业只需为其计算资源付费。此外，云提供商还提供预构建的 AI 服务来加速 AI 训练。

例如，Azure 机器学习是一种基于云的预测分析服务，可以快速开发和实施模型。它提供灵活的计算资源和内存。用户可以快速扩展到数千个 GPU 以提高计算性能。它允许用户在预配置的 编程客栈AI 环境中通过 Web 浏览器工作，从而消除设置和安装开销。

下面我们继续探讨其它因素影响:

1. 大规模采用复杂的人工智能聊天机器人

由于人工智能成本下降，人工智能聊天机器人正在兴起。特别是在 OpenAI 的ChatGPT和GPT-4（生成式预训练变压器）开发之后，寻求开发具有类似或更好功能的 AI 聊天机器人的公司数量明显激增。

例如，在2022年11月发布五天后，ChatGPT 就积累了100万用户。尽管今天，大规模运行该模型的成本约为每次查询0.01美元，但赖特定律预测，到2030年，类似于 ChatGPT 的聊天机器人应用程序将可以大规模部署，成本要低得多（估计运行10亿次查询需要650美元），每天有可能处理85亿次搜索，相当于 Google 搜索。

2. 生成式人工智能的使用增加

人工智能培训成本的下降导致生成人工智能技术的开发和应用激增。到2022年，在引入创新的生成 AI 工具（例如 DALL-E2、Meta Make-A-Video 和 Stable Diffusion）的推动下，生成 AI 的使用显着增加。2023年，我们已经见证了 GPT-4形式的突破性模型。

除了图像和文本生成，生成式 AI 正在帮助开发人员编写代码。github Copilot 等程序可以帮助在一半时间内完成编码任务。

3.更好地使用训练数据

人工智能训练成本的降低有望更好地利用机器学习训练数据。例如，ARK Invest2023报告表明，到2030年，训练一个比GPT-3（175B个参数）多57倍参数和720倍token的模型的成本预计将从170亿美元下降到60万美元。

在这个低成本计算世界中，数据可用性和质量将是开发高级机器学习模型的主要限制因素。然而，训练模型将开发出处理估计162万亿单词或216万亿token的能力。