麻省理工学院提出环保人工智能培训方法来减少碳排放

去年，麻省大学阿姆赫斯特分校的研究人员说，训练一台大型人工智能机器平均产生的碳是一个人一生中驾驶汽车的五倍。此外，还有许多其他方面的能源消耗。因此，人工智能在未来如何实现可持续发展仍然是一个亟待解决的问题。

最近，麻省理工学院的一篇最新论文显示，它提出了一种比以前更环保的人工智能模型训练和运行系统。文章指出该方案被称为“一劳永逸”网络。它训练一个大模型，该模型由许多不同大小的预训练子模型组成。这些子模型可以为一系列平台定制，无需再培训。在推理过程中，每个子模型可以独立运行，无需再培训。系统根据与目标硬件的功率和速度限制相关的精度和延迟权衡来确定最佳子模型。

“渐进收缩”算法有效地训练大模型，同时支持所有子模型。首先，训练大模型，然后由大模型训练较小的子模型，以便它们可以同时学习。最后，支持所有子模型。

在实验中，研究人员发现，用他们的方法训练一个包含超过五分之一建筑环境的计算机视觉模型，最终比花几个小时训练每个子网络要有效得多。此外，它不影响模型——的准确性或效率。当使用ImageNet进行测试时，该模型在移动设备上实现了理想的准确性，并且在推理方面比领先的分类系统快1.5到2.6倍。

或许更令人印象深刻的是，研究人员声称，与今天流行的模型搜索技术相比，计算机视觉模型在训练中需要大约1/1300的碳排放。“如果人工智能要继续快速发展，我们需要减少它对环境的影响，”IBM研究员、麻省理工学院沃森人工智能实验室成员在谈到这项研究时说。