为什么 AI 需要消耗如此多的能量?

2020年12月31日 | By News | Filed in: News.

https://ift.tt/38GUtaQ

AI 是一种计算密集型任务,据估算,训练一个 AI 模型所产生的碳足迹与制造五辆汽车并在其整个寿命期内所产生的碳足迹相当。为什么 AI 需要消耗如此多的能量?传统的数据处理工作在数据中心内完成,如视频串流、电子邮件和社交媒体。AI 对计算要求更高,它需要阅读大量的数据直到它能理解,也就是它被训练了。相比人类的学习 AI 的训练是非常低效的。现代 AI 使用人工神经网络,模拟人脑神经元的数学计算。神经元之间的连接强度是被称为权值的网络参数。一开始网络的权值是任意的,会一直进行调整直到输出结果与正确答案相同。训练一个语言网络的常用方法是输入大量的文本,将部分文字掩盖起来,让它猜出掩盖的文字。一开始模型产生的答案是错误的,但在多轮的调整之后,改变后的连接权值开始识别数据中的模式,网络最终变得很精确。最近出现的一个语言模型叫 Bidirectional Encoder Representations from Transformers (BERT),它使用了来自维基百科和英语书籍中的 33 亿个字进行训练,BERT 用数据集训练的次数不是一次,而是 40 次。一名普通儿童学会讲话只需要在 5 岁前听到 4500 万字,其数据是 BERT 的三千分之一。

IT.数码

via Solidot https://www.solidot.org

December 31, 2020 at 10:54AM


发表评论

电子邮件地址不会被公开。 必填项已用*标注