・大規模なニューラルネットワークの開発また最適化には、最大284,000キログラムの二酸化炭素を排出する可能性があります。
・これは平均的な自動車の生涯排出量の5倍に相当します。
人工知能(AI)の分野は、最新の進歩により、大量のデータの大規模ネットワークの新時代を迎えました。これらのネットワークは、数種の基本的な自然言語処理(NLP)タスクに大幅な精度の向上をもたらしました。
特に、最もリソースを消費するモデルは最も高い排出量を示しています。しかしながら、そのようなモデルを開発することは膨大な量の計算資源を必要とし、かなりのエネルギーを消費してしまいます。
最近、マサチューセッツ大学アマースト校の研究者は、大きなニューラルネットワーク開発でのライフサイクルアセスメントを実施し、AIモデルからの二酸化炭素排出量を記述した論文を発表しました。
10年前、NLPモデルは従来のサーバーまたはラップトップで開発および最適化することができましたが、現在のものはそうではありません。今日、高精度モデルにはTPU(テンソル処理装置)またはGPUの複数のインスタンスが必要です。さらにモデルアーキテクチャとハイパーパラメータを使用した研究と実験により、ハードウェアコストがさらに上がりました。
このようなハードウェアに何週間も電源を繋
コメント