2030年までに、1兆個のパラメータを持つLLMの推論コストが90％以上削減される、ガートナーが予想 － Publickey

このページは、ガートナーの予想を報じています。2030年までに、1兆個のパラメータを持つLLMの推論コストが2025年比で90％以上削減されると予想されています。半導体効率化、モデル設計革新、推論特化シリコン利用増加などにより実現見込みです。ただし、企業側のコスト削減に直結しない可能性があります。AIエージェント利用の拡大に伴い、より多くのトークン処理が必要となり、単価削減効果が相殺される恐れがあるためです。企業には、日常的タスクは小規模モデルで処理し、複雑処理のみ大規模モデルを活用することが推奨されています。