密歇根大学 本次发布的数据集 ML.ENERGY Benchmark, ML.ENERGY Benchmark是一个用于测量生成式AI模型在真实服务环境中的推理能耗的工具和数据集。该数据集由密歇根大学的研究团队创建,旨在帮助理解和优化生成式AI服务的能耗。数据集包含了40种广泛使用的模型架构在6个不同任务中的能耗测量结果,并提供了自动化优化建议,可以在不改变模型计算内容的情况下实现显著的能耗节约。该数据集是开源的,可以轻松扩展到各种定制模型和应用场景。
README 内容:
关于 密歇根大学 , 密歇根大学是一所位于美国密歇根州的著名公立研究型大学,以其在商学、工程和医学等领域的卓越教育和研究实力享誉全球。
关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库,涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。





_1769672084863.jpg)