NVIDIA 发布 LLAMA3-8B 数据集, 应用在 自然语言处理、深度学习 领域

NVIDIA 本次发布的数据集 LLAMA3-8B, 该数据集被用于评估SP-Unified注意力模块在不同配置和序列长度下的性能表现。此外，该数据集还用于训练LLAMA3-8B模型，涵盖不同的序列长度和配置。它在展示SP-Unified方法相较于其他如SP-Ring等方法的优势方面发挥了重要作用。在大规模模型训练中，该数据集支持序列长度高达208K的性能基准测试任务。

查看LLAMA3-8B

README 内容： 

关于 NVIDIA , 英伟达是一家专注于图形处理器开发的全球知名技术公司。

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。