谷歌 发布 One Billion Word Benchmark 数据集, 应用在 自然语言处理、语言模型评估 领域

谷歌 本次发布的数据集 One Billion Word Benchmark, One Billion Word Benchmark是由谷歌创建的大型语言模型评估数据集，包含约8.29亿个词条。该数据集通过从WMT11网站获取的文本数据经过去重、分词和随机排序等处理步骤构建而成。数据集主要用于评估和比较不同统计语言建模技术的效果，特别是在自动语音识别和机器翻译等领域的应用。

查看One Billion Word Benchmark

关于 谷歌 , 谷歌是全球知名的科技公司，专注于互联网服务和产品。

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。