乔治亚理工学院 发布 MSQA 数据集, 应用在 材料科学、自然语言处理 领域

乔治亚理工学院 本次发布的数据集 MSQA, MSQA是一个用于评估大型语言模型（LLMs）在材料科学领域的知识推理和复杂推理能力的综合评估基准。该数据集包含1757个研究生级别的材料科学问题，分为详细解释性回答和二元真/假评估两种格式。MSQA通过要求LLMs在七个材料科学子领域中同时具备精确的事实知识和多步推理能力来挑战它们。通过使用10种最先进的LLMs进行实验，我们发现当前LLMs在性能上存在显著差距。MSQA代表了第一个联合评估LLMs的事实和推理能力的基准，这对于高级材料科学中的LLMs至关重要。

查看MSQA

README 内容： 

关于 乔治亚理工学院 , 乔治亚理工学院（Georgia Tech）是一所位于美国乔治亚州亚特兰大的著名公立研究型大学，以其在工程、计算机科学和科技领域的卓越教育和研究而闻名。

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。