国立情报学研究所 发布 AnswerCarefully 数据集, 应用在 自然语言处理、安全性评估 领域

国立情报学研究所 本次发布的数据集 AnswerCarefully, AnswerCarefully数据集由日本国立情报学研究所开发，旨在提升日语LLM输出的安全性。数据集包含1800对问题及其参考答案，涉及广泛的风险类别，旨在通过人工收集和参考答案的提供，促进LLM的安全微调。数据集不仅有助于提高LLM回答问题的安全性，也方便了自动评估LLM输出安全性的准确性。该数据集为日语LLM的安全评估提供了基准，有助于解决日语LLM在文化背景下的安全性问题。

查看AnswerCarefully

关于 国立情报学研究所 , 国立情报学研究所（NII）是日本的一家国家级研究机构，专注于信息科学和技术的研究与开发。NII致力于推动信息技术的创新，支持学术研究，并为政府和企业提供信息服务。

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。