早稻田大学 发布 VILA-jp 数据集, 应用在 视觉语言模型、日语本地化 领域

早稻田大学 本次发布的数据集 VILA-jp, VILA-jp是由早稻田大学和国立情报学研究所等机构创建的日本视觉语言模型数据集。该数据集包含660万对日语图像-文本对和600万条交错数据，用于预训练和指令调优。数据集通过从网络档案中提取和本地化数据创建，确保了图像与文本之间的高度对齐。创建过程中使用了OpenCLIP和ImageHash等技术进行图像去重和NSFW过滤。VILA-jp主要应用于视觉语言任务，旨在解决非英语语言（如日语）在视觉语言模型中的资源匮乏问题，提升模型的区域本地化和文化理解能力。

查看VILA-jp

Dataset card 内容： 

Files and versions 内容： 

关于 早稻田大学 , 早稻田大学是日本一所著名的私立大学，成立于1882年，位于东京都新宿区。该校以其在社会科学、人文科学、自然科学和工程学等领域的卓越研究和教育而闻名。

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。