本次发布的数据集 OPT 1.3b and Mistral 7b, 该数据集深入分析了神经元消融方法在转换器模型上的应用,特别关注了不同消融技术对模型性能的影响。其中包含了多种消融方法的结果,如零消融、均值消融、峰值消融以及随机重采样等。数据集对多种转换器模型进行了评估,包括OPT 1.3b、Mistral 7b和RoBERTa,其任务旨在对语言模型中的消融方法性能进行评估。
关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库,涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。





_1769672084863.jpg)