“书生·万卷”1.0目前包含文本数据集、图文数据集、视频数据集三部分，本次开源的数据总量超过2TB。集合语料数据联盟成员丰富的内容积累与上海AI实验室领先的数据处理能力等优势，“书生·万卷”将为学术界及产业界提供更符合主流中文价值对齐的高质量大模型多模态预训练语料。

　　“书生·万卷”链接：https://opendatalab.org.cn/WanJuan1.0（点击阅读原文直达）

　　跨界联合 共建宽领域语料库

　　数据是人工智能重要的基础设施，数据质量是决定大模型能力的关键因素之一。为促进大模型的科研创新、客观评估大模型技术产品水平及差距，推动大模型技术高质量发展，加速应用创新与行业落地，大模型语料数据联盟于7月6日世界人工智能大会开幕式上宣布成立，旨在通过链接模型训练、数据供给、学术研究、第三方服务等多方面机构，联合打造多知识、多模态、标准化的高质量语料数据，探索形成基于贡献、可持续运行的激励机制，力争打造国际化、开放型的大模型语料数据生态圈。

　　作为向全社会公开的高质量预训练数据，“书生·万卷”的开源发布将推动打破数据壁垒，助力大模型生态建设和创新应用。

　　本次开源的“书生·万卷”1.0包含文本、图文、视频三部分数据集。其中文本数据为来自网页、百科、书籍、专利、教材、考题等不同来源的清洗后预训练语料，数据总量超过5亿个文档，数据大小超过1TB，覆盖科技、文学、媒体、教育、法律等多个领域。图文数据主要来自公开网页，经处理后形成图文交错文档。文档总量超过2200万个，数据大小超过140GB（不含图片），覆盖新闻事件、人物、自然景观、社会生活等多个领域。视频数据主要来自中央广播电视总台和上海文广集团，包含新闻、影视等多种类型的节目影像，总计视频文件数超过1000个，数据大小超过900GB，内容覆盖军事、文艺、体育、自然、真实世界、知识、影像艺术、媒体、美食、历史、科教等方面。

　　精细处理 构建高质量预训练语料

　　高质量、大规模、安全可信的语料数据对于大语言模型的训练和性能提升至关重要。基于语料数据联盟构建的语料库，上海AI实验室对其中部分数据进行细粒度清洗、去重以及价值对齐，形成了高质量多模态预训练语料“书生·万卷”1.0，具备多元融合、精细处理、价值对齐、易用高效等四大特征。

　　在多元融合方面，“书生·万卷”1.0包含文本、图文、视频等多模态数据，范围覆盖科技、文学、媒体、教育、法律等多个领域，在训练提升模型知识含量、逻辑推理和泛化能力方面具有显著效果。

　　在精细处理方面，“书生·万卷”1.0经历了语言甄别、正文抽取、格式标准化、基于规则及模型的数据过滤与清洗、多尺度去重、数据质量评估等精细化数据处理环节，因而能更好地适配后续的模型预训练需求。

　　在价值对齐方面，研究人员在“书生·万卷”1.0的构建过程中，着眼于内容与中文主流价值观的对齐，通过算法与人工评估结合的方式，提升了语料的纯净度。

　　在易用高效方面，研究人员在“书生·万卷”1.0采用统一格式，并提供详细的字段说明和工具指导，使其兼顾了易用性和效率，可快速应用于语言、多模态等大模型预训练。

　　开源开放 进一步降低大模型门槛

　　今年7月6日，上海AI实验室正式发布全新升级的“书生通用大模型体系”，包括书生·多模态大模型、书生·浦语语言大模型和书生·天际实景三维大模型等三大基础模型，并且推出了书生·浦语开源体系（https://github.com/InternLM/InternLM），它不仅开放了一个高质量的语言大模型InternLM-7B，在多项主流评测中性能领先于Llama-2-7B，还提供了覆盖从数据、训练到评测的全链条开放体系。书生·浦语开源体系为企业提供免费商用许可，降低大模型应用门槛，全面赋能产业。

　　“书生·万卷”已被用于书生大模型预训练，其开源发布将进一步降低大模型技术探索和落地的门槛。

　　据了解，“书生·万卷”的主要构建团队——OpenDataLab旨在建设面向人工智能开发者的超大规模、高质量、多模态开放数据服务平台，致力于打造国内公开数据资源的基础建设。目前，该平台已建立共享的多模态数据集5500个，涵盖超过1万亿token文本语料、60亿张图像、8亿个视频片段和100万个3D模型。

　　高质量、多模态、宽领域的数据支持已成为当前人工智能大模型发展的重要基石，上海AI实验室将持续通过开源开放，与语料数据联盟伙伴一道，共建包容、开放、有序、共享的人工智能大生态。

　　大模型语料数据联盟

　　由上海人工智能实验室联合中央广播电视总台、人民网、国家气象中心、中国科学技术信息研究所、上海报业集团、上海文广集团等10家单位联合发起。为应对大模型发展对高质量、大规模、安全可信语料数据资源的需求，保障大模型科研攻关及相关产业生态发展，大模型语料数据联盟于2023年7月6日世界人工智能大会开幕式上宣布成立，旨在通过链接模型训练、数据供给、学术研究、第三方服务等多方面机构，联合打造多知识、多模态、标准化的高质量语料数据，探索形成基于贡献、可持续运行的激励机制，打造国际化、开放型的大模型语料数据生态圈。

来源：上海科技