破解大模型“幻觉”，云测数据发布行业大模型AI数据解决方案

作为人工智能发展的重要方向,大模型具有效果好、泛化性强、研发流程标准化的特点,为人工智能的进一步发展带来全新机遇。

当前,大模型发展百花齐放,深度赋能千行百业,但其在产业化过程中仍面临诸多挑战。其中,如何高效获取和有效使用垂直行业的数据是核心。

在2023年中国国际服务贸易交易会上,云测数据结合自身在智能驾驶、智慧金融、AIOT、电商等领域的丰富经验和技术积累,将去年发布的“AI工程化的数据解决方案”全面升级,面向垂直行业大模型提供全生命周期的AI数据解决方案,为大模型应用落地提供关键支撑,助力行业大模型高质量发展。

高质量数据破解大模型“幻觉”

大模型的研发离不开算法、算力和数据的综合支撑。近两年,受益于三者的快速发展,AI大模型进入爆发式增长。其中,数据是推动大模型高质量发展的关键。

“大模型的预训练对数据要求特别高,必须在前期进行清洗、标注、标识,但围绕千行百业的数据训练,在数据供给方面也呈现出了许多问题和挑战。” 上海数据交易所副总经理韦志林在媒体采访时提到。

近期,大模型“幻觉”也被各大科技企业频繁提及。大模型“幻觉”指模型生成不正确、无意义或不真实文本的现象,这也常被人们称为是“一本正经地胡说八道”。

“幻觉”问题的出现和大模型核心技术原理有关,即Transformer架构下的Next Token Prediction,即“下一个字符的预测”。因此,提高数据的数量、质量和多样性,对于大模型提高性能至关重要。“以数据为中心”,成为越来越多业内人士的共识。

当前,各家大模型在算力和算法方面尚且无法拉开巨大差距,这让“数据”成为各家企业杀出“百模大战”重围的关键之战。

深定制数据解决方案,助力获取高价值AI数据

就在刚刚结束的2023年服贸会成果发布上,云测数据全新公布了旗下AI数据解决方案,致力于通过场景化的数据服务行业,为人工智能企业和用户提供基础数据集、数据标注和数据管理工具链,进一步提升算法精度。

据介绍,该AI数据解决方案可为行业大模型提供从持续预训练、任务微调、评测联调测试到应用发布,全生命周期的高质高效数据,帮助垂直行业企业更好地落地大模型相关算法应用。

作为拥有面向行业场景数据采集能力和丰富数据集积累的数据服务商,云测数据可以为行业客户深度定制数据采集方案,助力获取高价值场景化数据。

当面对微调任务时,可以根据大模型落地场景特点,提供包含QA-instruct、prompt等文本类任务项目和多模态大模型的相关能力支持。微调后,云测数据通过垂直领域专家积累+评测体系和服务,帮助企业评估各个垂直应用落地领域。通过以集成数据底座为核心的数据标注平台,将难例数据回流完成清洗标注,为更有效率的模型调优做准备。

在机器学习、自然语言处理和其他人工智能领域中,难例数据常指模型训练和测试中难以逾越的障碍,需要特别关注和解决。常见的难例数据包括拼写错误、语法错误、不完整或冗余的信息、歧义性和模糊性等。

目前,云测数据深度合作伙伴覆盖了多个行业,包括汽车、安防、手机、家居、金融、教育、新零售、生态系统等。其中,包含多家世界500强企业、高校科研机构、政府机构、头部AI企业和大型互联网企业。