食品检测领域的大型语言模型FoodGPT：基于增量预训练与知识图谱的应用

内容概要：文章介绍了FoodGPT——首个面向食品检测的大型语言模型。考虑到食品检测领域的独特性质，即大部分专业知识以图像、扫描文档以及结构化数据形式存在而非传统的纯文本数据，研究人员并未简单地对基础模型做指令微调而是增加了增量预训练步骤。具体而言，他们运用光学字符识别(OCR)、BERT/GPT-2模型筛选以及自定义模板等方式对特殊格式的数据进行了处理，并引入随机文本生成技术以改善模型对于结构化知识的学习效果。同时，为了避免可能出现的机器幻象现象，团队额外构建了外部知识图谱支持系统，以确保食品测试相关数值预测结果的精准性。最后通过对在线社区获取的实际案例问答数据及由领域内权威人士指导产生的指令数据集合进行精细调整训练，完成了最终模型FoodGPT的构建。 适合人群：从事AI/机器学习方向的研究人员和技术从业者，尤其是关注食品安全与质量控制的专业人士；对大语言模型(Large Language Models, LLMs)有兴趣的研究学者。 使用场景及目标：FoodGPT旨在提高我国乃至全球范围内的食品安全生产水平，主要应用于快速筛查各类食品的安全隐患风险，帮助监管机构及时有效地做出决策判断，保障民众身体健康权益不受侵害。长远来看还可以辅助政府机关完善相关政策法规的制定，增强社会各界对于国家食品药品治理体系的信心。 其他说明：当前展示的技术报告为FoodGPT项目的预发行版本，在即将发布的后续工作中将提供更多关于具体实验参数设定、评估标准选择及其表现指标等方面的深入探讨资料供广大同仁共同交流讨论。