Large Language Models as Information Sources: Distinctive Characteristics and Types of Low-Qualit...

发布时间:2026/7/24 21:54:39
Large Language Models as Information Sources: Distinctive Characteristics and Types of Low-Qualit... 文章总结与翻译一、主要内容本文聚焦大型语言模型(LLMs)作为信息源时产生的低质量信息问题,核心围绕两个关键问题展开研究:LLMs会生成哪些类型的低质量信息?这些低质量信息与人类生成的同类信息相比有何独特性(且在部分情况下风险更高)?研究通过招募10名公共卫生专业人员和10名有相关生活经历的普通民众,围绕疫苗、阿片类药物使用障碍、亲密伴侣暴力三个关键公共卫生主题开展焦点小组讨论,结合反思性主题分析方法,得出两大核心成果:LLM生成低质量信息的类型学:涵盖虚假信息、危险建议、简化答案、关键信息遗漏、夸大表述、偏见性陈述、过时或非代表性结论、矛盾或混淆性陈述、信息优先级错误9类,突破了以往仅聚焦“事实不准确”的局限;LLMs相较于传统信息源的独特特征:包括基于概率生成且不理解内容、信息来源不可追溯、偏向通用用途(缺乏领域专业知识)、输出质量依赖训练数据、语言风格标准化且正式、依赖用户主动构建提示词、碎片化处理提示与问题解决、治理与公众教育滞后8点(部分特征因模型类型存在差异)。研究背景强调,低质量信息长期危害社会,而LLMs的生成式特性使其在信息生态中既成为高效信息获取工具,也可能放大信息乱象,其流畅性、权威性表象更易引发隐性且广泛的信息危害,亟需针对性研究与应对。二、创新点拓展低质量信息的概念边界:突破传统将低质量信息等同于“虚假信息”的认知,识别出遗漏关键信息、信息优先级错误、夸