第266章 先睡了（2 / 2）
最后是将各个途径获取到的文献数据和元数据汇总，进行数据预处理。
采集到的数据需经过清洗和预处理，才能用于后续的分析。
数据预处理的步骤包括：
数据清洗：删除重复的记录，校正错误的数据格式，填补缺失值。
数据整合：将来自不同来源的数据整合到一个统一的格式和数据库中，如表3.1所示，以便进
为了使后续知识库生成更加准确与完善，对文献具体内容进行筛选。例如部分文献中并未提到
所用数据，而是指出所用数据库链接，如图3.3所示，在对该篇文献进行解析后，数据部分就是欠
缺的，最终构建的知识库就不完整，在调用大模型回答相关问题时，极大概率产生幻觉。因此为了
构建更为准确的专业模型，对爬取下来的507篇文献进行筛选，选择包括流程图（syste
boundaries）、各单元过程或生产环节的投入（put），产出（output），数据（），以及数据的时间、地点、获取方法、技术细节的文献作为最后应用的数据。核对内容
后的文献数据集共98篇英文文献。
数据预处理
Unstructured库是一个强大的工具，专为处理非结构化数据设计，具体流程如图3.7所示，
如从文本文档、PDF文件或网页中提取数据。它支持多种数据提取方法，包括正则表达式匹配、自
然语言处理（NLP）技术等。
数据预处理步骤如下：
步骤一：数据清洗
去除杂质：从文本中去除无关的字符，如特殊符号、空白行等。
格式统一：将所有文本统一为相同的编码格式，通常为UTF-8，以避免编码错误。
语言标准化：统一不同术语的使用，例如将所有"photovoltaic"统一替换为"PV"，确保术语的
一致性。
步骤二：信息提取
关键信息标识：标识文献中的关键信息，如研究方法、主要结论、实验条件等。
数据分类：根据信息类型将数据分类，如作者、出版年份、研究结果等。
步骤三：结构化转换
结构化处理：将信息精细化拆解与清洗，将各种元素进行转换，形成结构化数据形式，拆分成
非结构化文本数据通常非常稀疏，即包含大量的词汇但每个文档只使用其中的一小部分。而结
构化数据则可以通过合并相似信息来降低数据的稀疏性，这有助于生成更加紧凑和有效的嵌入向
量。
结构化数据可以实现更高效的特征提取。结构化数据通常已经按照特定的模式或结构进行了组
织，这使得我们可以更加高效地从中提取有用的特征（如标题、作者、摘要、关键词等）。这些特
征可以作为后续的输入，帮助生成具有更强区分性和泛化能力的嵌入向量。结构化数据
中的元素（如主题、类别、属性等）通常具有明确的含义，这些含义可以在过程中被保
留下来。因此，基于结构化数据的嵌入向量往往具有更强的解释性，有助于我们更好地理解模型的
预测结果和内部机制。最近转码严重，让我们更有动力，更新更快，麻烦你动动小手退出阅读模式。谢谢
↑返回顶部↑