南北阁Nanbeige 4.1-3B实战入门：Java八股文知识图谱构建与问答

张

张建站

2026/7/8 12:12:34

10分钟阅读

南北阁Nanbeige 4.1-3B实战入门Java八股文知识图谱构建与问答最近在整理Java面试资料发现“八股文”内容又多又杂知识点之间关联性很强光靠死记硬背效率太低。有没有一种方法能把这些零散的知识点自动整理成一张清晰的知识网络还能随时提问、智能回答呢正好我最近在尝试用南北阁Nanbeige 4.1-3B模型来处理这类结构化文本任务。这个模型在信息抽取和逻辑推理方面表现不错而且对中文支持友好。今天我就带你一步步用这个模型把一堆Java八股文文档变成一个可以交互查询的智能知识图谱。整个过程我们会分成几个清晰的步骤先把原始文本处理干净然后设计合适的提示词让模型帮我们抽取出关键知识点和关系接着把这些结构化的数据存起来这里会用Neo4j图数据库做演示最后再搭建一个简单的问答接口。你不用有很强的AI背景跟着做就行。1. 环境准备与快速部署首先我们得把模型跑起来。南北阁Nanbeige 4.1-3B是一个开源模型部署方式很灵活。1.1 基础环境搭建建议使用Python 3.8或以上版本。我们先创建一个干净的虚拟环境然后安装核心的依赖库。# 创建并激活虚拟环境以conda为例 conda create -n nanbeige_kg python3.10 conda activate nanbeige_kg # 安装PyTorch请根据你的CUDA版本选择这里以CPU版本为例 pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cpu # 安装Transformers库和模型运行所需依赖 pip install transformers sentencepiece accelerate如果你的机器有GPU并且想获得更快的推理速度可以安装对应CUDA版本的PyTorch。1.2 模型下载与加载南北阁Nanbeige模型可以在ModelScope或Hugging Face上找到。我们使用transformers库来加载它这种方式最简单。from transformers import AutoTokenizer, AutoModelForCausalLM # 指定模型名称或本地路径 model_name nanbeige/nanbeige-4.1-3b # 或使用本地路径如 “./models/nanbeige-4.1-3b” # 加载分词器和模型 print(正在加载分词器...) tokenizer AutoTokenizer.from_pretrained(model_name, trust_remote_codeTrue) print(正在加载模型...这可能要几分钟请耐心等待...) model AutoModelForCausalLM.from_pretrained( model_name, trust_remote_codeTrue, torch_dtypetorch.float16, # 使用半精度减少显存占用 device_mapauto # 自动分配到可用的设备GPU/CPU ) print(模型加载完成)第一次运行时会从网上下载模型需要一些时间。下载完成后模型文件会缓存在本地下次就快了。trust_remote_codeTrue参数是因为这个模型使用了自定义的模型架构需要信任并执行其提供的代码。2. 理解任务从文本到知识图谱在写代码之前我们先搞清楚要干什么。知识图谱就像一张巨大的网网上的节点就是一个个实体比如“JVM”、“垃圾回收器”节点之间的连线就是它们之间的关系比如“包含”、“是一种”。我们的目标是让模型帮我们完成两步信息抽取从一大段Java八股文描述中识别出哪些是重要的实体知识点以及它们之间是什么关系。图谱构建与问答把这些抽取出来的“实体-关系-实体”三元组存到图数据库里。之后我们就可以用自然语言提问比如“HashMap和HashTable有什么区别”系统能自动在图谱里找到答案。听起来很复杂别担心我们一步步来核心在于如何跟模型“沟通”。3. 文本预处理与Prompt设计模型需要干净的输入。我们的原始资料可能是PDF、网页或Markdown第一步是把它变成纯文本。3.1 准备你的Java八股文资料我准备了一个简单的java_notes.txt文件作为示例里面包含了几段关于JVM和集合框架的典型八股文描述。你可以用自己的资料替换它。【JVM内存区域】 Java虚拟机在执行Java程序的过程中会把它所管理的内存划分为若干个不同的数据区域。这些区域有各自的用途以及创建和销毁的时间。线程私有的区域包括程序计数器、Java虚拟机栈、本地方法栈。线程共享的区域包括Java堆、方法区在JDK 8及之后方法区的实现变成了元空间。【垃圾回收】 Java堆是垃圾收集器管理的主要区域因此也被称作GC堆。垃圾回收算法主要分为两大类标记-清除算法和复制算法。分代收集理论是当前商业虚拟机垃圾收集器的设计原则它将堆内存分为新生代和老年代。【HashMap】 HashMap是Java集合框架中Map接口的一个基于哈希表的实现。它允许使用null值和null键并且是非线程安全的。在JDK 1.8中HashMap的底层数据结构引入了红黑树来优化链表过长时的查询性能。它与HashTable的一个主要区别是HashMap是非线程安全的而HashTable是线程安全的。3.2 设计信息抽取的Prompt这是最关键的一步。我们需要告诉模型请你从下面这段文字里找出所有重要的技术概念实体以及它们之间的关系。我们要把指令写得非常明确。我设计了一个Prompt模板它告诉模型以指定的JSON格式输出结果这样我们后续处理起来就非常方便。def create_extraction_prompt(text_chunk): prompt f你是一个资深的Java技术专家请仔细分析以下技术文本并从中抽取出所有的技术实体以及实体之间的关系。文本内容 {text_chunk} 请按照以下JSON格式输出结果确保只输出JSON不要有任何其他解释 {{ entities: [ {{name: 实体名称1, type: 实体类型如概念、组件、算法、类}}, {{name: 实体名称2, type: 实体类型}} // ... 更多实体 ], relations: [ {{head: 头实体名称, relation: 关系描述如包含、是一种、区别于、用于, tail: 尾实体名称}}, {{head: 头实体名称, relation: 关系描述, tail: 尾实体名称}} // ... 更多关系 ] }} 注意 1. 实体名称请使用文本中出现过的标准术语。 2. 关系描述请尽量简洁、准确反映文本中明确描述或强烈暗示的联系。 3. 如果文本中没有明确关系请不要强行构造。 return prompt这个Prompt做了几件事定义了模型角色Java专家给出了清晰的任务抽取实体和关系规定了严格的输出格式JSON并提供了注意事项来约束模型行为减少它“胡编乱造”的可能。4. 调用模型进行信息抽取现在我们把预处理好的文本和设计好的Prompt结合起来让模型干活。4.1 封装模型调用函数我们需要一个函数它接收一段文本拼接成完整的Prompt送给模型然后解析模型返回的JSON结果。import json import torch def extract_knowledge(text, model, tokenizer, max_length2048): 调用模型抽取知识三元组 prompt create_extraction_prompt(text) # 将输入文本转换为模型可接受的格式 inputs tokenizer(prompt, return_tensorspt, truncationTrue, max_lengthmax_length).to(model.device) # 生成输出 with torch.no_grad(): # 关闭梯度计算推理时不需要 outputs model.generate( **inputs, max_new_tokens512, # 控制生成文本的最大长度 temperature0.1, # 较低的温度使输出更确定、更集中 do_sampleTrue, pad_token_idtokenizer.eos_token_id ) # 解码生成结果 response tokenizer.decode(outputs[0], skip_special_tokensTrue) # 从模型的完整回复中截取出我们需要的JSON部分 # 模型可能会复述一些内容我们寻找第一个“{”和最后一个“}” try: start_idx response.find({) end_idx response.rfind(}) 1 json_str response[start_idx:end_idx] result json.loads(json_str) return result except (json.JSONDecodeError, ValueError) as e: print(fJSON解析失败原始响应为:\n{response}\n错误: {e}) # 返回一个空结构避免后续流程中断 return {entities: [], relations: []}这个函数里有几个关键参数max_new_tokens: 限制模型生成文本的长度防止它说个没完。temperature: 设置为较低的值如0.1可以让模型的输出更稳定、更倾向于高概率的词汇这对于需要结构化输出的任务很重要。4.2 运行抽取并查看结果让我们用一小段文本测试一下。# 读取示例文本 with open(java_notes.txt, r, encodingutf-8) as f: sample_text f.read() # 为了演示先只处理第一段关于JVM内存区域的文本 paragraphs sample_text.split(\n\n) first_paragraph paragraphs[0] print(正在处理文本...) knowledge extract_knowledge(first_paragraph, model, tokenizer) print(\n抽取结果) print(json.dumps(knowledge, indent2, ensure_asciiFalse))运行后你可能会看到类似这样的输出具体结果可能因模型随机性略有不同{ entities: [ {name: Java虚拟机, type: 组件}, {name: 程序计数器, type: 内存区域}, {name: Java虚拟机栈, type: 内存区域}, {name: 本地方法栈, type: 内存区域}, {name: Java堆, type: 内存区域}, {name: 方法区, type: 内存区域}, {name: 元空间, type: 内存区域} ], relations: [ {head: Java虚拟机, relation: 管理, tail: 程序计数器}, {head: Java虚拟机, relation: 管理, tail: Java虚拟机栈}, {head: Java虚拟机, relation: 管理, tail: 本地方法栈}, {head: Java虚拟机, relation: 管理, tail: Java堆}, {head: Java虚拟机, relation: 管理, tail: 方法区}, {head: 方法区, relation: 在JDK8后实现为, tail: 元空间}, {head: 程序计数器, relation: 属于, tail: 线程私有区域}, {head: Java虚拟机栈, relation: 属于, tail: 线程私有区域} ] }看模型成功地从一段描述中抽出了“Java虚拟机”、“程序计数器”等实体并识别出了“管理”、“实现为”、“属于”等关系。结构非常清晰5. 构建知识图谱Neo4j示例有了结构化的数据我们就可以把它存进图数据库了。Neo4j是最流行的图数据库之一直观易用。5.1 安装并启动Neo4j你可以从Neo4j官网下载桌面版或服务器版。这里以Docker快速启动为例docker run \ --name neo4j-java-kg \ -p 7474:7474 -p 7687:7687 \ -d \ --env NEO4J_AUTHneo4j/password123 \ # 设置用户名和密码 neo4j:latest启动后在浏览器打开http://localhost:7474用上面设置的用户名(neo4j)和密码(password123)登录就能看到Neo4j Browser的操作界面。5.2 使用Python连接Neo4j并导入数据我们需要安装Neo4j的Python驱动。pip install neo4j然后编写一个函数将我们抽取出来的JSON数据转换成节点和关系导入Neo4j。from neo4j import GraphDatabase class KnowledgeGraph: def __init__(self, uri, user, password): self.driver GraphDatabase.driver(uri, auth(user, password)) def close(self): self.driver.close() def create_entity_node(self, entity_name, entity_type): 创建实体节点 with self.driver.session() as session: # 使用MERGE如果节点已存在则不会重复创建 session.run( MERGE (e:Entity {{name: $name, type: $type}}), nameentity_name, typeentity_type ) def create_relation(self, head_name, relation, tail_name): 创建实体间的关系 with self.driver.session() as session: session.run( MATCH (h:Entity {name: $head_name}) MATCH (t:Entity {name: $tail_name}) MERGE (h)-[r:RELATION {type: $relation}]-(t) , head_namehead_name, tail_nametail_name, relationrelation ) def import_from_json(self, knowledge_data): 将抽取的JSON数据导入图数据库 for entity in knowledge_data.get(entities, []): self.create_entity_node(entity[name], entity[type]) print(f创建节点: {entity[name]} ({entity[type]})) for relation in knowledge_data.get(relations, []): self.create_relation(relation[head], relation[relation], relation[tail]) print(f创建关系: {relation[head]} --[{relation[relation]}]-- {relation[tail]}) print(数据导入完成) # 连接数据库并导入数据 kg KnowledgeGraph(bolt://localhost:7687, neo4j, password123) # 导入我们刚才抽取的数据 kg.import_from_json(knowledge) kg.close()运行这段代码后数据就被导入到Neo4j中了。回到Neo4j Browser输入查询语句MATCH (n) RETURN n你就能看到可视化出来的知识图谱各个节点和关系一目了然。6. 实现基于图谱的智能问答图谱建好了怎么用呢我们可以实现一个简单的问答流程把用户的问题转换成图谱查询。6.1 设计问答Prompt这个Prompt的任务是把自然语言问题转换成可以在知识图谱中查询的实体和关系意图。def create_qa_prompt(question): prompt f用户提出了一个关于Java技术的问题。请分析这个问题识别出问题中涉及的核心技术实体并推断用户想查询的关系或属性。用户问题{question} 请输出JSON格式包含以下信息 {{ entities: [问题中提到的实体1, 问题中提到的实体2], query_intent: 用一句话描述用户想查询什么例如查询A与B的区别查询A的组成部分查询A的定义 }} return prompt6.2 问答流程整合我们把模型意图识别和图谱查询结合起来。def answer_question(question, model, tokenizer, kg_driver): 智能问答主流程 # 1. 意图识别 qa_prompt create_qa_prompt(question) inputs tokenizer(qa_prompt, return_tensorspt).to(model.device) with torch.no_grad(): outputs model.generate(**inputs, max_new_tokens200, temperature0.1) qa_response tokenizer.decode(outputs[0], skip_special_tokensTrue) # 解析意图识别结果 try: start qa_response.find({) end qa_response.rfind(}) 1 intent_result json.loads(qa_response[start:end]) entities intent_result.get(entities, []) query_intent intent_result.get(query_intent, ) except: return 抱歉我没能理解您问题的意图。 # 2. 根据意图构建图谱查询这里是一个简单示例 answer with kg_driver.session() as session: if 区别 in query_intent and len(entities) 2: # 查询两个实体的区别查找它们各自的关系和属性 query MATCH (e1:Entity {name: $ent1}) MATCH (e2:Entity {name: $ent2}) OPTIONAL MATCH (e1)-[r1]-(other1) OPTIONAL MATCH (e2)-[r2]-(other2) RETURN e1.name, type(r1), other1.name, e2.name, type(r2), other2.name result session.run(query, ent1entities[0], ent2entities[1]) # ... 处理结果组织成对比答案 answer f关于{entities[0]}和{entities[1]}的区别可以从以下方面看... elif 是什么 in question or 定义 in query_intent and entities: # 查询实体的相关关系以了解其定义 query MATCH (e:Entity {name: $ent})-[:RELATION]-(related) RETURN e.name, e.type, collect({relation: type(r), target: related.name}) as relations result session.run(query, ententities[0]) # ... 处理结果组织成定义性答案 answer f{entities[0]}是一个{entity_type}它与以下概念相关... else: # 通用查询查找与实体直接相连的知识 query MATCH (e:Entity {name: $ent})-[r:RELATION]-(related) RETURN e.name, type(r), related.name result session.run(query, ententities[0] if entities else ) # ... 处理结果 answer f关于{entities[0]}... return answer if answer else 在现有知识图谱中未找到明确的答案。 # 示例问答 kg GraphDatabase.driver(bolt://localhost:7687, auth(neo4j, password123)) question HashMap和HashTable有什么区别 answer answer_question(question, model, tokenizer, kg) print(f问{question}) print(f答{answer}) kg.close()这个问答示例还比较基础主要是展示从“问题”到“图谱查询”的完整链路。在实际应用中你可以根据更复杂的意图设计更精准的Cypher查询语句Neo4j的查询语言从而得到更丰富的答案。7. 总结与展望走完这一趟你会发现用南北阁Nanbeige 4.1-3B来构建垂直领域的知识图谱思路其实很清晰。核心在于把大任务拆解成模型擅长的子任务先用精心设计的Prompt让它做信息抽取把非结构化的文本变成结构化的数据然后再利用这些结构化数据去做检索和问答。整个过程下来部署和基础调用并不难真正的功夫在“Prompt设计”和“业务逻辑整合”上。你需要反复调试Prompt让模型输出更稳定、更符合你想要的格式。也需要根据你的具体业务场景设计图谱的schema和问答的逻辑。我自己的体验是对于Java八股文这类结构相对清晰、术语规范的技术文本这个方案的效果挺不错的能大大节省人工整理和归类的时间。当然它也不是万能的如果文本过于模糊或复杂抽取结果可能需要人工复核一下。如果你想进一步优化可以考虑几个方向一是对长文本进行更精细的分块和摘要处理二是引入多个模型比如用一个模型做实体识别另一个模型做关系分类提升准确率三是结合传统的规则方法对模型的输出进行后处理和校验。希望这个教程能给你提供一个可行的起点。技术总是在迭代但用AI工具来解决实际问题的思路是相通的。动手试试把你手头那堆令人头疼的文档变成一张随时可查的智能知识网吧。获取更多AI镜像想探索更多AI镜像和应用场景访问 CSDN星图镜像广场提供丰富的预置镜像覆盖大模型推理、图像生成、视频生成、模型微调等多个领域支持一键部署。