基于Llama3与LoRA的网络安全大模型AutoAudit：从微调到部署实战-洪萨配资

1. 项目概述：当大语言模型遇上网络安全审计

如果你是一名网络安全工程师、渗透测试人员，或者是一名对AI在安全领域应用充满好奇的开发者，那么你很可能和我一样，每天都在与海量的日志、复杂的攻击向量和层出不穷的漏洞报告打交道。传统安全工具的自动化程度越来越高，但它们往往缺乏“理解”和“推理”的能力。一个扫描器可以告诉你某个端口开放了，但它很难像一位经验丰富的分析师那样，结合上下文告诉你这个开放端口在当前的业务环境下究竟意味着多大的风险，以及攻击者可能会如何利用它。这正是我关注并动手实践AutoAudit这个项目的初衷：探索如何将大语言模型（LLM）的能力，深度融入到网络安全审计与分析的日常工作流中，让它成为一个能“思考”的安全助手。

简单来说，AutoAudit 是一个专注于网络安全领域的开源大语言模型项目。它的核心目标不是替代现有的安全工具，而是为它们装上“大脑”。通过在海量网络安全语料（包括漏洞描述、攻击代码、安全策略、威胁情报等）上进行微调，AutoAudit 模型能够理解安全相关的专业问题，并给出结构化的分析、风险评估和解决方案建议。你可以把它想象成一个24小时在线的、知识渊博的初级安全分析师，能够辅助你进行代码审计、日志分析、安全咨询甚至自动化渗透测试任务编排。这个项目目前提供了基于 Llama3-8B 等模型微调的版本，并配套了一个集成了 ClamAV 扫描引擎的演示平台，让我们能够直观地体验“AI+安全”的协同工作模式。

2. 核心设计思路：为什么是“领域微调”而非“通用模型”

在决定启动 AutoAudit 项目时，我面临的首要抉择是：直接使用 ChatGPT、Claude 这样的通用大模型，还是从头训练或微调一个垂直领域模型？经过大量测试和思考，我选择了后者。原因主要基于网络安全领域的三个核心特性：专业性、敏感性和时效性。

2.1 通用模型的局限性在安全领域被放大

通用大模型（如 GPT-4）的知识广度毋庸置疑，但在面对高度专业的安全问题时，其局限性非常明显。

首先，幻觉与准确性。当你询问一个具体的 CVE 漏洞利用细节时，通用模型可能会基于其训练数据中的模糊记忆，生成一个看似合理但实则错误的 PoC（概念验证）代码。在安全领域，一个错误的指令可能导致系统被入侵或服务中断，代价极高。其次，安全策略的敏感性。企业内部的安全策略、网络拓扑、防护规则属于高度敏感信息，绝不可能上传到第三方云端的通用模型进行咨询。我们需要一个可以本地部署、完全可控的解决方案。最后，知识的时效性。网络安全是日新月异的战场，新的漏洞、攻击手法和威胁情报每天都在产生。通用模型的训练数据存在滞后性，而一个专门的安全模型可以更容易地通过增量学习，融入最新的安全公告和研究成果。

2.2 AutoAudit 的技术选型：Llama 3 + LoRA/QLoRA

基于以上考量，我选择了 Meta 开源的Llama 3系列作为基座模型。Llama 3 在开源社区中拥有极佳的生态和性能表现，其 8B 参数量版本在保持较强推理能力的同时，对算力要求相对友好，适合研究机构和中小企业进行本地化部署和微调。

在微调方法上，我采用了LoRA和QLoRA技术。这是本项目在工程实践上的一个关键点。

LoRA：全称 Low-Rank Adaptation。它的核心思想不是去调整预训练模型那动辄数十亿的全部参数，而是冻结原始模型权重，只训练注入到模型中的一系列低秩分解矩阵。简单类比，想象预训练模型是一本已经写满通用知识的百科全书（基础权重）。LoRA 就像是在这本书的特定章节旁贴上一叠可修改的便利贴（低秩矩阵）。当我们进行网络安全领域的微调时，只更新这些“便利贴”上的内容，而不去改动原书。这带来了巨大的优势：训练参数量大幅减少（通常只有原模型的0.1%-1%），训练速度极快，显存消耗低，并且可以轻松地保存和切换不同的“便利贴套装”（即不同的微调适配器），实现一个基座模型服务多个专业领域。
QLoRA：这是 LoRA 的进一步升级版，结合了量化技术。它首先将预训练模型的权重从高精度（如 FP16）量化到低精度（如 4-bit），大幅减少模型加载时的内存占用。然后，在这个量化后的模型上应用 LoRA 进行微调，并在训练过程中通过一种叫“反量化”的技巧来保证梯度计算的精度。QLoRA 使得在单张消费级显卡（如 24GB 显存的 RTX 4090）上微调 Llama 3-8B 这样的模型成为可能，极大地降低了研究和应用的门槛。

实操心得：基座模型与微调策略的选择在项目初期，我们尝试过使用更小的模型（如 7B）和更简单的全参数微调，效果不尽如人意。小模型在复杂安全场景下的推理能力不足，而全参数微调则对硬件要求过高，且容易导致“灾难性遗忘”——模型学会了网络安全，却忘记了如何说人话或进行基础逻辑推理。最终确定“强大的基座模型（Llama 3-8B）+ 高效的参数高效微调（LoRA/QLoRA）”这条路径，是在效果、成本和效率之间找到的最佳平衡点。对于想要入门领域大模型的朋友，我强烈建议从这个组合开始尝试。

3. 数据集的构建：高质量安全语料是模型能力的基石

模型架构和训练方法决定了“如何学”，而数据集则决定了“学什么”。构建一个高质量的网络安全领域数据集，是 AutoAudit 项目中最耗时、也最核心的环节。我们的目标是让模型不仅掌握安全知识，还要学会安全分析的“思维框架”。

3.1 数据来源与采集策略

我们的数据主要来自以下几个渠道，并进行了严格的清洗和去重：

公开安全数据集：如 CVE 漏洞详情、OWASP Top 10 案例、Exploit-DB 中的漏洞描述与代码片段、ATT&CK 战术技术矩阵描述等。这些数据提供了权威、结构化的安全知识。
开源代码仓库：从 GitHub 上收集带有安全标签的仓库，特别是那些包含漏洞修复（Patch）的提交记录。对比修复前后的代码差异，是让模型学习“什么是不安全代码”以及“如何修复”的绝佳材料。
安全问答社区与文章：如 StackExchange 的安全板块、知名安全博客和技术文章。这些内容包含了大量真实世界的安全场景、问题分析和解决方案，语言更接近工程师的实际交流。
教科书与认证材料：CISSP、Security+ 等安全认证的官方学习指南和模拟题，提供了系统性的知识体系。

3.2 数据格式与指令工程

我们采用了类似Alpaca模型的指令微调格式，将数据组织为Instruction（指令）、Input（输入，可选）、Output（输出）的三元组。关键在于，我们对Output部分进行了精心设计，强制模型按照一个标准的安全分析框架来输出内容。

标准输出格式包含四个部分：

analysis：详细的技术分析。模型需要拆解输入（如一段代码、一条日志），解释其中涉及的技术点、可能的行为意图。
label：安全等级判定。用一个简单的标签（如 High, Medium, Low, Info）快速概括风险级别。
risk：风险阐述。说明如果该问题被利用，可能导致的具体后果，例如数据泄露、权限提升、服务中断等。
solution：解决方案或缓解措施。提供具体、可操作的建议，如代码如何修改、配置如何调整、应该实施何种安全控制。

示例：

Instruction: 请分析以下 Python 代码片段是否存在安全风险。

Input:

import subprocess def run_command(user_input): cmd = f"ls -la {user_input}" subprocess.run(cmd, shell=True)

Output:1. analysis: 该函数使用subprocess.run执行系统命令，且命令字符串通过 f-string 直接拼接了用户输入user_input。当shell=True时，命令会在系统 shell 中执行。2. label: High3. risk: 存在严重的命令注入漏洞。攻击者可以通过控制user_input参数注入任意系统命令。例如，输入/tmp; rm -rf /会导致删除根目录下的文件（假设有权限），造成灾难性后果。4. solution: 应避免使用shell=True，并避免直接拼接用户输入来构造命令。推荐使用subprocess.run(['ls', '-la', user_input])的列表参数形式。如果必须使用 shell，必须对用户输入进行严格的净化和验证，例如使用shlex.quote()函数。

这种格式化的输出，不仅让模型的回答更加结构化、易于程序化处理，更重要的是在训练过程中“教会”了模型一种分析安全问题的标准化思维流程。这对于后续将模型集成到自动化工具链中至关重要。

3.3 数据增强与合成数据生成

完全依赖人工收集和标注数据效率太低。我们借鉴了Self-Instruct的思想，利用已有的高质量种子数据，通过大模型（如 GPT-4）来生成更多样化的指令-输出对。例如，给定一个“SQL注入”的种子示例，让 GPT-4 生成不同数据库类型（MySQL, PostgreSQL）、不同注入方式（布尔盲注、时间盲注、报错注入）的变体。

我们还专门制作了一个Cybersecurity Dataset Generator的 GPTs，用于批量生成符合格式要求的安全问答对。这种方法能快速扩充数据规模，但必须辅以严格的人工审核和过滤，以确保生成数据的准确性和质量。

注意事项：数据质量是生命线在数据准备阶段，我们踩过最大的坑就是数据噪声。初期从网上爬取的一些代码片段可能本身就有错误，或者一些论坛的回答是不准确的。如果把这些数据喂给模型，就是在“教坏”它。我们建立了一个多轮清洗和验证的流程：自动化去重 -> 基于规则的关键词过滤 -> 小样本人工抽查 -> 用清洗后的数据训练一个小型验证模型，测试其回答的准确性，反向找出问题数据。这个过程很枯燥，但无法绕过。一个含有10%错误知识的数据集，足以毁掉一个70B参数的大模型。

4. 模型训练与部署实战

有了高质量的数据和明确的技术方案，下一步就是具体的训练和部署。这里我以 AutoAudit-8B-Instruct（基于 Llama3-8B-Instruct 微调）为例，分享从环境准备到服务上线的完整流程。

4.1 训练环境配置与依赖安装

训练通常在具备高性能 GPU 的服务器上进行。以下是一个标准的配置流程：

# 1. 克隆项目仓库 git clone https://github.com/ddzipp/AutoAudit.git cd AutoAudit # 2. 创建并激活 Conda 环境（推荐使用 Python 3.10） conda create -n autoaudit_train python=3.10 -y conda activate autoaudit_train # 3. 安装 PyTorch（请根据你的 CUDA 版本选择对应命令，以下为 CUDA 11.8 示例） pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118 # 4. 安装训练所需的库，主要包括 transformers, peft, accelerate, trl, datasets 等 pip install -r requirements_train.txt # 如果项目没有提供专门的训练依赖文件，通常需要安装： # pip install transformers datasets accelerate peft trl bitsandbytes scipy

关键依赖说明：

transformers: Hugging Face 的核心库，用于加载模型和分词器。
peft: 实现 LoRA、QLoRA 等参数高效微调方法的官方库。
accelerate: 简化分布式训练，统一 CPU/GPU/多卡训练代码。
trl: Transformer Reinforcement Learning，如果后续想进行 RLHF（人类反馈强化学习）会用到，初期 SFT（监督微调）不是必须。
bitsandbytes: 实现 4-bit/8-bit 量化，QLoRA 的必备依赖。

4.2 使用 QLoRA 进行模型微调

以下是使用peft和transformers库进行 QLoRA 微调的核心代码框架。假设我们的数据已经处理成了 Hugging Facedatasets格式。

from transformers import AutoModelForCausalLM, AutoTokenizer, BitsAndBytesConfig, TrainingArguments from peft import LoraConfig, get_peft_model, prepare_model_for_kbit_training from trl import SFTTrainer import torch # 1. 配置模型量化加载（QLoRA 关键步骤） bnb_config = BitsAndBytesConfig( load_in_4bit=True, # 使用 4-bit 量化加载模型 bnb_4bit_quant_type="nf4", # 量化类型，NF4 通常效果更好 bnb_4bit_compute_dtype=torch.float16, # 计算时使用 float16 加速 bnb_4bit_use_double_quant=True, # 双重量化，进一步节省内存 ) # 2. 加载基座模型和分词器 model_name = "meta-llama/Meta-Llama-3-8B-Instruct" model = AutoModelForCausalLM.from_pretrained( model_name, quantization_config=bnb_config, device_map="auto", # 自动分配模型层到可用的 GPU/CPU trust_remote_code=True, ) tokenizer = AutoTokenizer.from_pretrained(model_name) tokenizer.pad_token = tokenizer.eos_token # 设置填充令牌 # 3. 准备模型进行 k-bit 训练 model = prepare_model_for_kbit_training(model) # 4. 配置 LoRA 参数 lora_config = LoraConfig( r=16, # LoRA 的秩（rank），影响可训练参数量，通常 8-64 lora_alpha=32, # 缩放参数，通常设为 r 的 2 倍 target_modules=["q_proj", "v_proj", "k_proj", "o_proj", "gate_proj", "up_proj", "down_proj"], # 针对 Llama 结构 lora_dropout=0.05, # Dropout 防止过拟合 bias="none", task_type="CAUSAL_LM", ) # 5. 将 LoRA 适配器注入到模型中 model = get_peft_model(model, lora_config) model.print_trainable_parameters() # 打印可训练参数，应该只占原模型的 0.x% # 6. 配置训练参数 training_args = TrainingArguments( output_dir="./autoaudit-8b-lora", per_device_train_batch_size=4, # 根据 GPU 显存调整 gradient_accumulation_steps=4, # 梯度累积，模拟更大 batch size num_train_epochs=3, # 训练轮数 logging_steps=10, save_steps=500, learning_rate=2e-4, # LoRA 学习率通常可以设大一点 fp16=True, # 混合精度训练 optim="paged_adamw_8bit", # 使用分页的 8-bit AdamW 优化器，节省内存 report_to="tensorboard", ) # 7. 初始化 Trainer trainer = SFTTrainer( model=model, args=training_args, train_dataset=train_dataset, # 你的训练数据集 dataset_text_field="text", # 数据集中包含指令、输入、输出的合并文本字段 max_seq_length=2048, # 最大序列长度 tokenizer=tokenizer, ) # 8. 开始训练 trainer.train() # 9. 保存训练好的 LoRA 适配器 model.save_pretrained("./autoaudit-8b-lora-adapter")

关键参数解析：

load_in_4bit=True：这是 QLoRA 的核心，将模型以 4-bit 精度加载到内存，使得 8B 模型能在 24GB 显存下训练。
r=16：LoRA 的秩。秩越大，可训练参数越多，模型能力越强，但越容易过拟合。对于领域适配，16 或 32 是一个不错的起点。
target_modules：指定将 LoRA 适配器应用到模型的哪些线性层。对于 Llama 结构的模型，通常选择注意力机制（q, k, v, o）和前馈网络（gate, up, down）的投影层。
per_device_train_batch_size和gradient_accumulation_steps：实际 batch size =per_device_train_batch_size*gradient_accumulation_steps。如果单卡显存放不下大的 batch，可以通过梯度累积来模拟。

4.3 模型推理与部署

训练完成后，我们得到的是一个独立的 LoRA 适配器文件（通常很小，几十到几百 MB）。推理时需要将适配器与原始基座模型合并加载。

from transformers import AutoModelForCausalLM, AutoTokenizer from peft import PeftModel # 加载原始基座模型和分词器 base_model_name = "meta-llama/Meta-Llama-3-8B-Instruct" base_model = AutoModelForCausalLM.from_pretrained( base_model_name, device_map="auto", torch_dtype=torch.float16, # 推理时可以使用半精度节省显存 ) tokenizer = AutoTokenizer.from_pretrained(base_model_name) # 加载 LoRA 适配器并合并到基座模型 lora_model = PeftModel.from_pretrained(base_model, "./autoaudit-8b-lora-adapter") # 如果需要将适配器权重永久合并到模型中（可选，会增大模型文件） # merged_model = lora_model.merge_and_unload() # 准备输入 prompt = """请分析以下 HTTP 请求头是否存在安全风险： X-Forwarded-For: 192.168.1.1, 127.0.0.1 User-Agent: Mozilla/5.0 ... ' OR '1'='1 """ inputs = tokenizer(prompt, return_tensors="pt").to("cuda") # 生成回答 with torch.no_grad(): outputs = lora_model.generate(**inputs, max_new_tokens=256, temperature=0.7) response = tokenizer.decode(outputs[0], skip_special_tokens=True) print(response)

对于生产环境部署，推荐使用vLLM或TGI这类专门为 LLM 设计的高性能推理服务框架。它们通过 PagedAttention 等技术极大地优化了显存利用和并发吞吐。

# 使用 vLLM 部署示例（需先安装 vLLM） pip install vllm # 启动 API 服务器，并加载 LoRA 适配器 python -m vllm.entrypoints.openai.api_server \ --model meta-llama/Meta-Llama-3-8B-Instruct \ --served-model-name autoaudit-8b \ --lora-modules autoaudit-lora=./autoaudit-8b-lora-adapter \ --host 0.0.0.0 --port 8000

启动后，就可以通过 OpenAI 兼容的 API 接口来调用你的 AutoAudit 模型了。

5. 与安全工具集成：打造自动化审计工作流

一个孤立的模型能力有限，真正的价值在于将其嵌入到现有的安全工具链中。AutoAudit 项目提供了一个与ClamAV集成的 Web 平台作为示例，展示了如何将模型分析与传统扫描工具结合。

5.1 平台架构与部署

该平台采用经典的 Django 框架，前端使用 Bootstrap。其核心工作流是：

用户通过 Web 界面上传文件。
后端调用 ClamAV 进行病毒和恶意软件扫描，获取基础扫描报告。
同时，将文件内容（或提取的特征、字符串）作为输入，构造提示词（Prompt）发送给本地部署的 AutoAudit 模型。
模型对文件进行“深度分析”，识别潜在的恶意逻辑、混淆代码、可疑 API 调用等静态特征。
平台将 ClamAV 的扫描结果和 AutoAudit 的智能分析报告一并呈现给用户。

部署步骤：

# 1. 克隆仓库并进入目录 git clone https://github.com/ddzipp/AutoAudit.git cd AutoAudit # 2. 创建 Python 环境并安装依赖 conda create -n autoaudit_web python=3.8 conda activate autoaudit_web pip install -r requirements.txt # 3. 安装并配置 ClamAV # 对于 Ubuntu/Debian sudo apt-get install clamav clamav-daemon sudo freshclam # 更新病毒库 # 确保 clamd 服务运行，并且 Python 能通过 pyClamad 等库调用它。 # 4. 配置模型路径 # 编辑项目中的配置文件（如 settings.py 或 config.yaml）， # 指定你训练好的 Llama 模型路径和 LoRA 适配器路径。 # 例如： # MODEL_PATH = "/path/to/llama-3-8b-instruct" # LORA_PATH = "/path/to/autoaudit-lora-adapter" # 5. 运行数据库迁移并启动服务 python manage.py migrate python manage.py runserver 0.0.0.0:8000

5.2 集成思路扩展：从扫描到智能响应

这个 Demo 平台只是一个起点。在实际安全运营中，我们可以设想更深入的集成场景：

与 SIEM/SOAR 集成：当 SIEM 产生一条高优先级告警时，自动将相关日志、流量包或进程信息发送给 AutoAudit 模型进行初步研判。模型可以快速生成一份事件分析摘要，包括攻击类型判断、影响面评估和初步处置建议，推送给安全分析师，极大缩短 MTTR（平均响应时间）。
与代码仓库（如 GitLab, GitHub）集成：在 CI/CD 流水线中，除了传统的 SAST（静态应用安全测试）工具，可以加入 AutoAudit 代码审查环节。对于 SAST 工具报出的漏洞，或者代码变更中的敏感函数调用，让模型进行上下文理解，判断是否为误报或真实风险，并提供修复代码示例。
与渗透测试工具链协同：在渗透测试过程中，当工具（如 Nmap, Burp Suite）发现一个可疑服务或参数时，测试人员可以手动或自动地将发现提交给 AutoAudit 模型。模型可以基于其知识库，建议下一步可能的攻击路径、相关的漏洞利用代码（Exploit）或权限提升方法，充当一个实时在线的“攻击策略顾问”。

实操心得：Prompt 工程是集成成败的关键将模型集成到工具链中，最大的挑战不是技术调用，而是如何设计一个有效的Prompt。模型需要精确的上下文才能给出有价值的回答。例如，在分析一个可疑二进制文件时，你不能只把文件扔给它。更好的做法是，先用strings、file、objdump等工具提取出文件信息、字符串表、导入函数表，然后将这些结构化信息连同你的问题（“此文件是否可能是恶意软件？如果是，可能属于哪类恶意软件？有哪些行为特征？”）一起构造 Prompt。一个精心设计的 Prompt 模板，往往比单纯增加训练数据更能提升模型在特定任务上的表现。我们在项目中沉淀了一系列针对不同安全子领域（恶意代码分析、日志审计、漏洞评估）的 Prompt 模板，这是宝贵的工程资产。

6. 挑战、局限与未来展望

尽管 AutoAudit 展现出了巨大的潜力，但在实际应用和未来发展中，我们仍需清醒地认识到一系列挑战和局限。

6.1 当前面临的主要挑战

幻觉问题：这是所有大模型的核心痛点。在安全领域，模型可能“自信地”编造一个不存在的 CVE 编号、一个错误的漏洞利用步骤，或者对一个无害的代码模式进行过度报警。这要求我们必须将模型定位为“辅助”角色，其输出必须经过人工或其它自动化规则的二次验证，绝不能完全依赖其进行阻断性决策。
知识更新滞后：模型的训练数据有其时间戳。面对零日漏洞（0-day）或最新的攻击手法，模型可能一无所知。解决之道在于建立高效的增量学习或检索增强生成（RAG）管道。例如，可以搭建一个实时更新的安全知识向量数据库，当模型遇到未知问题时，先从此数据库中检索相关的最新文档，再将文档作为上下文提供给模型生成答案。
计算资源与延迟：即使是量化后的 8B 模型，对于实时性要求极高的场景（如网络流量在线检测），其推理延迟可能仍然过高。需要在模型的精度、速度和成本之间做出权衡，或者探索更小的模型架构（如 1-3B 参数）在边缘设备上部署的可能性。
对抗性攻击：大模型本身也可能成为攻击目标。攻击者可能通过精心构造的输入（对抗性样本）来“欺骗”模型，使其对恶意代码做出无害判断，或对正常操作产生误报。研究模型自身的安全性（如针对提示注入、越狱攻击的防御）也是一个重要方向。

6.2 未来发展方向

基于现有基础和社区趋势，我认为 AutoAudit 这类项目有几个明确的演进方向：

多模态安全模型：未来的威胁不仅是文本和代码。攻击链可能涉及恶意图片、钓鱼邮件中的视觉欺骗、网络流量中的异常模式等。训练一个能同时理解文本、代码、网络数据包特征甚至系统调用序列的多模态安全大模型，将提供更全面的威胁感知能力。
智能安全智能体：参考MetaGPT、AutoGPT等智能体框架的思路，将 AutoAudit 模型升级为一个可以自主操作安全工具的“智能体”。它可以接收一个高级目标（如“对目标 Web 应用进行一次全面的漏洞扫描”），然后自主规划任务：调用 Nmap 进行端口扫描，根据结果调用 Nuclei 进行漏洞检测，对发现的疑似漏洞用自定义脚本进行验证，最后整理生成一份完整的渗透测试报告。这将把自动化提升到一个新的层次。
高质量开源安全数据集的共建：正如项目未来计划中提到的，构建一个涵盖开放/封闭问答、选择题、思维链推理的高质量网络安全语料库，并完全开源，对于整个社区的发展至关重要。这需要更多安全从业者和研究者的共同贡献。
评估基准与红队测试：我们需要建立一套专门用于评估网络安全大模型能力的基准测试（Cybersecurity LLM Benchmark）。这套基准应包含漏洞识别、代码修复、攻击推理、策略咨询等多种任务。同时，可以邀请红队专家对模型进行“攻击”，测试其抗提示注入、抗越狱和抗误导的能力，就像对普通软件进行渗透测试一样。

从我个人的实践来看，将大语言模型引入网络安全领域，绝不是为了制造噱头。它是一个强有力的“赋能器”，能够将安全专家从大量重复、繁琐的初级分析工作中解放出来，让他们更专注于战略决策和复杂攻击的应对。AutoAudit 项目就像是一把刚刚锻造出雏形的“智能安全扳手”，它还不够完美，但已经能拧动一些关键的螺丝。它的未来，依赖于开源社区的持续打磨、更多真实场景的淬炼，以及每一位安全从业者大胆的尝试与反馈。这条路很长，但方向已经清晰，那就是让人与 AI 在守护数字世界的战线上，形成更紧密、更高效的协同。