让我们探索如何使用 Azure AI Studio 微调微软的 Phi-3 Mini 语言模型。微调可以让你将 Phi-3 Mini 适应特定任务，使其更加强大和上下文感知。
- 功能: 哪些模型可以微调？基础模型可以微调成什么样子？
- 成本: 微调的定价模式是什么？
- 可定制性: 我能在多大程度上修改基础模型？可以用哪些方式修改？
- 便捷性: 微调的实际过程是怎样的？我需要编写自定义代码吗？我需要自己提供计算资源吗？
- 安全性: 微调后的模型已知有安全风险——是否有任何防护措施来防止意外伤害？
Note
对于 Phi-3 系列模型，按需付费的微调服务仅在 East US 2 区域创建的集线器中可用。
-
一个 Azure 订阅。如果你还没有 Azure 订阅，可以创建一个付费 Azure 账户开始使用。
-
一个 AI Studio 项目。
-
Azure 基于角色的访问控制 (Azure RBAC) 用于授予在 Azure AI Studio 中进行操作的访问权限。要执行本文中的步骤，你的用户账户必须在资源组中被分配为 Azure AI 开发人员角色。
验证订阅是否已注册到 Microsoft.Network 资源提供者。
- 登录 Azure 门户。
- 从左侧菜单中选择 订阅。
- 选择你要使用的订阅。
- 从左侧菜单中选择 AI 项目设置 > 资源提供者。
- 确认 Microsoft.Network 是否在资源提供者列表中。否则请添加它。
准备好用于微调模型的训练和验证数据。你的训练数据和验证数据集包含你希望模型如何表现的输入和输出示例。
确保所有的训练示例都遵循推理的预期格式。为了有效地微调模型，请确保数据集平衡且多样化。
这涉及保持数据平衡，包含各种场景，并定期优化训练数据以符合现实世界的期望，从而最终实现更准确和平衡的模型响应。
不同的模型类型需要不同格式的训练数据。
你使用的训练和验证数据必须格式化为 JSON Lines (JSONL) 文档。对于 Phi-3-mini-128k-instruct，微调数据集必须采用聊天完成 API 使用的对话格式。
{"messages": [{"role": "system", "content": "你是一个 Xbox 客户支持代理，主要目标是帮助用户解决他们在使用 Xbox 设备时遇到的问题。你友好且简洁。你只提供事实性回答，不提供与 Xbox 无关的回答。"}, {"role": "user", "content": "Xbox 比 PlayStation 更好吗？"}, {"role": "assistant", "content": "抱歉，我不能提供个人意见。我的主要工作是帮助你解决任何与 Xbox 设备相关的问题。你有任何与 Xbox 相关的问题需要解决吗？"}]}
{"messages": [{"role": "system", "content": "你是一个 Xbox 客户支持代理，主要目标是帮助用户解决他们在使用 Xbox 设备时遇到的问题。你友好且简洁。你只提供事实性回答，不提供与 Xbox 无关的回答。"}, {"role": "user", "content": "我能在 Xbox 上玩 PC 游戏吗？"}, {"role": "assistant", "content": "虽然 Xbox 主机不原生支持 PC 游戏，但它们可以玩许多 Xbox 游戏，其中许多也可以在 PC 上玩。我可以帮你找到与你的 Xbox 设备兼容的游戏吗？"}]}
{"messages": [{"role": "system", "content": "你是一个 Xbox 客户支持代理，主要目标是帮助用户解决他们在使用 Xbox 设备时遇到的问题。你友好且简洁。你只提供事实性回答，不提供与 Xbox 无关的回答。"}, {"role": "user", "content": "我的 Xbox 连接 Wi-Fi 时遇到问题。"}, {"role": "assistant", "content": "没关系，让我们检查一下你的 Xbox 网络设置。你能告诉我你尝试连接 Wi-Fi 时发生了什么吗？"}]}支持的文件类型是 JSON Lines。文件上传到默认数据存储，并在你的项目中可用。
Azure AI Studio 允许你通过微调过程将大型语言模型定制到你的个人数据集。微调通过定制和优化特定任务和应用程序提供了显著的价值。它能提升性能、提高成本效益、减少延迟并生成定制输出。
-
登录 Azure AI Studio。
-
选择 +新项目 在 Azure AI Studio 中创建新项目。
-
执行以下任务：
- 项目 集线器名称。必须是唯一值。
- 选择要使用的 集线器（如有需要可创建新的）。
-
执行以下任务以创建新集线器：
- 输入 集线器名称。必须是唯一值。
- 选择你的 Azure 订阅。
- 选择要使用的 资源组（如有需要可创建新的）。
- 选择你要使用的 位置。
- 选择要使用的 连接 Azure AI 服务（如有需要可创建新的）。
- 选择 连接 Azure AI 搜索 到 跳过连接。
-
选择 下一步。
-
选择 创建项目。
在微调之前，收集或创建与你的任务相关的数据集，例如聊天指令、问答对或任何其他相关文本数据。通过去除噪音、处理缺失值和对文本进行分词来清理和预处理这些数据。
Note
目前在 East US 2 项目中支持微调 Phi-3 模型。
-
从左侧选项卡中选择 模型目录。
-
在 搜索栏 中输入 phi-3 并选择你想使用的 phi-3 模型。
-
选择 微调。
-
输入 微调模型名称。
-
选择 下一步。
-
执行以下任务：
- 选择 任务类型 为 聊天完成。
- 选择你要使用的 训练数据。你可以通过 Azure AI Studio 的数据上传或从本地环境上传。
-
选择 下一步。
-
上传你要使用的 验证数据，或者你可以选择 自动拆分训练数据。
-
选择 下一步。
-
执行以下任务：
- 选择你要使用的 批量大小倍增器。
- 选择你要使用的 学习率。
- 选择你要使用的 训练轮数。
-
选择 提交 以开始微调过程。
-
一旦你的模型微调完成，状态将显示为 已完成，如图所示。现在你可以部署模型并在你的应用程序、操控台或提示流中使用它。更多信息，请参见 如何使用 Azure AI Studio 部署 Phi-3 系列小型语言模型。
Note
有关微调 Phi-3 的更多详细信息，请访问 在 Azure AI Studio 中微调 Phi-3 模型。
你可以从 Azure AI Studio 的微调模型列表或从模型详情页面删除微调模型。从微调页面选择要删除的微调模型，然后选择删除按钮以删除微调模型。
Note
如果自定义模型有现有部署，你不能删除它。你必须先删除模型部署，然后才能删除自定义模型。
作为服务提供的 Phi 模型由微软提供，并与 Azure AI Studio 集成使用。你可以在部署或微调模型时，在部署向导的定价和条款选项卡下找到定价信息。
按需付费部署的服务模型受 Azure AI 内容安全保护。在部署到实时端点时，你可以选择退出此功能。启用 Azure AI 内容安全后，提示和完成都会通过一组分类模型，旨在检测和防止有害内容的输出。内容过滤系统检测并对输入提示和输出完成中的特定类别的潜在有害内容采取行动。了解更多关于 Azure AI 内容安全的信息。
微调配置
超参数: 定义超参数，例如学习率、批量大小和训练轮数。
损失函数
选择适合你任务的损失函数（例如，交叉熵）。
优化器
选择一个优化器（例如，Adam）用于训练期间的梯度更新。
微调过程
- 加载预训练模型: 加载 Phi-3 Mini 检查点。
- 添加自定义层: 添加任务特定的层（例如，聊天指令的分类头）。
训练模型 使用准备好的数据集微调模型。监控训练进度并根据需要调整超参数。
评估和验证
验证集: 将数据拆分为训练集和验证集。
评估性能
使用准确性、F1 分数或困惑度等指标评估模型性能。
检查点 保存微调模型检查点以供将来使用。
- 作为 Web 服务部署: 将你的微调模型作为 Web 服务部署在 Azure AI Studio。
- 测试端点: 向已部署的端点发送测试查询以验证其功能。
迭代: 如果性能不满意，通过调整超参数、添加更多数据或进行更多轮次的微调来迭代。
持续监控模型行为并根据需要进行优化。
自定义任务: Phi-3 Mini 可以微调用于聊天指令之外的各种任务。探索其他用例！ 实验: 尝试不同的架构、层组合和技术以提升性能。
Note
微调是一个迭代过程。实验、学习并调整你的模型以实现特定任务的最佳结果！
免责声明：本翻译由AI模型从原文翻译而来，可能不完美。 请审查输出并进行任何必要的更改。