如何使用Chat模型进行微调：一个食谱命名实体识别教程

在数字时代，人工智能技术正不断演进，为我们的生活和工作带来了革命性的变化。开放AI（OpenAI）的GPT-3.5-turbo模型是一项重要的技术，它可以用于各种自然语言处理任务，包括聊天和命名实体识别（NER）。本教程将向您展示如何使用GPT-3.5-turbo进行微调，以执行食谱命名实体识别任务。

1. 引子：解锁人工智能的潜力

在当今的数字世界中，人工智能技术正日益成熟和普及。无论是自动化客户支持，还是从大规模数据中提取有用信息，AI都发挥着关键作用。而GPT-3.5-turbo模型是一种强大的AI工具，可以用于许多自然语言处理任务，使您能够创建智能聊天机器人，或者像本教程一样执行命名实体识别任务。

2. 准备工作：设置环境

在开始微调之前，确保您已经安装了最新版本的OpenAI Python包，并已获取了OpenAI API密钥。这个密钥将用于与GPT-3.5-turbo模型进行通信。

# 安装最新版本的OpenAI Python包
!pip install --upgrade openai

import json
import openai
import os
import pandas as pd
from pprint import pprint

# 添加您的OpenAI API密钥
OPENAI_API_KEY = os.getenv("OPENAI_API_KEY", "")

3. 数据准备：准备数据进行微调

在进行微调之前，您需要准备训练数据。在本教程中，我们将使用食谱数据集，并从中提取通用的食材名称作为命名实体。以下是数据准备的步骤：

3.1 数据集加载和筛选

为了进行微调，我们需要一个特定领域的数据集。数据集应该足够专注，以便模型可以学习，但也要足够通用，以便不会错过未见过的示例。在本教程中，我们从RecipesNLG数据集中提取了一个子集，该子集只包含来自www.cookbooks.com的文档。

# 读取我们将在此任务中使用的数据集
recipe_df = pd.read_csv("data/cookbook_recipes_nlg_10k.csv")

# 显示数据集的前几行
recipe_df.head()

3.2 数据格式转换

在微调时，我们需要将数据转换为适用于ChatCompletion格式的训练示例。每个训练示例都是一个包含多个消息的对话列表。以下是数据转换的示例代码：

training_data = []

system_message = "You are a helpful recipe assistant. You are to extract the generic ingredients from each of the recipes provided."

def create_user_message(row):
    return f"""Title: {row['title']}\n\nIngredients: {row['ingredients']}\n\nGeneric ingredients: """

def prepare_example_conversation(row):
    messages = []
    messages.append({"role": "system", "content": system_message})

    user_message = create_user_message(row)
    messages.append({"role": "user", "content": user_message})

    messages.append({"role": "assistant", "content": row["NER"]})

    return {"messages": messages}

# 对数据集的每一行应用数据转换函数
training_data = recipe_df.apply(prepare_example_conversation, axis=1).tolist()

3.3 上传文件

将转换后的数据保存为.jsonl文件，然后上传到OpenAI的Files端点，以供微调使用。

def write_jsonl(data_list: list, filename: str) -> None:
    with open(filename, "w") as out:
        for ddict in data_list:
            jout = json.dumps(ddict) + "\n"
            out.write(jout)

# 保存训练数据和验证数据为.jsonl文件
training_file_name = "tmp_recipe_finetune_training.jsonl"
write_jsonl(training_data, training_file_name)

validation_file_name = "tmp_recipe_finetune_validation.jsonl"
write_jsonl(validation_data, validation_file_name)

# 使用OpenAI的Files端点上传文件
training_response = openai.File.create(
    file=open(training_file_name, "rb"), purpose="fine-tune"
)
training_file_id = training_response["id"]

validation_response = openai.File.create(
    file=open(validation_file_name, "rb"), purpose="fine-tune"
)
validation_file_id = validation_response["id"]

4. 微调模型

现在，我们可以使用准备好的文件创建微调任务。在创建任务时，我们需要指定训练文件、验证文件、模型名称和可选的后缀来标识模型。以下是微调模型的示例代码：

response = openai.FineTuningJob.create(
    training_file=training_file_id,
    validation_file=validation_file_id,
    model="gpt-3.5-turbo",
    suffix="recipe-ner",
)

job_id = response["id"]

您可以使用以下代码检查微调任务的状态：

response = openai.FineTuningJob.retrieve(job_id)

print("Job ID:", response["id"])
print("Status:", response["status"])

5. 跟踪微调进度

微调任务可能需要一些时间来完成。您可以使用以下代码跟踪微调进度：

response = openai.FineTuningJob.list_events(id=job_id, limit=50)

events = response["data"]
events.reverse()

for event in events:
    print(event["message"])

6. 微调成功！

一旦微调任务完成，您将获得一个微调模型的ID。以下是

如何获取微调模型的示例代码：

response = openai.FineTuningJob.retrieve(job_id)
fine_tuned_model_id = response["fine_tuned_model"]

print("Fine-tuned model ID:", fine_tuned_model_id)

7. 使用微调模型进行推理

最后，您可以使用微调的模型来执行推理。只需调用ChatCompletions并指定微调模型的名称和消息列表。以下是如何使用微调模型进行推理的示例代码：

test_df = recipe_df.loc[201:300]
test_row = test_df.iloc[0]
test_messages = []
test_messages.append({"role": "system", "content": system_message})
user_message = create_user_message(test_row)
test_messages.append({"role": "user", "content": create_user_message(test_row)})

response = openai.ChatCompletion.create(
    model=fine_tuned_model_id, messages=test_messages, temperature=0, max_tokens=500
)
print(response["choices"][0]["message"]["content"])

8. 结论

通过本教程，您已经学会了如何使用GPT-3.5-turbo模型进行微调，以执行食谱命名实体识别任务。这个过程涵盖了数据准备、模型微调和推理的所有关键步骤。希望这个教程对您在自然语言处理领域的工作和项目中有所帮助。

本文由作者王大神原创发布于大神网的AI博客。

转载请注明作者：王大神

原文出处：如何使用Chat模型进行微调：一个食谱命名实体识别教程