### [如何连接到本地FauxPilot服务器：开启自己的本地代码生成之旅](https://dashen.wang/article/30833)

**Published:** 2023-09-14T14:50:09

**Author:** 大神

**Excerpt:** 代码生成是一项令人兴奋的技术，可以帮助开发人员更快速、更高效地编写代码。FauxPilot是一个本地代码生成服务器，让你在不依赖云服务的情况下，体验到强大的代码生成功能。在本文中，我们将介绍如何连接到FauxPilot服务器，以便开始你的本地代码生成之旅。 引子：为什么需要连接FauxPilot服务器？ FauxPilot的魅力在于它的本地部署，但要充分利用它，你需要知道如何与服务器进行通信。我们将向你介绍三种连接方式：通过API、使用Curl的RESTful API以及配置官方VSCode Copilot插件。现在，让我们开始连接FauxPilot服务器的探索之旅吧！ 连接方式1：使用API 一旦你已经成功启动FauxPilot服务器，服务器将会在http://localhost:5000上监听请求。你可以使用标准的OpenAI API与服务器进行通信，尽管目前尚未实现完整的API。以下是一个示例，展示了如何使用Python中的OpenAI Python绑定与FauxPilot服务器进行通信： 在这个示例中，我们设置了OpenAI的API密钥和基础URL，然后使用 方法发送一个代码片段的提示，以获取生成的代码。 连接方式2：使用Curl与RESTful API 如果你更喜欢使用Curl和RESTful API进行通信，也可以轻松做到。以下是一个使用Curl的示例命令，向FauxPilot服务器发送请求以获取代码生成： 这个命令使用Curl工具向FauxPilot服务器发送一个HTTP POST请求，包含了生成代码所需的参数。服务器将返回生成的代码。 连接方式3：配置Copilot插件 最令人兴奋的方式之一是配置官方VSCode Copilot插件，让它使用你的本地服务器。只需编辑你的VSCode设置文件（settings.json）并添加以下配置： 通过这些设置，你可以让Copilot插件使用你的本地服务器来提供代码建议。但请注意，可能会存在一些细微的问题，特别是服务器返回的概率部分是虚构的。解决这个问题需要改进FasterTransformer，以便它可以返回前k个标记的对数概率，而不仅仅是所选的标记。 另一个使用Copilot插件的问题是，它的分词器（将文本转换为模型输入所需的整数序列的组件）与CodeGen使用的不完全相同，因此插件有时会发送比CodeGen可以处理的更长的请求。你可以通过将Copilot扩展中的vocab.bpe和tokenizer.json文件替换为这里找到的文件来解决此问题。 愉快的编码吧！ 结束语 连接到FauxPilot服务器是开始你的本地代码生成之旅的关键步骤。无论你是想要使用API、Curl，还是配置Copilot插件，都可以轻松地与服务器进行通信，获得强大的代码生成功能。现在，你可以开始探索FauxPilot的潜力，提高你的代码编写效率。 无论你是一位开发人员寻找效率，还是对这个项目充满好奇，都可以尝试一下FauxPilot，并体验一下本地代码生成的乐趣。开启你的代码创作之旅吧！

代码生成是一项令人兴奋的技术，可以帮助开发人员更快速、更高效地编写代码。FauxPilot是一个本地代码生成服务器，让你在不依赖云服务的情况下，体验到强大的代码生成功能。在本文中，我们将介绍如何连接到FauxPilot服务器，以便开始你的本地代码生成之旅。

## 引子：为什么需要连接FauxPilot服务器？

FauxPilot的魅力在于它的本地部署，但要充分利用它，你需要知道如何与服务器进行通信。我们将向你介绍三种连接方式：通过API、使用Curl的RESTful API以及配置官方VSCode Copilot插件。现在，让我们开始连接FauxPilot服务器的探索之旅吧！

## 连接方式1：使用API

一旦你已经成功启动FauxPilot服务器，服务器将会在http://localhost:5000上监听请求。你可以使用标准的OpenAI API与服务器进行通信，尽管目前尚未实现完整的API。以下是一个示例，展示了如何使用Python中的OpenAI Python绑定与FauxPilot服务器进行通信：

```
import openai

openai.api_key = 'dummy'
openai.api_base = 'http://127.0.0.1:5000/v1'

result = openai.Completion.create(model='codegen', prompt='def hello', max_tokens=16, temperature=0.1, stop=["\n\n"])
```

在这个示例中，我们设置了OpenAI的API密钥和基础URL，然后使用`openai.Completion.create`方法发送一个代码片段的提示，以获取生成的代码。

## 连接方式2：使用Curl与RESTful API

如果你更喜欢使用Curl和RESTful API进行通信，也可以轻松做到。以下是一个使用Curl的示例命令，向FauxPilot服务器发送请求以获取代码生成：

```
$ curl -s -H "Accept: application/json" -H "Content-type: application/json" -X POST -d '{"prompt":"def hello","max_tokens":100,"temperature":0.1,"stop":["\n\n"]}' http://localhost:5000/v1/engines/codegen/completions
```

这个命令使用Curl工具向FauxPilot服务器发送一个HTTP POST请求，包含了生成代码所需的参数。服务器将返回生成的代码。

## 连接方式3：配置Copilot插件

最令人兴奋的方式之一是配置官方VSCode Copilot插件，让它使用你的本地服务器。只需编辑你的VSCode设置文件（settings.json）并添加以下配置：

```
"github.copilot.advanced": {
    "debug.overrideEngine": "codegen",
    "debug.testOverrideProxyUrl": "http://localhost:5000",
    "debug.overrideProxyUrl": "http://localhost:5000"
}
```

通过这些设置，你可以让Copilot插件使用你的本地服务器来提供代码建议。但请注意，可能会存在一些细微的问题，特别是服务器返回的概率部分是虚构的。解决这个问题需要改进FasterTransformer，以便它可以返回前k个标记的对数概率，而不仅仅是所选的标记。

另一个使用Copilot插件的问题是，它的分词器（将文本转换为模型输入所需的整数序列的组件）与CodeGen使用的不完全相同，因此插件有时会发送比CodeGen可以处理的更长的请求。你可以通过将Copilot扩展中的vocab.bpe和tokenizer.json文件替换为[这里](#%E9%93%BE%E6%8E%A5%E8%87%B3%E5%85%B7%E4%BD%93%E6%96%87%E4%BB%B6%E7%9A%84%E4%BD%8D%E7%BD%AE)找到的文件来解决此问题。

愉快的编码吧！

## 结束语

连接到FauxPilot服务器是开始你的本地代码生成之旅的关键步骤。无论你是想要使用API、Curl，还是配置Copilot插件，都可以轻松地与服务器进行通信，获得强大的代码生成功能。现在，你可以开始探索FauxPilot的潜力，提高你的代码编写效率。

无论你是一位开发人员寻找效率，还是对这个项目充满好奇，都可以尝试一下FauxPilot，并体验一下本地代码生成的乐趣。开启你的代码创作之旅吧！

**Tags:** AI, Python, 教程

**Categories:** 技术折腾

---