掘金 人工智能 08月14日
VS Code 中把「自己部署的 Coder 模型」变成 AI 编程助手
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

本文详细介绍了如何在VS Code中利用Continue插件,集成公司内部部署的Qwen-Coder 7B小模型,打造一个完全免费且注重源码隐私的AI编程助手。通过简单的插件安装和配置文件调整,即可实现代码对话、自动补全和编辑等功能。文中具体阐述了插件的安装步骤、本地模型配置方法,包括模型名称、API地址、生成参数以及上下文集成等关键设置。最后通过实际操作演示了AI辅助生成代码并应用到文件中的流程,强调了此方案在成本控制和数据安全方面的优势,让开发者能在十分钟内拥有一个属于自己的高效AI编程伙伴。

💡 **利用Continue插件实现VS Code与本地AI模型的集成**:Continue是一款评价良好的VS Code开源AI插件,它支持对话和Tab自动补全两种交互方式,并且能够接入任何兼容OpenAI API格式的模型,包括本地部署的模型,从而实现了完全离线运行,有效保护了源代码的隐私。

⚙️ **详细配置本地Qwen2.5-Coder-7B-Instruct模型**:文章提供了具体的配置文件示例,指导用户如何设置模型名称(Qwen2.5-Coder-7B-Instruct)、提供商(openai)、API基础地址(http://ip:port/v1)以及生成参数(如temperature和top_p)。同时,该模型被配置支持对话、自动补全、编辑和应用等多种角色,以满足不同的编程辅助需求。

🌐 **丰富上下文集成提升AI助手能力**:通过配置context参数,该AI编程助手能够集成多种开发环境中的上下文信息,包括当前编辑的代码、项目文档、代码变更差异、终端输出、IDE的错误/警告信息、目录文件结构以及代码库的元信息。这些多维度的上下文信息能够显著增强模型对用户意图的理解和生成代码的准确性。

✅ **实际操作演示与效果验证**:文章通过实际操作演示了如何使用AI助手生成`CreateTask`函数代码,并展示了如何将生成的代码一键应用到VS Code文件中。如果生成的代码存在错误,用户还可以通过继续与AI交互来修改,或者直接手动编辑,这种灵活性保证了开发流程的顺畅。

💰 **低成本、高效率的AI编程解决方案**:通过在VS Code中部署和使用本地Qwen-Coder模型,开发者可以避免使用昂贵的第三方付费AI模型,从而显著降低了开发成本。整个配置过程可在十分钟内完成,快速为开发者提供一个既省钱又安全、高效的专属AI编程助手。

公司内部部署了一个QWen-Coder的7B小模型,这个模型虽然不大,但是验证后发现效果还不错。

所以,希望能够在VS Code中使用这个模型来辅助编写代码,这样就可以避免使用其他付费模型。

1. 安装插件

在 VS Code 的开源 AI 插件中,Continue 这个插件评价还不错,功能也能满足要求:

因此,决定使用此插件来构建AI编程助手。

插件在:marketplace.visualstudio.com/items?itemN…

安装之后,VS Code 的边栏上会多一个图标。

2. 配置本地模型

接下来,我们配置它使用我们自己部署的模型:

依次点击左侧活动栏上 Continue 图标 -->选择Models --> 右上角齿轮。

就可以打开 Continue 的配置文件(yaml格式的),然后参照如上图的配置。

配置文件中,各个元素的含义如下:

    基本信息
name: Local Assistantversion: 1.0.0schema: v1
    模型配置
models:  - name: Qwen2.5-Coder-7B-Instruct    provider: "openai"    model: "Qwen2.5-Coder-7B-Instruct"    apiBase: "http://ip:port/v1"    apiKey: ""    completion_options:      temperature: 0.5      top_p: 0.9    roles:      - chat      - autocomplete      - edit      - apply
    上下文集成
context:  - provider: code  - provider: docs  - provider: diff  - provider: terminal  - provider: problems  - provider: folder  - provider: codebase

配置工具可访问的上下文来源(增强模型对当前任务的理解):

总得来说,此配置文件定义了一个本地代码助手,通过HTTP API连接到一个 Qwen2.5-Coder 模型,支持代码补全、编辑、聊天等功能,并集成了开发环境的多维度上下文(代码、终端、文档等)。

3. 验证效果

最后,我们来验证下模型的效果。

首先 **@** 一个代码文件,下面的示例中是我的一个工程中的代码:

接下来,我们让AI帮我们生成CreateTask这个函数的代码:

然后,点击生成的代码右上角的 【Apply】按钮,就能将生成的代码填充到文件中。

点击右上角绿色的勾,就能将代码写入文件,如果代码有错误,可以继续通过prompt交互来修改代码,

或者直接修改代码文件也行。

4. 总结

十分钟内,你就能在 VS Code 里用上「完全属于自己」的 AI 编程助手,既省钱又安心。Happy coding!

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

Qwen-Coder VS Code AI编程助手 本地模型 Continue插件
相关文章