BaoShare
AI 教程AI教程3 次浏览 · 2026-11-14

Kaggle:免费部署 DeepSeek 无审查大模型与 API 接口实战指南

原文链接

https://youtu.be/lTkQGfvFq5M?is=CWIN6lFPlSsA9f2v
打开链接

封面配图

一、核心概述

在本地或云端运行大语言模型(LLM)往往受限于算力成本与严格的模型安全审核机制。本教程将演示如何利用 Kaggle 提供的免费 GPU 算力,部署经 DeepSeek-V4-Pro 蒸馏与微调的无审查(Uncensored/Jailbroken)大模型 DeepSeek-V4-Pro-Qwen-3.5B-9B,并结合内网穿透技术对外暴露标准 OpenAI API 接口。

功能亮点:

  • 零成本算力:免费调用 Kaggle 平台提供的双 T4 GPU 算力资源。
  • 持久化存储:开启 Persistence(文件持久化)设置,避免重新启动机器时反复下载数 GB 的模型权重,大幅缩短加载时间。
  • 无审查推理:采用微调与蒸馏的解封模型,兼具高水平逻辑推理能力且不受常规安全策略拒答限制。
  • 标准 API 接入:生成兼容 OpenAI 格式的通用 API 接口,可无缝接入 Sider 浏览器插件、第三方 WebUI 或自定义应用中。

本教程根据 YouTube 视频字幕整理,原始视频链接见原文出处。

二、实操步骤与核心流程详解

1. Kaggle Notebook 创建与脚本导入

  • 登录 Kaggle 官网,点击左侧菜单栏 「Create」,选择 「Notebook」 新建脚本文件。
  • 进入空白编辑界面后,点击顶部菜单栏 「File」 -> 「Import Notebook」。
  • 选择并上传预先准备好的 .ipynb 部署脚本文件,导入成功后即可载入完整的自动化部署流程。

2. 配置 GPU 硬件与持久化存储(Persistence)

  • 打开右侧 「Settings」 设置面板。
  • 硬件选择:在 Accelerator 下拉框中选择 「GPU T4 x 2」,开启双显卡并行加速。
  • 开启持久化存储:将面板拉至最底部找到 「Persistence」 选项,将其下拉菜单设置为 「File only」。开启后,第一次运行下载的模型文件将被永久保存在当前实例存储空间中,下次启动直接加载本地文件即可。

3. 配置内网穿透 Token

  • 注册并登录免费内网穿透服务平台(支持 Google 账号一键登录),复制个人后台的 Authtoken 密钥。
  • 回到 Kaggle 界面,在右侧面板找到 「Environment Variables / Secrets」 区域,点击 「Add」 添加环境变量:
    • Key 填入 authtoken
    • Value 粘贴刚复制的密钥字符串
  • 保存后该环境变量会被 Kaggle 账号记住,后续无需重复配置。

4. 启动部署脚本与模型加载

  • 点击顶部运行按钮 「Run」。脚本首先会自动检测 GPU 环境与依赖包。
  • 初次运行:脚本会自动拉取并下载大模型权重文件;
  • 再次运行:系统校验到 Persistence 存储区已有模型缓存,会自动跳过下载并直接解压载入,极大地提升启动速度。
  • 服务成功启动后,脚本会在控制台日志(Console Log)中打印出生成的公网内网穿透 API 地址。

5. 客户端/浏览器插件连接(以 Sider 插件为例)

  • 打开 Sider 浏览器扩展插件(或任意支持 OpenAI API 格式的 WebUI 工具),进入设置页面。
  • 选择 「OpenAI compatible API」(OpenAI 兼容接口),点击 「Add Provider」:
    • API Base URL:填写控制台输出的公网内网穿透地址。
    • API Key:填入生成的服务密钥。
  • 重要避坑配置(Custom Header):由于内网穿透服务包含中间验证页,必须在插件中设置 Custom Header 参数,以便请求直接穿透中转层。
  • 点击 「Update」 保存配置,在模型管理中添加自定义模型名称 DeepSeekV4 Pro-Qwen-3.5-7B-latest 并确认选定。新建对话即可体验高速、无拒答的推理服务。

三、实战技巧与核心小结

  • 显存占用与运行效率:该 9B 规模的精简模型在实际运行中仅消耗 9 ~ 10 GB 显存,而 Kaggle 单张 T4 显卡即提供 15 GB 显存,双卡配置下算力充沛,Token 生成速度飞快。
  • 防止重复下载:切记在首次运行前勾选 Persistence -> File only,这是实现高效二次启动的核心设置。
  • 交互体验:部署完成后的 API 接口具备极高兼容性,面对复杂的编程、研究或突破限制的 Prompt 指令时,模型能保持深度思考且不会触发拒绝回答逻辑。

相关推荐

返回资源大厅