🆕 最新 Gemini 1.5 Pro 模型已加入!
- 支持系统指令设置(System Instruction)
- 支持多模态 + 多轮对话
- 可以读取视频、音频等文件(上限 20G)
- 支持输入的 token 上限达到了 104万8576
- 目前速率限制比较严,每分钟只有 2 次,每天只有 1000 次
已支持文件上传功能,不过还仅限于单个文件(图片、txt文件、pdf文件、音频mp3文件等),未来会支持多文件上传(用于读取视频)
All-in-One LoRa Training 预处理、自动打标、训练、测试 LoRA 一条龙工作流
All-in-One.LoRa.Training.mp4
V2.0 聊天机器人节点
12.22.mp4
将 Gemini pro vision 用于批量打标
12.30.mp4
-
将 Google Gemini 引入到 ComfyUI 中,现在你可以用它为你生成提示词、描述图像,也可与它畅聊人生
-
目前 Gemini API 免费开放(20240502 开始计费),你可以在这里申请一个自己的 API Key:Gemini API 申请
-
最新 Gemini 1.5 Pro 模型:
- 支持系统指令设置(System Instruction)
- 支持多模态 + 多轮对话,
- 可以读取视频、音频等文件(上限 20G)
- 支持输入的 token 上限达到了 104万8576
- 目前速率限制比较严,每分钟只有 2 次,每天只有 1000 次
-
版本:V3.0 新增 Gemini 1.5 Pro 模型、系统指令、文件上传
-
Gemini 目前提供 3 种模型:
-
Gemini-pro: 文本模型
-
Genimi-pro-vision: 文本 + 图像模型
-
Gemini 1.5 Pro:文本 + 图像 + 文件(音频、视频等各类) 模型
-
-
Gemini 1.5 Pro 新节点:
-
🆕Gemini_15P_Advance_Zho:支持系统指令设置(System Instruction)
-
🆕Gemini_15P_Chat_Advance_Zho:支持系统指令设置(System Instruction)+ 多轮对话
-
📄Gemini_FileUpload_Zho:支持单文件上传(图片、音频、文本txt、pdf等),暂未支持视频(多文件)上传
-
📄Gemini_File_Zho:文件读取对话,最大 token 数为 1048576
-
-
2 类节点:
-
隐式 API KEY:将 Gemini_API_Key 设置为了环境变量,更安全,方便分享工作流(不会外泄 API KEY)
㊙️Gemini_Zho:同时支持 3 种模型,其中 Genimi-pro-vision 和 Gemini 1.5 Pro 可接受图像作为输入
㊙️Gemini_Vsion_ImgURL_Zho:Genimi-pro-vision 和 Gemini 1.5 Pro 模型,接受图像链接作为输入
㊙️Gemini_Chat_Zho:Genimi-pro 和 Gemini 1.5 Pro 模型,支持上下文对话,聊天机器人,Gemini 1.5 Pro 支持图像输入的上下文对话
-
显式API KEY:直接在节点中输入 Gemini_API_Key,仅供个人私密使用,请勿将包含 API KEY 的工作流分享出去
✨Gemini_API_Zho:同时支持 3 种模型,其中 Genimi-pro-vision 和 Gemini 1.5 Pro 可接受图像作为输入
✨Gemini_API_Vsion_ImgURL_Zho:Genimi-pro-vision 和 Gemini 1.5 Pro 模型,接受图像链接作为输入
✨Gemini_API_Chat_Zho::Genimi-pro 和 Gemini 1.5 Pro 模型,支持上下文对话,聊天机器人,Gemini 1.5 Pro 支持图像输入的上下文对话
-
-
辅助节点:
-
✨DisplayText_Zho:显示文本
-
✨ConcatText_Zho:使用 “,” 连接文本
-
-
节点示例:
聊天机器人
- image(非必要):选择 Gemini-pro 时无需接入图像,选择 Genimi-pro-vision 时需要接入图像,选择 Gemini 1.5 Pro 既可接入也可不接
- prompt:提示词
- model_name:模型选择,Gemini-pro 或 Genimi-pro-vision 或 Gemini 1.5 Pro
- stream:流式传输响应
- api_key:输入 Gemini_API_Key (仅在显式节点上有)
-
首先需要申请一个自己的 Gemini_API_Key:Gemini API 申请
-
选择隐式节点㊙️(推荐):将你的 Gemini_API_Key 添加到
config.json
文件中,运行时会自动加载 -
选择显示节点✨:直接将 Gemini_API_Key 输入到节点的 api_key 中(注意:请勿将包含此节点的工作流分享出去,以免泄露你的 API Key)
-
使用注意:本地使用请确保你可以有效连接到 Google Gemini 的服务,推荐使用 Colab 或 Kaggle(无连接问题)
-
使用新版 Gemini 1.5 Pro 需要更新依赖 google-generativeai > 0.4.1
-
推荐使用管理器 ComfyUI Manager 安装
-
手动安装:
cd custom_nodes
git clone https://github.com/ZHO-ZHO-ZHO/ComfyUI-Gemini.git
cd custom_nodes/ComfyUI-Gemini
pip install -r requirements.txt
- 重启 ComfyUI
Gemini 1.5 Pro + Stable Diffusion + ComfyUI = DALL·3
20240411
-
V3.0版:新增 Gemini 1.5 Pro 模型、系统指令、文件上传
-
新增 平替 DALL·3 工作流(Gemini 1.5 Pro + Stable Diffusion + ComfyUI = DALL·3)
20231229
- V2.1版:修复 Deadline of 60.0s bug,方法来自官方:google-gemini/generative-ai-python#117
20231222
- V2.0版:新增上下文聊天节点,相当于聊天机器人
- 💬Gemini_Chat_Zho(隐式)
- 💬Gemini_API_Chat_Zho(显示)
20231221
-
V1.1版:修改 API KEY 的加载方式为自动添加 config.json ,将 API KEY 写入即可
-
已登陆 manager 不用手动安装了
20231220
- 实现 Genimi-pro-vision 模型调用,支持图像或图像链接输入
- 增加隐式节点,更加安全
- 增加辅助节点
20231219
- 创建 ComfyUI Gemini 项目,实现 Gemini-pro 模型调用
📬 联系我:
- 邮箱:zhozho3965@gmail.com
- QQ 群:839821928
🔗 社交媒体:
💡 支持我:
- DisplayText节点参考了:ComfyUI_Custom_Nodes_AlekPet,感谢 AlekPet !