触站AI开放平台API
  1. 示例&DEMO
触站AI开放平台API
  • 触站AI API接口使用说明
  • 返回结构
  • 更新历史
  • 基础
    • 获取当前客户详情以及积分情况
  • 工作流(AI小工具)
    • 1.获取工作流(小工具)字段详情
      POST
    • 2.提交工作流(小工具)任务执行
      POST
    • 3.获取工作流(小工具)任务进度或结果
      POST
  • 应用工具(电商工具)
    • 获取应用工具选项详情
    • 提交应用工具任务
  • 通用AI绘画(触站AI绘画)
    • 提交绘画任务积分计算说明
    • controlnet使用指南
    • 提交绘画任务
    • 获取绘画任务详情
    • 提交局部重绘绘画任务
  • 模型训练
    • 提交模型训练任务
    • 获取模型训练进度或者结果
  • MJ绘画
    • 提交Midjourney绘画任务
    • 使用Midjourney获取特定图片的画面描述
    • 提交Midjourney单图放大任务
    • 提交Midjourney单图扩写绘画任务
    • 提交Midjourney单图variation(变种)任务
    • 获取Midjourney任务详情(含进度)
  • 示例&DEMO
    • DEMO | 1分钟快速实现一个AI绘画页面
    • 高级模型 | 最能听懂人话的AI绘画模型-效果展示
    • 风格ID | 不同风格效果参考(内含ModelStyleID)
    • 示例 | 通过API实现图片中隐藏文字或者图案的效果
    • 示例 | 关于大尺寸图片参数的最佳实践(惊悚慎入)
    • 示例 | 使用回调获取任务结果的最佳实践
    • 示例 | 局部重绘处理
    • 示例 | 如何使用工作流接口进行绘图
    • 概念解析 | 工作流使用独立算力卡运行【独占模式】
    • 风格上新
      • 黏土风格
  1. 示例&DEMO

概念解析 | 工作流使用独立算力卡运行【独占模式】

概念#

工作流缓存
1.
任意工作流在运行一次之后,只要输入没有变化,在下次运行的时候可以复用上一次输出的结果,这种复用行为称为工作流节点缓存,利用节点缓存,可以使得一些复杂的模型加载、逻辑处理等只需要执行一次,这就是为什么部分工作流会在首次执行的时候异常慢,但是执行过一次之后速度会加快的原因
2.
节点缓存仅与单个工作流进行绑定,一旦切换工作流执行后,缓存失效,下次重新运行需要继续重新加载,现有调度多个不同工作流会复用相同的GPU实例,因此工作流缓存不可控
3.
为了加速工作流的使用,利用缓存,引入了独占模式
什么是独占模式?
1.
开启独占模式后,系统会自动为对应的工作流启动一台独立GPU用于运行任务(解决工作流切换缓存问题)。请注意,独立显卡仅仅与单个工作流进行绑定,不会用于执行其他工作流,是为了避免缓存失效
2.
独占模式中,用户不需要关注复杂的GPU调度逻辑,仅需要关注业务对速度要求的需求即可,系统会负责复杂的GPU调度与任务分配处理。
3.
独占模式仅企业客户API中可用
独占模式怎么避免缓存失效?
1.
单个客户针对单个工作流开启独占模式后,会自动调度到固定的GPU实例,该实例(N个)为此工作流独占使用,不执行其他工作流
2.
每个客户针对单个工作流最多可以同时运行5个GPU实例,用于满足并发需求
谁需要用到独占模式?
1.
对工作流执行时间和速度有比较严格的要求
2.
工作流的执行频率比较频繁,能够很好的利用独占GPU资源
独占模式分配的GPU和资源是什么配置?
我们配备的显卡全部是RTX4090

如何计费?#

1.
启动新实例后,系统会根据实例的使用时长扣除一定的积分(按照秒计算,积分量 = 每秒积分单价 * 运行秒数),扣除积分以最终GPU运行时长为准,而不是以执行任务量的多少来进行计算
2.
计费多少根据任务所启动的GPU实例数量来,实例数量会根据当前工作流的并发自动进行扩容缩容
3.
由于GPU的冷启动和扩容会存在一定时间的延迟,因此系统会在每个GPU实例空闲一定时间后才会进行缩容(冗余),用于确保新任务能够进行被及时处理

如何使用#

API直接声明#

{
  "workflowId": "1",
  "inputs": [
    {
      "nodeId": 6,
      "paramName": "text",
      "value": "1"
    }
  ],
  // 声明独占模式
  "exclusiveMode": true
}

测试工具中使用#

https://open.czhanai.com/debug/api.html
可以为每个任务指定独立显卡运行,在调试工具打开此独占模式开关即可:
上一页
示例 | 如何使用工作流接口进行绘图
下一页
黏土风格
Built with