Tensor RT 是针对Stable Diffusion进行内容生成加速的插件。通过Nvidia 硬件的功效加速图片内容的生成。
显卡:必须是英伟达显卡
显存:必须大于8G
内存:必须大于16G
显卡驱动版本:大于537.58
我们可以直接在扩展中安装TensorRT组件,点击安装等待安装完成,安装完成后我们点击重新加载界面即可完成扩展插件的安装。
默认情况下,所有的模型都必须执行TensorRT导出操作才能支持TensorRT,当前多少个模型就需要导出多少个TensorRT配置。否则有些模型将无法使用TensorRT。这里需要特别注意的是模型名字必须为英文,中文会出现错误。
在导出的模型中存在两种不同的模型,一种为静态模型,另外一种为动态模型。差别在于分辨率是否固定。
在实际的应用中,我们需要在设置中启用相关的设定。也就是启用SD_unit. 点击保存设置后重新Reload。
在默认界面中启用之后,我们就可以看到SD_Unet已经顺利启用。
在默认界面中启用之后,我们就可以看到SD_Unet已经顺利启用。