大佬们，只使用已经训练好的模型对配置很高吗？

公司刚刚接触了深度学习，用的是1660s显卡，训练时间多久倒无所谓，主要是对运行时间有要求。需要从400ms/次降到60ms/次，现在厂家人员给的建议就是加高配置显卡，这样可能整台机需要12块高端显卡太恐怖了，但也有听别的厂家说只是训练时要用到高端显卡，使用时对配置要求不高的说法，不知道这两种那种是正确的呢？