在运行提示时允许取消预测

Open Assistant 非常好用,但有时它会预测出一个长的答案,而我立刻就能发现其中的误解。这可能是因为我的提示有问题,我太晚才意识到这一点,或者模型产生了幻觉。无论如何,等待整个预测加载都会显著降低用户体验(由于等待时间)。能够中断预测会很有用。