Pygmalion推理引擎开源

Aphrodite引擎可以用于减少VRAM需求，提高AI推理工作负载的吞吐量。Pygmalion推理引擎是一种全新的AI推理引擎，它可以在减少VRAM需求的同时提高吞吐量。该引擎基于Aphrodite引擎并进行了优化，可以在保持准确性的同...

Read More