Vocês oferecem servidores Linux com suporte para GPU?

Sim: placas NVIDIA série A e RTX para cargas de trabalho de ML/AI, renderização ou transcodificação.