Para asignar más RAM a tu servidor de Minecraft, primero selecciona tu Instancia (Instance) y haz clic en Administrar (Manage):

Desde allí, navega a la sección Configuración (Configuration):

El límite de memoria (MB) se encontrará en Java o en la sección Java y memoria.
NOTAS:
-
El valor predeterminado para el límite de memoria (MB) es 1028 MB.
-
No puedes configurar más memoria de la que proporciona tu plan.
-
Recomendamos ahorrar al menos 512 MB de la RAM proporcionada para evitar bloqueos e inestabilidades del servidor.
-
Por ejemplo, si tu VPS tiene 2GB de RAM, la configuración máxima para el límite de memoria debe ser 1536 MB, en caso de que necesites más memoria, considera mejorar.