Request for Rate Limit Increase – NVIDIA NIM (Llama 405B for V# language development)

AI & Data Science NVIDIA NIM Access/Accounts
, , ,
1

Hello NVIDIA Support Team,

I am requesting a rate limit increase for my NVIDIA NIM API account.

Current limit: 40 RPM
Requested limit: 200 RPM (or the next available tier for individual developer use)

Project details:
Estoy desarrollando V#, mi propio lenguaje de programación. Es un híbrido entre C# y Rust que incluye:

  • Bloques de Transmutación [[ *| |* ]]
  • Procesamiento vectorial nativo con palabras reservadas como FLOW, VÓRTICE, GÉLIDO, EMINENCE y PÁNICO
  • Ownership asistido por IA durante la fase de compilación

Uso principalmente el modelo Llama 3.1 405B (y variantes) a través de NIM para desarrollar el parser (en Python), el compilador (en C++) y el runtime optimizado para GPUs.

El límite actual de 40 RPM genera muchos errores de “Too Many Requests” y conflictos de “single tool calls” cuando trabajo en Cursor con Agent/Composer. Esto ralentiza significativamente el desarrollo del lenguaje.

Use case: Desarrollo de un lenguaje propio con integración nativa de IA en el compilador.

Agradezco cualquier aumento de rate limit que puedan otorgar para poder continuar el proyecto de forma fluida.

Gracias de antemano por su ayuda.

Saludos,
Aaron

2

Hi there,

I can elevate this internally to the team, as many others have had similar requests, but we cannot approve rate-limit increases directly from the forum.

I know that’s not the answer you are looking for, but I will do my best to ensure forum posters are heard in the decision-making process.

Thanks,

Aharpster