Resumen ejecutivo

• Un AI Operations Engineer pone y mantiene agentes y modelos en producción: monitoreo, costos, evaluación, rollback, conectores y guardrails.

• Skills clave: Python, cloud, observabilidad, LLMOps, evaluación continua y seguridad.

• Puente natural desde DevOps, data o backend; banda salarial por encima de ops tradicional cuando hay ownership de producción.

• Diferencia con Agent Ops / MLOps / LLMOps: foco en operar sistemas generativos y agentes de punta a punta.

Pasar un demo de ChatGPT a un sistema que atiende clientes de verdad es donde se rompen la mayoría de los proyectos de IA. Ahí aparece el AI Operations Engineer: la persona que hace que el agente o el modelo siga funcionando cuando cambia el prompt, sube el tráfico o un proveedor de LLM degrada latencia. Si ya leíste sobre qué hace Agent Ops con agentes de IA en producción, este artículo zoom-out al rol más amplio que cubre modelos, pipelines y operación diaria.

Qué hace día a día

• Despliegue y versionado: prompts, modelos, herramientas (tools) y políticas de retrieval versionados y revertibles.

• Monitoreo: latencia P95/P99, errores, refusals, costo por request, calidad de respuesta.

• Evaluación continua: suites de evals en CI y muestreo de producción (como recomiendan las prácticas de evaluación de OpenAI y el trabajo de Anthropic sobre evals de agentes).

• Incidentes: rollback de prompt/modelo, feature flags, degradación graceful (“modo seguro”).

• Conectores y guardrails: MCP u otras interfaces a sistemas internos, filtros de PII, rate limits, allowlists de tools.

• Costos: budgets por feature, caching, routing a modelos más baratos cuando alcanza.

Microsoft describe el monitoreo de apps generativas como la combinación de métricas de caller + dependencias (LLM, stores) y costos por tokens (playbook de monitoreo GenAI). Si no medís eso, no estás operando: estás cruzando los dedos.

Skills que piden (y en qué orden aprenderlas)

1. Python + APIs: integrar providers, escribir workers, tests.

2. Cloud y contenedores: deploy, secrets, scaling básico.

3. Observabilidad: traces, logs, dashboards (OpenTelemetry u equivalente).

4. LLMOps: versionado de prompts, evals, tracing de tool calls. Profundizá en qué es LLMOps y cómo gestionar modelos en producción en LATAM.

5. Seguridad: prompt injection, fuga de datos, control de tools peligrosas.

6. Producto: hablar con el negocio sobre “qué es un buen resultado” para diseñar evals útiles.

Sueldo en Argentina (cómo pensar la banda)

El título varía (AI Ops, LLMOps Engineer, ML Platform, AI Engineer con on-call). La banda suele ubicarse cerca de perfiles DevOps/SRE o ML Engineer según la empresa. Factores que suben la oferta:

• Experiencia real de on-call con sistemas de IA (no solo notebooks).

• Inglés para equipos remotos.

• Ownership de costos de tokens a escala.

Para comparar con roles vecinos, mirá también cuánto gana un AI Automation Specialist en Argentina.

Cómo llegar desde DevOps, data o backend

• Desde DevOps/SRE: ya tenés incidentes y observabilidad; sumá evals, prompts versionados y semántica de calidad LLM.

• Desde backend: ya integrás APIs; sumá tracing de agentes, colas y políticas de retry idempotentes.

• Desde data/ML: ya pensás en drift; adaptá el mindset a drift de comportamiento (prompts, tools, distribución de usuarios).

Un proyecto demostrable: tomar un agente simple, instrumentarlo, armar 10 evals, un dashboard de costo/latencia y un runbook de rollback. Eso pesa más que un certificado solo.

Stack típico en producción (sin fanatismo de marcas)

No hay un stack único, pero la mayoría de los equipos serios converge en capas parecidas:

• Gateway / orquestación: servicio que enruta a modelos, aplica políticas y agrega tracing.

• Store de prompts y configs: versionado con cambio revisable (PR), no un string hardcodeado en un server.

• Eval harness: dataset de casos + scorers automáticos + muestreo humano semanal.

• Observabilidad: traces por request (prompt version, model, tools, tokens, latencia).

• Feature flags: para apagar un agente o bajar a un modelo más barato sin redeploy heroico.

Si tu equipo todavía discute solo “qué modelo es más inteligente”, todavía estás en modo POC. El AI Operations Engineer cambia la conversación a “qué medimos, qué apagamos y cuánto cuesta”. Para sueldos vecinos de automatización, contrastá con AI Automation Specialist.

Cursos recomendados de Coderhouse

Para entrar al mundo de agentes y automatización: AI Agents, AI Automation y, si necesitás base, Introducción a la Inteligencia Artificial.

Preguntas frecuentes

¿Es lo mismo que MLOps? Se solapan. MLOps nace del ciclo de modelos clásicos (entrenamiento, features, drift). AI Ops / LLMOps pone el foco en LLMs, prompts, agentes y costos de inferencia.

¿Necesito un PhD? No. Necesitás ingeniería de producción y criterio de evaluación. La investigación profunda es otro rol.

¿Hay demanda en LATAM? Crece donde las empresas pasan de POC a producción. El cuello de botella suele ser operación, no el modelo.

¿Qué herramienta aprendo primero? Una nube + un framework de tracing/evals + disciplina de versionado. La herramienta específica importa menos que el hábito de medir.