Resumen ejecutivo

• El LLM Engineer diseña, evalúa y opera sistemas con modelos de lenguaje en producción: RAG, evals, costos de tokens y seguridad de prompts.

• Se ubica entre el ML Engineer (entrenamiento) y el AI Engineer genérico: el foco es calidad medible, latencia y costo por consulta.

• Desde data o backend podés entrar si ya dominás Python/APIs y sumás retrieval, harness de evaluación y guardrails.

• Skills clave: pipelines RAG, frameworks de eval (RAGAS/DeepEval), observabilidad, guardrails y trade-offs de modelo vs costo.

Si venís de data engineering, analytics o backend y querés especializarte en IA aplicada, el rol de LLM Engineer es uno de los puentes más claros del mercado. El ángulo acá es el día a día real —evaluación de modelos, RAG, costos y seguridad— no el “prompt engineering” aislado. ¿Por qué ahora? Porque las empresas ya pasaron de demos a SLAs: necesitan perfiles que midan faithfulness, controlen tokens y eviten jailbreaks. Si querés contrastar con otros roles de datos, conviene mirar también Business Intelligence como carrera y qué hace un Data Engineer.

Qué hace un LLM Engineer día a día

• Arquitectura RAG: chunking, embeddings, búsqueda híbrida, re-ranking y freshness del corpus.

• Evals: golden sets, métricas de relevancia/hallucination, LLM-as-judge calibrado y regresión en CI.

• Costos y latencia: tokens de entrada/salida, caching, choice de modelo y cuotas de API.

• Seguridad: prompt injection, PII redaction, guardrails y rechazo de usos ofensivos.

• Integración: APIs, microservicios, tracing y monitoreo en producción.

LLM Engineer vs ML Engineer vs AI Engineer

El ML Engineer suele entrenar o fine-tunear modelos y operar pipelines de features. El AI Engineer es un paraguas más amplio (agentes, automatización, producto). El LLM Engineer se especializa en sistemas de lenguaje en producción: retrieval, evaluación y costos. En muchas startups el título se mezcla; mirá el JD: si habla de RAGAS, vector DB y faithfulness, es este rol.

Skills que piden (y cómo demostrarlas)

1. Python + APIs de LLM: OpenAI, Anthropic, Vertex o equivalentes; manejo de streaming y tool calling.

2. RAG real: un pipeline con corpus propio, métricas de retrieval (MRR/nDCG) y respuesta grounded.

3. Eval harness: suite offline + gate de calidad antes de deploy; números, no “se siente mejor”.

4. Observabilidad: traces, costo por query, tasa de rechazo de guardrails.

5. Seguridad de prompts: casos de injection que testeaste y mitigaste.

Referencias externas útiles: análisis de requisitos reales en LLM Engineer job reqs y la intro oficial de streaming/datos en stacks modernos vía documentación de plataformas como Apache Kafka cuando el corpus llega en tiempo real. Para testing de calidad, el criterio de un QA también ayuda: mirá el puente con QA Tester.

Cómo entrar desde data o desarrollo

• Tomá un caso interno (FAQ, docs de producto) y armá un RAG con eval suite de 50–100 preguntas.

• Documentá costo, latencia p95 y faithfulness antes/después de cada cambio de chunking o modelo.

• Publicá el repo con README claro: arquitectura, métricas y limitaciones.

• Postulate a títulos “LLM Engineer”, “RAG Engineer”, “AI Platform” o “Applied AI”.

Cursos recomendados de Coderhouse

Para fundamentos de IA aplicada, Introducción a la Inteligencia Artificial y AI Agents te dan el marco de agentes y orquestación. Si venís de datos, sumá Data Analytics para el músculo de métricas y experimentación.

CTA: esta semana elegí un corpus chico (PDFs o Notion de tu equipo), armá un RAG mínimo con 3 métricas de calidad y un checklist de prompt injection. Formate en Intro IA o AI Agents en Coderhouse para acelerar el salto al rol.

Preguntas frecuentes

¿Hace falta un PhD en ML? No. Contás más un sistema en producción con evals y trade-offs de costo que papers de entrenamiento.

¿Prompt engineering alcanza? Solo como skill inicial. El diferencial es retrieval + evaluación + guardrails.

¿SQL y data engineering sirven? Mucho: limpieza de corpus, pipelines de ingestión y calidad de datos son el 50% del trabajo RAG.

¿Cuál es el siguiente paso de carrera? Senior LLM/AI Platform, Staff Applied AI o liderazgo de AI Quality.