Barbara Gaspar
FinOps Specialist
Sobre Barbara
Especialista FinOps con 7 años de experiencia liderando implementaciones técnicas, operaciones en la nube (AWS, AZURE, GCP) y gestión de soporte técnico para clientes de diferentes sectores, resolviendo casos técnicos con la colaboración de equipos internos y externos. Ganadora de la presea Jóvenes con Valores, y del primer lugar del premio Daniel Cosío Villegas, autora de 7 libros sobre tecnología y FinOps. Cuenta con todas las certificaciones de la FinOps Foundation
Sus charlas
FinOps para cargas de Gen AI en AWS: Kiro, MCP y otros trucos de magia
AWS se ha convertido en unos de los proveedores nube, con una de las plataformas más flexibles para aplicaciones de inteligencia artificial generativa (Gen AI), un entorno favorecedor para el desarrollo de esta tecnología, lo que al mismo tiempo ha traído complejidades adicionales para la implementación de la metodología FinOps, estas cargas de trabajo son impredecibles y lejanas a los procesos de desarrollo de otros tipos de tecnología alojados en la nube, derivado de los tipos de costo generados por la conexión entre servicios, los tipos de respuesta, requisitos de precisión, tiempos de entrenamiento, entre otros, conocidos como costos adyacentes, de negocio y del modelo (esto implica mucha optimización). Este contexto, podría parecer preocupante para quienes inician con la experimentación de esta tecnología dentro de AWS, sin embargo, si recordamos, los principios fundamentales de la metodología FinOps, ésta, persigue la mejora tecnológica continúa, por lo que la optimización de cargas de trabajo de Gen AI, se ha convertido en una prioridad. Esta charla, tiene tres objetivos específicos: Identificar las principales implicaciones de costo sobre Gen AI dentro AWS, como los costos implicados con el tiempo de procesamiento e inferencia (y los servicios que se consumen, como cómputo, almacenamiento, transferencia de datos, etc.), el modelo de consumo basado en APIS, y cómo monitorearlos Ejercicio implementando Bedrock y Sage Maker, para ejecutar optimizaciones de uso, como buenas prácticas de arquitectura, selección adecuada de servicios, optimización del consumo de tókens, entre otras; y optimizaciones de costo, como precios escalonados, adquisición de opciones de ahorro por consumo y por volumen, y gestión de capacidad aprovisionada. Esta sección, nos permitirá diseñar en conjunto la estrategia de equilibrio entre las variables clave de Gen AI: privacidad-calidad-servicio Definición de buenas prácticas organizacionales, como la gestión y evaluación de indicadores como métricas de desempeño, gestión de ciclo de vida de modelos, y la implementación de bucles de retroalimentación entre operaciones, desarrollo y usuarios, de esta manera, se alcanzan los diferentes ejes de optimización planteados para la infraestructura IA Como resultado, los/as asistentes tendrán las herramientas básicas para optimizar cargas de trabajo de IA alojadas en AWS, de forma estratégica y ágil, incrementando valor a sus proyectos, gracias a la optimización de costos e infraestructura, planteados por FinOps. Nota: La charla considera las diferencias entre Inteligencia Artificial y Gen AI, ambas ( y los servicios implicados) son integrados como objeto de optimización para ampliar el alcance
