MLflow gerenciado
Crie modelos melhores e aplicativos de IA generativa
O que é o Managed MLflow?
O Managed MLflow amplia a funcionalidade do MLflow, uma plataforma de código aberto desenvolvida pela Databricks para criar melhores modelos e aplicativos de IA generativa, com foco na confiabilidade, segurança e escalabilidade da empresa. A última atualização do MLflow introduz recursos inovadores de GenAI e LLMOps que aprimoram sua capacidade de gerenciar e implantar grandes modelos de linguagem (LLMs). O suporte expandido para LLM é obtido por meio de novas integrações com ferramentas LLM padrão do setor, OpenAI e Hugging Face Transformers, bem como o MLflow Deployments Server. Além disso, a integração do MLflow com frameworks LLM (por exemplo, LangChain) permite o desenvolvimento simplificado de modelos para a criação de aplicativos de IA generativa para diversos casos de uso, incluindo chatbots, resumo de documentos, classificação de texto, análise de sentimento e muito mais.
Benefícios
Desenvolvimento de modelos
Aprimore e agilize o gerenciamento do ciclo de vida do machine learning com uma estrutura padronizada para modelos prontos para produção. Managed MLflow Recipes permitem a inicialização imediata de projetos de ML, a iteração rápida e a implantação de modelos em grande escala. Crie aplicativos como chatbots, resumo de documentos, análise de sentimentos e classificação sem esforço. Desenvolva facilmente aplicativos de IA generativa (por exemplo, chatbots e resumo de documentos) com as ofertas de LLM do MLflow, que se integram perfeitamente ao LangChain, Hugging Face e OpenAI.
Acompanhamento de experimentos
Execute experimentos com qualquer biblioteca, estrutura ou idioma de ML e acompanhe automaticamente parâmetros, métricas, códigos e modelos de cada experimento. Ao usar o MLflow na Databricks, você pode compartilhar, gerenciar e comparar com segurança os resultados do experimento, juntamente com os artefatos correspondentes e versões de código, graças às integrações incorporadas com o Databricks Workspace e os notebooks. Você também poderá avaliar os resultados dos experimentos com GenAI e melhorar a qualidade com a funcionalidade de avaliação do MLflow.
Gerenciamento de modelos
Use um local central para descobrir e compartilhar modelos de ML, colaborar na migração de experimentação para testes e produção online, integrar com fluxos de trabalho de aprovação e governança e pipelines de CI/CD e monitorar implantações de ML e seu desempenho. O MLflow Model Registry facilita o compartilhamento de experiência e conhecimento e ajuda você a manter o controle.
Implantação de modelos
Implemente rapidamente modelos de produção para inferência em lote no Apache Spark™ ou como APIs REST usando integração integrada com containers do Docker, Azure ML ou Amazon SageMaker. Com o Managed MLflow na Databricks, você pode operacionalizar e monitorar modelos de produção usando o Databricks Jobs Scheduler e os clusters gerenciados automaticamente para dimensionar com base nas necessidades da empresa.
As atualizações mais recentes do MLflow fornecem aplicativos de IA generativa prontos para implantação. Agora, você pode usar o Databricks Model Serving para implantar em escala seus chatbots e outros aplicativos de IA generativa, como resumos de documentos, análise de sentimento e classificação.
Features
Tracing
Capture inputs, outputs, and step-by-step execution—including prompts, retrievals, and tool calls—with MLflow’s open-source, OpenTelemetry-compatible tracing. Automatically instrument popular GenAI libraries or ingest traces directly. Debug and iterate faster with interactive timeline views, side-by-side comparisons, and zero vendor lock-in.
Generative AI Evaluation
Evaluate GenAI agents using LLM-as-a-judge and human feedback—right in the MLflow UI. Build datasets from production traces, compare outputs across versions, and assess quality with prebuilt or custom metrics like hallucination or relevance. Incorporate expert feedback via web UIs or app APIs to align with human judgment and continuously improve results.
Prompt Registry and Agent Versioning
Version prompts, agents, and application code in one place with MLflow. Link traces, evaluations, and performance data to specific versions for full lifecycle lineage. Reuse and compare prompts across workflows, manage agent versions with associated metrics and parameters, and integrate with Git and CI/CD to accelerate governed iteration.
Generative AI Monitoring and Alerting
Monitor GenAI quality in real time with MLflow’s dashboards, trace explorers, and automated alerts. Track issues like PII leakage, latency spikes, or unhelpful responses using LLM-judge evaluations and custom metrics. Configure online evaluations and act quickly—before users are affected.
Features
Experiment Tracking
Automatically track parameters, metrics, artifacts, and models from any ML or deep learning framework. MLflow gives you a complete audit trail and supports deep comparisons across architectures, checkpoints, and training workflows—at scale.
Model evaluation for ML and DL
Automatically log built-in and custom metrics for tasks like classification or regression. Compare results against baselines, log artifacts like ROC curves, and validate models on new datasets—before they reach production.
Effortless Model Management & Governance
Discover, share, and manage models centrally with the MLflow Model Registry—integrated with Unity Catalog for end-to-end governance. Track deployment status and collaborate across teams with full visibility into model performance across environments
Deployment at Scale
Deploy models with a reproducible packaging format that includes all code, dependencies, and weights. Serve them as REST APIs or run high-throughput batch inference with ai_query—optimized for both CPU and GPU via Mosaic AI Model Serving.
Veja nossas notícias de produtos do Azure Databricks e da AWS para conhecer nossos recursos mais recentes.
Comparação das ofertas de MLflow
Open Source MLflow | Managed MLflow on Databricks | |
|---|---|---|
Acompanhamento de experiments | ||
API MLflow Tracking | ||
Servidor de rastreamento do MLflow | Hosting interno | Totalmente gerenciado |
Integração de notebooks | ||
Integração de fluxos de trabalho | ||
Projetos reproduzíveis | ||
MLflow Projects | ||
Gerenciamento de modelos | ||
Integração do Git e Conda | ||
Nuvem/clusters escaláveis para execução de projetos | ||
MLflow Model Registry | ||
Controle de versões de modelos | ||
Implementação flexível | ||
Transição de estágio baseada em ACL | ||
Integrações de fluxos de trabalho CI/CD | ||
Segurança e gerenciamento | ||
Inferência de batch integrada | ||
MLflow Models | ||
Análise de streaming integrada | ||
Alta disponibilidade | ||
Atualizações automatizadas | ||
Controle de acesso baseado na função | ||
Segurança e gerenciamento | ||
Controle de acesso baseado na função | ||
Controle de acesso baseado na função | ||
Controle de acesso baseado na função | ||
Controle de acesso baseado na função | ||
Segurança e gerenciamento | ||
Controle de acesso baseado na função | ||
Controle de acesso baseado na função | ||
Controle de acesso baseado na função | ||
Controle de acesso baseado na função | ||
Segurança e gerenciamento | ||
Controle de acesso baseado na função | ||
Controle de acesso baseado na função | ||
Controle de acesso baseado na função |
Recursos
Blogs
Vídeos
Tutoriais
Webinars
Webinars
Webinars
Ready to get started?