Blog DevOps Data Microsoft Fabric DevOps

Actualiza tus pipelines de Synapse a Microsoft Fabric con confianza (Preview)

Proceso de migración de pipelines de Synapse a Microsoft Fabric

Introducción a la migración de pipelines de Synapse a Microsoft Fabric

Microsoft Fabric, con su enfoque unificado para el análisis de datos y la integración, está transformando la forma en que gestionamos cargas de trabajo en la nube. La migración de pipelines de Azure Synapse Analytics a Microsoft Fabric es un paso crítico para modernizar arquitecturas de datos y aprovechar las capacidades avanzadas de Fabric, como la integración nativa con OneLake y su catálogo impulsado por IA.

Este artículo aborda los conceptos fundamentales de esta migración y proporciona ejemplos prácticos para que puedas realizarla con confianza.

Note: La funcionalidad de migración de pipelines de Synapse a Microsoft Fabric se encuentra en estado de Preview. Algunas características podrían cambiar en futuras versiones.


¿Por qué migrar a Microsoft Fabric?

Azure Synapse Analytics ha sido una solución robusta para la integración y análisis de datos. Sin embargo, Microsoft Fabric lleva estas capacidades al siguiente nivel al ofrecer:

  • Unificación de herramientas: Fabric centraliza la integración de datos, gobernanza y análisis en un solo ecosistema.
  • Integración con OneLake: Una capa de almacenamiento unificada que simplifica la gestión de datos.
  • Catálogo impulsado por IA: Mejora la gobernanza y descubrimiento de datos. Más detalles aquí.
  • Optimización para DevOps: Fabric facilita la implementación de pipelines con prácticas modernas de CI/CD.

Pasos iniciales para la migración

1. Evaluación de tus pipelines actuales

Antes de iniciar la migración, realiza un inventario de tus pipelines en Synapse. Identifica:

  • Dependencias externas: Conexiones a bases de datos, APIs o sistemas externos.
  • Transformaciones complejas: Actividades que podrían requerir ajustes en Fabric.
  • Triggers y programación: Verifica cómo están configurados los disparadores en Synapse.

Warning: Algunos conectores y actividades específicas de Synapse podrían no estar disponibles en Fabric durante la fase de Preview. Consulta la documentación oficial para obtener detalles actualizados.


2. Configuración del entorno en Microsoft Fabric

Antes de migrar, asegúrate de tener un entorno configurado en Fabric. Esto incluye:

  • OneLake: Configura tu almacenamiento unificado.
  • Workspace: Crea un espacio de trabajo en Fabric para tus pipelines.
  • Conectores: Verifica que los conectores necesarios estén disponibles.

Ejemplo de configuración de un espacio de trabajo en Fabric usando PowerShell:

# Autenticación con Azure CLI
az login

# Creación de un espacio de trabajo en Microsoft Fabric
az fabric workspace create \
  --name "WorkspaceMigracion" \
  --resource-group "GrupoRecursosFabric" \
  --location "East US"

Note: Asegúrate de que tu suscripción de Azure tenga acceso habilitado para Microsoft Fabric.


Migración de un pipeline de Synapse a Fabric

Ejemplo práctico: Migración de un pipeline de copia de datos

Supongamos que tienes un pipeline en Synapse que copia datos desde una base de datos SQL a un blob de Azure. Este pipeline incluye un trigger basado en tiempo.

Pipeline original en Synapse

{
  "name": "PipelineCopiaDatos",
  "activities": [
    {
      "type": "Copy",
      "source": {
        "type": "AzureSqlSource",
        "query": "SELECT * FROM dbo.Clientes"
      },
      "sink": {
        "type": "BlobSink",
        "path": "container/clientes/"
      }
    }
  ],
  "triggers": [
    {
      "type": "ScheduleTrigger",
      "recurrence": {
        "frequency": "Hour",
        "interval": 1
      }
    }
  ]
}

Migración a Microsoft Fabric

En Fabric, el pipeline se define utilizando el nuevo modelo de integración. Puedes usar el portal o APIs para recrear el pipeline.

{
  "name": "PipelineCopiaDatosFabric",
  "activities": [
    {
      "type": "Copy",
      "source": {
        "type": "SqlSource",
        "query": "SELECT * FROM dbo.Clientes"
      },
      "sink": {
        "type": "LakehouseSink",
        "path": "OneLake/clientes/"
      }
    }
  ],
  "triggers": [
    {
      "type": "ScheduledTrigger",
      "schedule": {
        "frequency": "Hour",
        "interval": 1
      }
    }
  ]
}

Note: Fabric utiliza OneLake como destino predeterminado para cargas de datos. Esto simplifica la gestión de almacenamiento.


Pruebas y validación

Una vez migrados los pipelines, es fundamental realizar pruebas para garantizar que funcionan correctamente en Fabric. Esto incluye:

  • Validación de datos: Verifica que los datos copiados sean consistentes con el origen.
  • Pruebas de rendimiento: Compara los tiempos de ejecución entre Synapse y Fabric.
  • Revisión de logs: Utiliza los logs de Fabric para identificar posibles errores.

Ejemplo de consulta de logs en Fabric:

az fabric pipeline logs \
  --pipeline-name "PipelineCopiaDatosFabric" \
  --workspace "WorkspaceMigracion"

Conclusión

Migrar tus pipelines de Synapse a Microsoft Fabric es un paso estratégico para modernizar tus cargas de trabajo y aprovechar las capacidades avanzadas de Fabric. Aunque la funcionalidad está en Preview, los beneficios en términos de unificación, gobernanza y optimización para DevOps hacen que valga la pena explorar esta transición.

Para profundizar en las capacidades de Microsoft Fabric, te recomendamos leer ExtractLabel: Extracción de datos no estructurados impulsada por esquemas con Microsoft Fabric AI Functions y Conectores Eventstream en Microsoft Fabric: Inteligencia en tiempo real desde redes privadas.

Warning: Mantente atento a las actualizaciones de Microsoft Fabric, ya que las funcionalidades en Preview podrían evolucionar rápidamente.