Partilhar via


Copiar dados do DB2 usando Azure Data Factory ou Synapse Analytics

APLICA-SE A: Azure Data Factory Azure Synapse Analytics

Gorjeta

Data Factory em Microsoft Fabric é a próxima geração de Azure Data Factory, com uma arquitetura mais simples, IA incorporada e novas funcionalidades. Se és novo na integração de dados, começa pelo Fabric Data Factory. As cargas de trabalho existentes do ADF podem atualizar para o Fabric para aceder a novas capacidades em ciência de dados, análise em tempo real e relatórios.

Este artigo descreve como usar a Atividade de Cópia no Azure Data Factory e nos pipelines Synapse Analytics para copiar dados de uma base de dados DB2. Ele se baseia no artigo de visão geral da atividade de cópia que apresenta uma visão geral da atividade de cópia.

Capacidades suportadas

Este conector DB2 é suportado para os seguintes recursos:

Capacidades suportadas IR
Atividade de cópia (fonte/-) (1) (2)
Atividade de Pesquisa (1) (2)

(1) Runtime de integração Azure (2) Runtime de integração auto-hospedado

Para obter uma lista de armazenamentos de dados suportados como fontes ou destinos pela atividade de cópia, consulte a tabela de Armazenamentos de dados suportados.

Especificamente, este conector DB2 suporta as seguintes plataformas e versões do IBM DB2 com Distributed Relational Database Architecture (DRDA) SQL Access Manager (SQLAM) versão 9, 10 e 11. Utiliza o protocolo DDM/DRDA.

  • IBM DB2 para z/OS 12.1
  • IBM DB2 para z/OS 11.1
  • IBM DB2 para i 7.3
  • IBM DB2 para i 7.2
  • IBM DB2 para i 7.1
  • IBM DB2 para LUW 11
  • IBM DB2 para LUW 10.5
  • IBM DB2 para LUW 10.1

Pré-requisitos

Se o seu armazenamento de dados estiver localizado numa rede local, numa rede virtual Azure ou na Amazon Virtual Private Cloud, precisa de configurar um runtime de integração auto-hospedado para se ligar a ele.

Se o seu armazenamento de dados for um serviço de dados na cloud gerido, pode usar o Azure Integration Runtime. Se o acesso for restrito a IPs aprovados nas regras do firewall, pode adicionar IPs Azure Integration Runtime à lista de autorizações.

Também pode usar a funcionalidade managed virtual network integration runtime no Azure Data Factory para aceder à rede local sem instalar e configurar um runtime de integração auto-hospedado.

Para obter mais informações sobre os mecanismos de segurança de rede e as opções suportadas pelo Data Factory, consulte Estratégias de acesso a dados.

O Integration Runtime fornece um driver DB2 incorporado, por isso não precisa de instalar manualmente nenhum driver ao copiar dados do DB2.

Introdução

Para executar a atividade de cópia com um pipeline, você pode usar uma das seguintes ferramentas ou SDKs:

Criar um serviço vinculado ao DB2 usando a interface do usuário

Use os passos seguintes para criar um serviço ligado ao DB2 na interface do portal do Azure.

  1. Navegue até ao separador Gerir no seu espaço de trabalho Azure Data Factory ou Synapse e selecione Serviços Ligados, depois clique em Novo:

  2. Procure DB2 e selecione o conector DB2.

    Captura de ecrã do conector DB2.

  3. Configure os detalhes do serviço, teste a conexão e crie o novo serviço vinculado.

    Captura de tela da configuração do serviço vinculado para DB2.

Detalhes de configuração do conector

As seções a seguir fornecem detalhes sobre propriedades que são usadas para definir entidades do Data Factory específicas para o conector DB2.

Propriedades do serviço vinculado

As seguintes propriedades são suportadas para o serviço vinculado do DB2:

Propriedade Descrição Obrigatório
tipo A propriedade type deve ser definida como: Db2 Sim
string de conexão Especifique as informações necessárias para se conectar à instância do DB2.
Também podes colocar palavra-passe no Azure Key Vault e retirar a configuração password do cadeia de ligação. Consulte os seguintes exemplos e o artigo Armazenar credenciais no Azure Key Vault para mais detalhes.
Sim
connectVia O Integration Runtime para ser usado para se ligar ao armazenamento de dados. Saiba mais na seção Pré-requisitos . Se não for especificado, usa o Azure Integration Runtime padrão. Não

Propriedades típicas dentro da cadeia de ligação:

Propriedade Descrição Obrigatório
servidor Nome do servidor DB2. Você pode especificar o número da porta após o nome do servidor delimitado por dois pontos, por exemplo. server:port
O conector DB2 utiliza o protocolo DDM/DRDA e, por padrão, usa a porta 50000 se não for especificado. A porta que seu banco de dados DB2 específico usa pode ser diferente com base na versão e suas configurações, por exemplo, para DB2 LUW a porta padrão é 50000, para AS400 a porta padrão é 446 ou 448 quando TLS ativado. Consulte os seguintes documentos do DB2 sobre como a porta é configurada normalmente: DB2 z/OS, DB2 iSeries e DB2 LUW.
Sim
base de dados Nome do banco de dados DB2. Sim
tipo de autenticação Tipo de autenticação usado para se conectar ao banco de dados DB2.
O valor permitido é: Básico.
Sim
nome de utilizador Especifique o nome do usuário para se conectar ao banco de dados DB2. Sim
palavra-passe Especifique a senha para a conta de usuário que você especificou para o nome de usuário. Marque este campo como um SecureString para o armazenar de forma segura, ou referencia um segredo guardado em Azure Key Vault. Sim
coleção de pacotes Especifique onde os pacotes necessários são criados automaticamente pelo serviço ao consultar o banco de dados. Se isso não estiver definido, o serviço usará o {username} como o valor padrão. Não
nomeComumDoCertificado Ao usar criptografia SSL (Secure Sockets Layer) ou TLS (Transport Layer Security), você deve inserir um valor para Nome comum do certificado. Não

Gorjeta

Se você receber uma mensagem de erro informando The package corresponding to an SQL statement execution request was not found. SQLSTATE=51002 SQLCODE=-805, o motivo é que um pacote necessário não foi criado para o usuário. Por padrão, o serviço tentará criar o pacote sob a coleção nomeada como o usuário que você usou para se conectar ao DB2. Especifique a propriedade de coleção de pacotes para indicar onde você deseja que o serviço crie os pacotes necessários ao consultar o banco de dados. Se não for possível determinar o nome da coleção de pacotes, tente definir packageCollection=NULLID.

Exemplo:

{
    "name": "Db2LinkedService",
    "properties": {
        "type": "Db2",
        "typeProperties": {
            "connectionString": "server=<server:port>;database=<database>;authenticationType=Basic;username=<username>;password=<password>;packageCollection=<packagecollection>;certificateCommonName=<certname>;"
        },
        "connectVia": {
            "referenceName": "<name of Integration Runtime>",
            "type": "IntegrationRuntimeReference"
        }
    }
}

Exemplo: armazenar a palavra-passe em Azure Key Vault

{
    "name": "Db2LinkedService",
    "properties": {
        "type": "Db2",
        "typeProperties": {
            "connectionString": "server=<server:port>;database=<database>;authenticationType=Basic;username=<username>;packageCollection=<packagecollection>;certificateCommonName=<certname>;",
            "password": { 
                "type": "AzureKeyVaultSecret", 
                "store": { 
                    "referenceName": "<Azure Key Vault linked service name>", 
                    "type": "LinkedServiceReference" 
                }, 
                "secretName": "<secretName>" 
            }
        },
        "connectVia": {
            "referenceName": "<name of Integration Runtime>",
            "type": "IntegrationRuntimeReference"
        }
    }
}

Se estava a utilizar o serviço vinculado do DB2 com o seguinte payload, ele ainda é suportado como está, embora se recomende que utilize o novo no futuro.

Carga útil anterior:

{
    "name": "Db2LinkedService",
    "properties": {
        "type": "Db2",
        "typeProperties": {
            "server": "<servername:port>",
            "database": "<dbname>",
            "authenticationType": "Basic",
            "username": "<username>",
            "password": {
                "type": "SecureString",
                "value": "<password>"
            }
        },
        "connectVia": {
            "referenceName": "<name of Integration Runtime>",
            "type": "IntegrationRuntimeReference"
        }
    }
}

Propriedades do conjunto de dados

Para obter uma lista completa de seções e propriedades disponíveis para definir conjuntos de dados, consulte o artigo sobre conjuntos de dados. Esta seção fornece uma lista de propriedades suportadas pelo conjunto de dados DB2.

Para copiar dados do DB2, as seguintes propriedades são suportadas:

Propriedade Descrição Obrigatório
tipo A propriedade type do conjunto de dados deve ser definida como: Db2Table Sim
esquema Nome do esquema. Não (se "consulta" na origem da atividade for especificada)
tabela Nome da tabela. Não (se "consulta" na origem da atividade for especificada)
tableName Nome da tabela com esquema. Esta propriedade é suportada para compatibilidade com versões anteriores. Use schema e table para nova carga de trabalho. Não (se "consulta" na origem da atividade for especificada)

Exemplo

{
    "name": "DB2Dataset",
    "properties":
    {
        "type": "Db2Table",
        "typeProperties": {},
        "schema": [],
        "linkedServiceName": {
            "referenceName": "<DB2 linked service name>",
            "type": "LinkedServiceReference"
        }
    }
}

Se estava a utilizar o conjunto de dados tipado RelationalTable, ele ainda é suportado tal como está, embora seja recomendado que opte pelo novo para o futuro.

Propriedades da atividade de cópia

Para obter uma lista completa de seções e propriedades disponíveis para definir atividades, consulte o artigo Pipelines . Esta seção fornece uma lista de propriedades suportadas pelo código-fonte DB2.

DB2 como origem

Para copiar dados do DB2, as seguintes propriedades são suportadas na seção copy activity source :

Propriedade Descrição Obrigatório
tipo A propriedade type da fonte de atividade de cópia deve ser definida como: Db2Source Sim
consulta Utilize uma consulta SQL personalizada para ler dados. Por exemplo: "query": "SELECT * FROM \"DB2ADMIN\".\"Customers\"". Não (se "tableName" estiver especificado no conjunto de dados)

Exemplo:

"activities":[
    {
        "name": "CopyFromDB2",
        "type": "Copy",
        "inputs": [
            {
                "referenceName": "<DB2 input dataset name>",
                "type": "DatasetReference"
            }
        ],
        "outputs": [
            {
                "referenceName": "<output dataset name>",
                "type": "DatasetReference"
            }
        ],
        "typeProperties": {
            "source": {
                "type": "Db2Source",
                "query": "SELECT * FROM \"DB2ADMIN\".\"Customers\""
            },
            "sink": {
                "type": "<sink type>"
            }
        }
    }
]

Se você estava usando RelationalSource fonte digitada, ela ainda é suportada como está, enquanto você é sugerido para usar a nova no futuro.

Mapeamento de tipo de dados para DB2

Ao copiar dados do DB2, os mapeamentos a seguir são usados de tipos de dados DB2 para tipos de dados provisórios usados internamente no serviço. Consulte Mapeamentos de esquema e tipo de dados para saber como a atividade de cópia mapeia o esquema e o tipo de dados da origem para o destino.

Tipo de banco de dados DB2 Tipo de dados de serviço provisório
BigInt Int64
Binário Byte[]
Blob Byte[]
Char String
Clob String
Date Data e Hora
DB2DynArray String
DbClob String
Decimal Decimal
DecimalFloat Decimal
Duplo Duplo
Ponto flutuante Duplo
Gráfico String
Número inteiro Int32
LongVarBinary Byte[]
LongVarChar String
LongVarGraphic String
Numérico Decimal
real Única
SmallInt Int16
Hora TimeSpan
Timestamp DateTime
VarBinary Byte[]
VarChar String
VarGraphic String
Xml Byte[]

Propriedades da atividade de consulta

Para saber detalhes sobre as propriedades, verifique Atividade de Pesquisa.

Para obter uma lista de armazenamentos de dados suportados como fontes e destinos pela atividade de cópia, consulte armazenamentos de dados suportados.