Partilhar via


Copie dados a partir da tabela Web usando Azure Data Factory ou Synapse Analytics

APLICA-SE A: Azure Data Factory Azure Synapse Analytics

Gorjeta

Data Factory em Microsoft Fabric é a próxima geração de Azure Data Factory, com uma arquitetura mais simples, IA incorporada e novas funcionalidades. Se és novo na integração de dados, começa pelo Fabric Data Factory. As cargas de trabalho existentes do ADF podem atualizar para o Fabric para aceder a novas capacidades em ciência de dados, análise em tempo real e relatórios.

Este artigo descreve como usar a Atividade de Cópia numa pipeline do Azure Data Factory ou Synapse Analytics para copiar dados de uma base de dados de tabelas Web. Ele se baseia no artigo de visão geral da atividade de cópia que apresenta uma visão geral da atividade de cópia.

A diferença entre este conector de tabela da Web, o conector REST e o conector HTTP são:

  • O conector da tabela Web extrai o conteúdo da tabela de uma página Web HTML.
  • O conector REST oferece suporte especificamente à cópia de dados de APIs RESTful.
  • O conector HTTP é genérico para recuperar dados de qualquer ponto de extremidade HTTP, por exemplo, para descarregar ficheiro.

Capacidades suportadas

Este conector de tabela Web é suportado para as seguintes capacidades:

Capacidades suportadas IR
Atividade de cópia (fonte/-) (2)
Atividade de Pesquisa (2)

(1) Runtime de integração Azure (2) Runtime de integração auto-hospedado

Para obter uma lista de armazenamentos de dados suportados como fontes/coletores, consulte a tabela Armazenamentos de dados suportados.

Especificamente, esse conector de tabela da Web oferece suporte à extração de conteúdo de tabela de uma página HTML.

Pré-requisitos

Para usar este conector de tabela web, é necessário configurar um Self-hosted Integration Runtime. Consulte o artigo Self-hosted Integration Runtime para mais detalhes.

Primeiros Passos

Para executar a atividade de cópia com um pipeline, você pode usar uma das seguintes ferramentas ou SDKs:

Criar um serviço vinculado à tabela da Web usando a interface do usuário

Use os seguintes passos para criar um serviço ligado à Web Table na interface do portal Azure.

  1. Navegue até ao separador Gerir no seu espaço de trabalho Azure Data Factory ou Synapse e selecione Serviços Ligados, depois clique em Novo:

  2. Procure Web e selecione o conector Web Table.

    Selecione o conector de tabela da Web.

  3. Configure os detalhes do serviço, teste a conexão e crie o novo serviço vinculado.

    Configurar um serviço associado à Tabela Web.

Detalhes de configuração do conector

As seções a seguir fornecem detalhes sobre as propriedades usadas para definir entidades do Data Factory específicas para o conector de tabela da Web.

Propriedades do serviço vinculado

As seguintes propriedades são suportadas para o serviço vinculado de tabela da Web:

Propriedade Descrição Obrigatório
tipo A propriedade type deve ser definida como: Web Sim
url URL para a fonte da Web Sim
tipo de autenticação O valor permitido é: Anônimo. Sim
connectVia O Integration Runtime para ser usado para se ligar ao armazenamento de dados. É necessário um Integration Runtime auto-hospedado, conforme mencionado em Pré-requisitos. Sim

Exemplo:

{
    "name": "WebLinkedService",
    "properties": {
        "type": "Web",
        "typeProperties": {
            "url" : "https://en.wikipedia.org/wiki/",
            "authenticationType": "Anonymous"
        },
        "connectVia": {
            "referenceName": "<name of Integration Runtime>",
            "type": "IntegrationRuntimeReference"
        }
    }
}

Propriedades do conjunto de dados

Para obter uma lista completa de seções e propriedades disponíveis para definir conjuntos de dados, consulte o artigo sobre conjuntos de dados. Esta seção fornece uma lista de propriedades suportadas pelo conjunto de dados de tabela da Web.

Para copiar dados da tabela da Web, defina a propriedade type do conjunto de dados como WebTable. As seguintes propriedades são suportadas:

Propriedade Descrição Obrigatório
tipo A propriedade type do conjunto de dados deve ser definida como: WebTable Sim
caminho Uma URL relativa ao recurso que contém a tabela. N.º Quando o caminho não é especificado, somente a URL especificada na definição de serviço vinculado é usada.
indexar O índice da tabela no recurso. Consulte a secção Obter o índice de uma tabela numa página HTML para seguir os passos para encontrar o índice de uma tabela numa página HTML. Sim

Exemplo:

{
    "name": "WebTableInput",
    "properties": {
        "type": "WebTable",
        "typeProperties": {
            "index": 1,
            "path": "AFI's_100_Years...100_Movies"
        },
        "schema": [],
        "linkedServiceName": {
            "referenceName": "<Web linked service name>",
            "type": "LinkedServiceReference"
        }
    }
}

Propriedades da atividade de cópia

Para obter uma lista completa de seções e propriedades disponíveis para definir atividades, consulte o artigo Pipelines . Esta secção fornece uma lista de propriedades suportadas pela fonte da tabela da Web.

Tabela da Web como fonte

Para copiar dados da tabela da Web, defina o tipo de fonte na atividade de cópia como WebSource, nenhuma propriedade adicional é suportada.

Exemplo:

"activities":[
    {
        "name": "CopyFromWebTable",
        "type": "Copy",
        "inputs": [
            {
                "referenceName": "<Web table input dataset name>",
                "type": "DatasetReference"
            }
        ],
        "outputs": [
            {
                "referenceName": "<output dataset name>",
                "type": "DatasetReference"
            }
        ],
        "typeProperties": {
            "source": {
                "type": "WebSource"
            },
            "sink": {
                "type": "<sink type>"
            }
        }
    }
]

Obter índice de uma tabela em uma página HTML

Para obter o índice de uma tabela que precisa de configurar em propriedades do conjunto de dados, pode usar, por exemplo, Excel 2016 como ferramenta da seguinte forma:

  1. Inicie Excel 2016 e mude para o separador Data.

  2. Clique em Nova Consulta na barra de ferramentas, aponte para De Outras Fontes e clique em Da Web.

    Power Query menu

  3. Na caixa de diálogo Da Web, digite a URL que deve ser usada no JSON do serviço vinculado (por exemplo: https://en.wikipedia.org/wiki/) juntamente com o caminho que especificaria para o conjunto de dados (por exemplo: AFI%27s_100_Years...100_Movies) e clique em OK.

    Da caixa de diálogo da Web

    URL usado neste exemplo: https://en.wikipedia.org/wiki/AFI%27s_100_Years...100_Movies

  4. Se vir a caixa de diálogo Aceder a conteúdo Web, selecione o URL correto, a autenticação e clique em Ligar.

    Caixa de diálogo Acessar conteúdo da Web

  5. Clique num item de tabela na vista de árvore para ver o conteúdo da tabela e, em seguida, clique no botão Editar na parte inferior.

    Caixa de diálogo Navegador

  6. Na janela Editor do Power Query, clique no botão Editor Avançado na barra de ferramentas.

    Botão Editor Avançado

  7. Na caixa de diálogo do Editor Avançado, o número ao lado de "Source" é o índice.

    Editor Avançado - Índice

Se estiver a usar o Excel 2013, utilize o artigo Conectar a uma página web para mais detalhes. Os passos são semelhantes se estiveres a usar Microsoft Power BI para Desktop.

Propriedades da atividade de consulta

Para saber detalhes sobre as propriedades, verifique Atividade de Pesquisa.

Para obter uma lista de armazenamentos de dados suportados como fontes e destinos pela atividade de cópia, consulte armazenamentos de dados suportados.