Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

[fix] br_ms_cnes.profissional #569

Closed
2 tasks done
folhesgabriel opened this issue Nov 22, 2023 · 0 comments · Fixed by #590
Closed
2 tasks done

[fix] br_ms_cnes.profissional #569

folhesgabriel opened this issue Nov 22, 2023 · 0 comments · Fixed by #590
Assignees

Comments

@folhesgabriel
Copy link
Contributor

folhesgabriel commented Nov 22, 2023

  • Verificar tabelas que foram atualizadas pro mês 10 no BQ mas o metadado por conta do erro no parâmetro historical_database da função udpate_django_metadata;

  • Verificar o motivo de falhar a instação do pacote read_dbc durante a execução do flow;

  • O pacote read_dbc foi removido do cran. Como o pacote era instalado durante a execução da run via módulo rpy2 - interface de acesso ao R em Python - a execução falha.

Tentativas de resolver:

  1. Instalar pacotes (1) pysus ou (2) pyreaddbc para fazer a conversão;
    Ocorre problema de conflito de versões do python. A versão do repo é definida no pyproject.toml como python = ">=3.8,<3.11" mas 1 exige python = ">=3.11,4" e 2 python = ">=3.9,<4"

  2. Instalar pacote devtools via interface rpy2 para instalar pacotes diretamente do github. Ocorrêm muitos conflitos de dependências e/ou outros pacotes necessários.

  3. Usar função read_dbc módulo pysus da danicat pra converter.

  • a função não permite especificar o encoding do arquivo no momento da leitura. Como dados do cnes tem vários caracteres non ascii - enconding default - o código quebra na leitura.
  1. Usar a função decompress do pysus e os módulos simpledfr e dbfread
  • erro de unpack 32 buffers no dbfread
  • com simpledbf os valores são todos convertidos para NULO
  1. Usar solução proposta do desafio_bd

  2. Implementar ShellTasks do prefect para rodar comandos bash

@folhesgabriel folhesgabriel moved this to 📋 Backlog in Roadmap de dados Nov 22, 2023
@laura-l-amaral laura-l-amaral moved this from 📋 Backlog to 🏁 Priorizado in Roadmap de dados Nov 22, 2023
@laura-l-amaral laura-l-amaral moved this from 🏁 Priorizado to 🏗 Em andamento in Roadmap de dados Nov 28, 2023
@laura-l-amaral laura-l-amaral moved this from 🏗 Em andamento to 🏁 Priorizado in Roadmap de dados Dec 7, 2023
@laura-l-amaral laura-l-amaral moved this from 🏁 Priorizado to 🏗 Em andamento in Roadmap de dados Dec 7, 2023
@laura-l-amaral laura-l-amaral moved this from 🏗 Em andamento to 🏁 Priorizado in Roadmap de dados Dec 7, 2023
@laura-l-amaral laura-l-amaral moved this from 🏁 Priorizado to 🏗 Em andamento in Roadmap de dados Dec 7, 2023
@folhesgabriel folhesgabriel moved this from 🏗 Em andamento to ⛔ Bloqueada in Roadmap de dados Dec 8, 2023
@laura-l-amaral laura-l-amaral moved this from ⛔ Bloqueada to 🏗 Em andamento in Roadmap de dados Dec 12, 2023
@folhesgabriel folhesgabriel linked a pull request Dec 19, 2023 that will close this issue
@laura-l-amaral laura-l-amaral moved this from 🏗 Em andamento to ⛔ Bloqueada in Roadmap de dados Jan 2, 2024
@laura-l-amaral laura-l-amaral moved this from ⛔ Bloqueada to 🏗 Em andamento in Roadmap de dados Jan 15, 2024
@laura-l-amaral laura-l-amaral moved this from 🏗 Em andamento to ⛔ Bloqueada in Roadmap de dados Jan 16, 2024
@laura-l-amaral laura-l-amaral moved this from ⛔ Bloqueada to 🏁 Priorizado in Roadmap de dados Jan 25, 2024
@folhesgabriel folhesgabriel moved this from 🏁 Priorizado to 🏗 Em andamento in Roadmap de dados Jan 29, 2024
@github-project-automation github-project-automation bot moved this from 🏗 Em andamento to ✅ Finalizada! in Roadmap de dados Feb 28, 2024
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
None yet
Projects
Status: ✅ Finalizada!
Development

Successfully merging a pull request may close this issue.

1 participant