Objeto:
Desenvolvimento de um sistema (Banco de Dados, Back End e Front End) para pesquisar os produtos e preços em 15 sites de comércio eletrônico.
Requisitos:
Deverá rastrear todas as categorias de produtos do site, página por página, quando chegar na última página de uma categoria, voltar pra primeira página.
Exemplo:
Categoria TV: [login to view URL]
O sistema vai pegar todas as informações dos produtos dessa categoria, da primeira até chegar a última página em que há produtos em estoque:
[login to view URL]
Quando terminar de rastrear todas as páginas da categoria, ele vai começar de novo e desta forma, comparar o preço da varredura anterior com o preço da varredura atual.
Fim do Exemplo.
No exemplo é explanado uma das maneiras que isso pode ser feito, se conseguir fazer de uma maneira mais fácil e rápida não tem problema.
Deverá armazenar e indexar as informações coletadas em um banco de dados, depois verificar as alterações nos preços dos produtos e armazenar em um campo a porcentagem de alteração no preço.
Deverá armazenar no banco de dados a data e horário da última atualização do produto.
Deverá apresentar os dados em um dashboard, informando a Categoria do Produto, Descrição do Produto, Loja, Preço Atual, Preço Anterior, % de Desconto, Diferença de Valor, Histórico de Preços, Data de Alteração do Preço.
Deverá emitir um alerta sonoro quando aparecer uma nova alteração de preço. Este alerta sonoro deverá ser configurável de acordo com a % de queda de preço. Exemplo: Tocar alerta sonoro sempre que o produto baixar 50% (essa porcentagem eu quero poder mudar).
Deverá possuir minimamente os seguintes filtros para exibição no frontend:
- Mostrar produtos que tiveram preços alterados nas últimas xx horas
- Mostrar produtos que tiveram mais de xx % de queda de preço
- Mostrar produtos que tiveram mais de R$ xx de queda de preço
- Mostrar produtos da categoria xxx
Deverá ser possível buscar por produto.
Deverá ser possível classificar por Categoria do Produto, Descrição do Produto, Preço Atual, Preço Anterior, % de Desconto, Diferença de Valor.
Deverá realizar a varredura dos sites automaticamente.
Deverá possibilitar a limpeza da base de dados.
Deverá possuir área administrativa (Criação de Logins de Acesso, Ferramenta para Limpeza da Base de Dados, etc).
Deverá efetuar a varredura nos sites abaixo:
Magazine Luiza - [login to view URL]
Amazon - [login to view URL]
Americanas - [login to view URL]
Shoptime - [login to view URL]
Submarino - [login to view URL]
Dafiti - [login to view URL]
Zattini - [login to view URL]
Netshoes - [login to view URL]
Centauro - [login to view URL]
Carrefour - [login to view URL]
Casas Bahia - [login to view URL]
Extra - [login to view URL]
Pontofrio - [login to view URL]
Nike - [login to view URL]
Adidas - [login to view URL]
Hi there. After reading your job post I am noticed you need web scraping developer who can scrape data from 15 websites and should build small website with scraped data and filter function.
Can I use MySQL to save the scraped data?
ok
I think i get the idea. Seems like a simple app but it would be great if you gave me a chance to work with you.
Just to get the idea better.
I'd be glad to talk more in the chat section.
Regards. Vadim
Boa noite, Tenho experiências com web scraping e automação (RPA) com python, além de ter criado recentemente dashboard para visualização de modelos de previsão de energia para uma nova startup na área (posso passar as referencias), assim como o backend para criar todos os gráficos da dashboard.
Podemos trabalhar em conjunto neste trabalho, principalmente por falar o mesmo idioma que você e ter experiências com fulllstack e principalmente com visualização de gráficos no frontend
Entre em contato comigo, caso tenha interesse =)
olá, bom dia,
Meu nome é Antonio, trabalho com desenvolvimento de bots, esse é um projeto bem interessante, já fiz um projeto similar na área de turismo.
podemos conversar mais para delimitar o escopo do projeto?
Att,
Antonio.
Ola, vi o seu projeto e tenho tecnologia desenvolvida para pesquisa de imóveis que pode ser adaptada à sua situação. Envie mensagem no chat e podemos discutir mais pormenores.