-
Notifications
You must be signed in to change notification settings - Fork 0
/
scraper.py
79 lines (62 loc) · 2.23 KB
/
scraper.py
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
import re
import time
from selenium import webdriver
from selenium.webdriver.common.keys import Keys
from selenium.webdriver.common.by import By
from selenium.webdriver.support.ui import WebDriverWait
from selenium.webdriver.support import expected_conditions as EC
def extraiProduto(texto_produto):
try:
lista_infos = texto_produto.split("\n")
lista_infos = filter(lambda txt: re.search(r"^(?!.* OFF)", txt, flags=re.IGNORECASE),lista_infos)
lista_infos = list(filter(lambda txt: re.search(r"(R\$[\s\S]*cada)|^[^R\$]", txt, flags=re.IGNORECASE),lista_infos))
fabricante = lista_infos[0]
descricao = lista_infos[1]
preco = float(lista_infos[2].replace("R$ ", "").replace(",", ".").replace("cada", ""))
except:
return
return [descricao, fabricante, preco]
def scraping(list_mercado, list_produtos):
itens = dict()
supermercado = list()
time.sleep(1.2)
for produto in list_produtos:
nome_produto_encoded = str(produto[1]).replace(" ", "%20")
url = f'https://www.supermercadonow.com/produtos/{list_mercado[1]}/busca/{nome_produto_encoded}'
driver.get(url)
time.sleep(1.5)
# Se nao abriu a pagina de produtos ou nao executou a regex => produto indisponivel
try:
# Regex para capturar a lista de produtos através da classe dinamica "styles__Container"
classe = driver.execute_script(
"return document.body.innerHTML.toString().match(/class=\"[\S]+ styles__Container-sc-[\w-]+/gi)"
)[6] #sexta classe da lista (muito provavel ser a classe dos produtos))
classe = re.sub('class=\"[\S]+\s?', ".", classe)
div_produto = WebDriverWait(driver, 20).until(
EC.presence_of_element_located((By.CSS_SELECTOR, classe))
)
except:
continue
# Pegar objeto
infos = extraiProduto(div_produto.text)
if not infos:
continue
regex_match = re.search(produto[2], infos[0], flags=re.IGNORECASE)
if not regex_match:
continue
itens[produto[0]] = {
'supermercado': list_mercado[0],
'descricao': infos[0],
'fabricante': infos[1],
'preco': infos[2],
}
supermercado.append({
"produto": produto[0],
"descricao": infos[0],
"fabricante": infos[1],
"preco": infos[2]
})
time.sleep(0.5)
return {"itens": itens, "supermercado": supermercado}
# criando driver geral
driver = webdriver.Chrome()