Tous les scrapers

Alimentation et livraison

Woolworths Scraper

woolworths.com.au

99.8% Taux de réussite
3.7s Réponse moyenne
Akamai Bot Manager Protection
1 114 appels Mesuré sur

Woolworths est l'une des deux plus grandes chaînes de supermarchés d'Australie, et les données derrière woolworths.com.au sont protégées par Akamai Bot Manager. Un endpoint de plugin dédié lit le même JSON que charge le site de Woolworths et renvoie les produits déjà parsés. mode=search prend une requête, mode=category un lien, un chemin ou un identifiant de catégorie, et mode=specials une page de promotions : Half Price par défaut, ou Lower Shelf Price, Everyday Low Price, Seasonal Price, Buy More Save More ou Online Only Specials. Chaque produit arrive avec son stockcode, son nom, sa marque, son format, son lien et son code-barres, le prix et l'éventuel ancien prix avec l'économie réalisée, la promotion (moitié prix, promotion, multi-achat avec sa quantité et son prix, ou une autre offre), le prix unitaire, le mode de vente, le stock et la disponibilité, la limite d'achat, les indicateurs nouveauté et sponsorisé, l'image, ses catégories, le health star rating et la note. Triez par pertinence, prix, prix unitaire ou nom, ne gardez que les produits en promotion, et collectez jusqu'à 360 produits par appel à raison de 36 par page. mode=product prend un stockcode ou un lien produit et ajoute la description, les ingrédients, les allergènes, les mentions diététiques, le tableau nutritionnel par portion et pour 100 g ou mL, la taille de portion, la conservation, le pays d'origine, le rayon et l'allée, toutes les images et les variantes. Les prix sont les prix en ligne de Woolworths, en AUD. Aucun compte Woolworths, connexion ni clé d'API n'est nécessaire.

Ce que vous pouvez extraire

  • Stockcode, nom, marque, format, lien produit et code-barres
  • Prix, ancien prix et économie réalisée, et le prix unitaire (par exemple 1,70 $ par 1L)
  • Promotion : moitié prix, promotion, multi-achat avec sa quantité et son prix, ou une autre offre
  • Stock, disponibilité, limite d'achat, mode de vente, et indicateurs nouveauté et sponsorisé
  • Image, catégories, health star rating et note
  • Listes de recherche, de catégorie et de promotions (Half Price, Lower Shelf Price, Buy More Save More et d'autres), triées par pertinence, prix, prix unitaire ou nom ; jusqu'à 360 produits par appel
  • Fiche produit : description, ingrédients, allergènes, mentions diététiques, tableau nutritionnel par portion et pour 100 g ou mL, taille de portion, conservation et pays d'origine
  • Fiche produit : rayon, allée, toutes les images et variantes

Endpoints dédiés

/groceries/woolworths

Recherche, catégories, promotions et produits Woolworths

mode=search avec query, mode=category avec category (un lien de navigation, son chemin ou un identifiant de catégorie) et mode=specials (category choisit la page de promotions : half-price par défaut, lower-shelf-price, everyday-low-price, seasonal-price, buy-more-save-more ou online-only-specials) renvoient products avec id (stockcode), name, brand, size, url, barcode, price, wasPrice, currency (AUD), onSale, savings, promotion (type, text, quantité et prix du multi-achat), unitPrice (price, per, text), soldBy, inStock, available, purchaseLimit, isNew, sponsored, image, categories, healthStarRating et rating, plus totalResults, totalPages et nextPage. sort vaut relevance, price_asc, price_desc, unit_price_asc, unit_price_desc ou name, specials_only=true ne garde que les produits en promotion, et max_results (1-360, 36 par page) avec page parcourt les pages. mode=product avec product (un stockcode ou un lien) renvoie product avec description, ingredients, allergens (contains, mayContain, freeFrom), dietary, nutrition, servingSize, servingsPerPack, storage, countryOfOrigin, department, aisle, images et variants.

Comment le scraper

curl -X POST \
  -H "X-ScrapeUnblocker-Key: $SU_API_KEY" \
  "https://api.scrapeunblocker.com/groceries/woolworths?mode=search&query=milk"
import requests

resp = requests.post(
    "https://api.scrapeunblocker.com/groceries/woolworths",
    headers={"X-ScrapeUnblocker-Key": SU_API_KEY},
    params={"mode": "search", "query": "milk"},
)
print(resp.text)
import { ScrapeUnblockerClient } from 'scrapeunblocker';

const su = new ScrapeUnblockerClient({ apiKey: process.env.SU_API_KEY });

const results = await su.woolworthsSearch('milk', {
  sort: 'unit_price_asc',
  maxResults: 72,
});
const product = await su.woolworthsProduct('888137');
console.log(results);
console.log(product);

Les requêtes sont en POST et passent leurs paramètres dans la query string. Le rendu navigateur a toujours lieu : aucun flag à activer.

Exemple de réponse

{
  "mode": "search",
  "query": "milk",
  "category": null,
  "sort": "relevance",
  "specialsOnly": false,
  "totalResults": 2391,
  "totalPages": 67,
  "page": 1,
  "pageSize": 36,
  "nextPage": 3,
  "resultsCollected": 36,
  "products": [
    {
      "id": "88436",
      "name": "Dairy Farmers Full Cream Milk 2L",
      "brand": "Dairy Farmers",
      "size": "2L",
      "url": "https://www.woolworths.com.au/shop/productdetails/88436/dairy-farmers-full-cream-milk-full-cream-milk",
      "barcode": "9310199012717",
      "price": 4.7,
      "wasPrice": null,
      "currency": "AUD",
      "onSale": false,
      "savings": null,
      "promotion": null,
      "unitPrice": { "price": 2.35, "per": "1L", "text": "$2.35 / 1L" },
      "soldBy": "Each",
      "inStock": true,
      "available": true,
      "purchaseLimit": 36,
      "isNew": false,
      "onlineOnly": false,
      "sponsored": true,
      "image": "https://cdn1.woolworths.media/content/wowproductimages/large/088436.jpg",
      "categories": [ "Container Bonus Credits", "Dairy, Eggs & Fridge", "Milk", "Full Cream Milk" ],
      "healthStarRating": 4.0,
      "rating": null
    },
    {
      "id": "204746",
      "name": "Pauls Smarter White Low Fat Milk 2L",
      "brand": "Pauls",
      "size": "2L",
      "url": "https://www.woolworths.com.au/shop/productdetails/204746/pauls-smarter-white-low-fat-milk",
      "barcode": "9310036039488",
      "price": 4.6,
      "wasPrice": 4.95,
      "currency": "AUD",
      "onSale": true,
      "savings": 0.35,
      "promotion": { "type": "special", "text": "Save $0.35" },
      "unitPrice": { "price": 2.3, "per": "1L", "text": "$2.30 / 1L" },
      "soldBy": "Each",
      "inStock": true,
      "available": true,
      "purchaseLimit": 10,
      "isNew": false,
      "onlineOnly": false,
      "sponsored": true,
      "image": "https://cdn1.woolworths.media/content/wowproductimages/large/204746.jpg",
      "categories": [
        "Dairy, Eggs & Fridge",
        "Milk",
        "Skim & Reduced Fat Milk",
        "Full Cream Milk",
        "Soy & Speciality Milk"
      ],
      "healthStarRating": null,
      "rating": null
    }
  ],
  "pagesFetched": 2,
  "suggestedTerm": null
}

Lire la documentation de l'API

Questions fréquentes

Le scraping de Woolworths est-il légal ?

Collecter des données Woolworths publiques comme les noms des produits, les prix en rayon, les prix unitaires et les promotions est licite dans de nombreuses juridictions, mais les règles dépendent de votre pays, des données collectées et de leur usage. ScrapeUnblocker renvoie les données produit publiques ; ce que vous collectez et comment vous l'utilisez relève de votre responsabilité.

Comment scraper Woolworths sans se faire bloquer ?

Les données de recherche, de catégorie et de produit de Woolworths sont protégées par Akamai Bot Manager : une session sans les cookies d'Akamai voit sa connexion réinitialisée. Le plugin /groceries/woolworths ouvre chaque session par une requête à laquelle Woolworths répond pour tout le monde, qui pose ces cookies, puis envoie ses vraies requêtes sur la même sortie avec eux, si bien qu'aucun navigateur n'est nécessaire. Woolworths répond depuis n'importe quel pays, les appels se répartissent donc sur toutes les sorties ISP de ScrapeUnblocker plutôt que sur quelques sorties australiennes, et une sortie refusée est mise au repos pendant que la requête passe à une session neuve sur une autre. Dans le benchmark de ScrapeUnblocker, 99,8 % des 1 114 appels (recherches avec un terme différent à chaque fois et pages produit) ont renvoyé des données, en environ 3,7 s par appel.

Quelles données Woolworths puis-je obtenir ?

Pour chaque produit d'une liste de recherche, de catégorie ou de promotions : le stockcode, le nom, la marque, le format, le lien et le code-barres, le prix et l'éventuel ancien prix avec l'économie réalisée, le type et le texte de la promotion, le prix unitaire, le mode de vente, le stock, la disponibilité et la limite d'achat, les indicateurs nouveauté et sponsorisé, l'image, ses catégories, le health star rating et la note. mode=product ajoute la description, les ingrédients, les allergènes (contient, peut contenir et sans), les mentions diététiques, le tableau nutritionnel par portion et pour 100 g ou mL, la taille de portion et le nombre de portions par paquet, la conservation, le pays d'origine, le rayon, l'allée, toutes les images et les variantes.

Comment obtenir les promotions et les produits à moitié prix de Woolworths ?

Appelez mode=specials : il renvoie par défaut la page Half Price de Woolworths, et category choisit une autre page de promotions : lower-shelf-price, everyday-low-price, seasonal-price, buy-more-save-more ou online-only-specials, ou un lien de promotions. Dans une recherche, specials_only=true ne garde que les produits en promotion. Chaque produit porte onSale, wasPrice et savings, et promotion indique de quel type d'offre il s'agit : half_price, special, multibuy avec la quantité et le prix du multi-achat, ou offer.

Ai-je besoin d'un compte Woolworths ou d'une IP australienne ?

Non. Le plugin n'a besoin d'aucun compte Woolworths, connexion ni clé d'API : envoyez une requête, une catégorie ou un stockcode avec votre clé ScrapeUnblocker et recevez du JSON. Woolworths répond à tous les pays dans lesquels ScrapeUnblocker a des sorties, vous n'avez donc pas besoin d'une adresse australienne ; laissez proxy_country vide pour répartir la charge, ou renseignez-le, par exemple AU, pour en fixer un. Les prix sont les prix en ligne qu'affiche woolworths.com.au, en AUD.

Combien coûte le scraping de Woolworths ?

Chaque page de liste récupérée est facturée comme une requête, et pagesFetched indique le nombre exact. Woolworths sert jusqu'à 36 produits par page, max_results=360 demande donc environ 10 pages ; les produits sponsorisés se répètent d'une page à l'autre et sont écartés comme doublons, si bien que remplir max_results peut demander une page de plus. Un produit est une requête. 1 requête = 1 crédit, 1,00 EUR pour 1 000 en paiement à l'usage, en descendant jusqu'à environ 0,55 EUR pour 1 000 sur l'offre Ultimate. Les blocages et les timeouts ne sont pas facturés, et l'essai gratuit inclut 500 requêtes sans carte bancaire.

Scrapers similaires

Woolworths et les autres noms et marques de woolworths.com.au appartiennent à leur titulaire et ne servent ici qu'à désigner le site avec lequel cette API fonctionne. ScrapeUnblocker est un service indépendant, sans lien avec le titulaire de woolworths.com.au, et n'est ni approuvé ni parrainé par lui.

Commencez à scraper ce site dès aujourd'hui

Palier gratuit inclus. Aucune carte bancaire requise pour tester.