videocamWeb Data Extraction Summit - September 30th, 2021.
Join some of the greatest minds in web scraping to educate, inspire, and innovate.
Register for free!
Start a new topic

Sobre scrapy cloud y crawlera

Perdonad mi ignorancia pero soy nueva en esto y quiero asegurarme de estar entendiendo bien cómo funciona la plataforma,...

Por lo que he estado investigando sobre cómo va el tema de scrapy cloud y crawlera, éstas son mis conclusiones:

  • Scrapy cloud. Por lo que he deducido, es una plataforma con la que puedo ir lanzando mis arañas de python (entiendo que estoy incluye un bot de instagram), que tiene un coste de 9$/mes. Si no entiendo mal, puedo instalar más de un bot por unidad siempre y cuando los bots no se ejecuten a la vez… Pero si quiero instalar más bots que se ejecuten en paralelo, tendría que pagar 9$ por unidad…Respecto al tema de las ips, deduzco que cada unidad tendrá la suya propia… por lo que aquí no habrá peligro de que instagram me banee… o quizás no es así??
  • Crawlera: Aquí deduzco que ésta es la opción que tengo para “escalar” mis bots y controlar las ips… Entiendo que con crawlera puedo controlar el tema de las ips, aunque todavía tengo que aprender cómo hacerlo, y además resulta algo más económico si necesito ejecutar varios bots, porque por lo que he visto, por 25 dólares al mes tengo un límite de 150k request con 10 request en paralelo...

Alguien me puede aportar un poco de luz sobre este tema??

Como veis estoy bastante perdida todavía!!

Muchas gracias por vuestro tiempo!!


Login to post a comment