当前位置: 首页 > news >正文

对网站建设的问题百度如何添加店铺位置信息

对网站建设的问题,百度如何添加店铺位置信息,石家庄疫情为什么又严重了,英文网站如何做seo最近接触了一个个人感觉很奈斯的项目,故记录思路如下: puppeteer项目梳理: 入口文件 run.js 入口命令 node run.js YourConfig.json 1、我们可以在自己的config.json里面设置好 ①、登录的用户名密码;aws或其它服务器的access等id,accessKey…

最近接触了一个个人感觉很奈斯的项目,故记录思路如下:

puppeteer项目梳理:
入口文件 run.js
入口命令 node run.js YourConfig.json

大概逻辑


1、我们可以在自己的config.json里面设置好
①、登录的用户名密码;aws或其它服务器的access等id,accessKey, region等信息;
cookie的路径,要上传到s3或者oss等对象存储平台的文件的路径;
oss和s3的比较
②、要运行的命令放在一个modules{}里面,proxy的设置,headless:true等访问浏览器的设置。

2、爬虫最好是运用模块化思想,把重复用的功能单独的拎出来
在run.js里面我们可以import我们自己其他的js文件。
①首先是import {LoadConfig} from config.js
这个LoadConfig主要是存储从config.解析的变量。
const argv = process.argv.slice(2);
const configPath = argv[0];
const config = JSON.parse(fs.readFileSync(configPath));

这是关于node的process相关内容的参考文章

类似这种,把config.json的信息都解析到数组argv里面,然后按照不同key,设置不同键值对,最后以export LoadConfig导出。
通过这种方式,我们就看把config.json里面的配置按照键值对保存了LoadConfig的数组里面。

②关于s3的配置方法封装到S3Init.js文件中,里面包含了s3的读写文件名,判断文件存在,读写文件流等function。
再引入一个包含save 和skip文件的storage.js方法,主要功能是如果s3已经存在了同名文件在,则判断跳过,避免爬取重复文件。
再映入一个date.js,主要是封装了判断日期,更改日期名字,获取当前日期等功能。

③关键引入import { createPage, closePage } from “./yourpath/Parsebrowser.js”;
这是主要的启动方法,通过const page = await createPage(getCookie, config.headless, config.proxy);去进行爬取,
Parsebrowser.js里面可以设置具体的chrome.exe位置,主要是为了打开浏览器。

④最关键的一步,
import { LoadConfig } from “./yourpath/config.js”;
const config = LoadConfig();
再打开到浏览器之后,在try下,去引入config.modules。因为config.modules里面是不同的js文件,每个js文件代表这一个页面的下载逻辑,
并且以{export download} 形式返回。
我们调用const page = await createPage(getCookie, config.headless, config.proxy),可以通过不同cookies访问网站;
再调用download变量方法就可以进去爬取不同页面(因为不同页面暴露的都是同一个download方法,可以通过循环依次爬取。
同时在同一个网站里,我们可以设置复用的download.js去点击下载按钮,可以设置复用的selectdate.js去选择日期等。

总结:
将关于s3的配置,打开浏览器,访问不同页面都分别独立出来。并且通过config.json去定义想要运行的js文件(所有爬虫js返回一个相同的变量),当运行到入口文件run.js时,for循环会将config.json的Modules定义的js爬虫文件一 一运行下去。
极大提高了代码复用效率以及通过json配置控制爬取页面的灵活性。

细节:
在爬取元素,有些插件的元素在页面element找不到,可能在js里面。比如日期控件picker 的ant-select-dropdown-menu类,就写在了js里面动态加载进去。

http://www.zhongyajixie.com/news/62689.html

相关文章:

  • 濮阳网络科技有限公司南通百度网站快速优化
  • soho需要建网站吗seo顾问什么职位
  • 选择网站的关键词torrentkitty磁力天堂
  • 武汉参开网络网站建设公司发帖推广平台
  • 网站谁做的比较好看的如何建立个人网址
  • 网站建站建设的公司关键词排名推广怎么做
  • 大型门户网站建设多少钱网站推广方案策划
  • 政府网站建设方案关键词排名点击软件推荐
  • 网站设计的可行性分析品牌宣传推广文案
  • php用什么做网站服务器吗北京搜索引擎优化管理专员
  • 网站开发职业定位百度百科推广联系方式
  • 北京网站建设 和君网站系统开发
  • 网站建设所需人员怎么在百度上推广自己的店铺
  • 做简历的网站有哪些内容seo服务方案
  • 东莞玩具加工东莞网站建设网站软文推广网站
  • 淘宝网站推广方案水果营销软文
  • 专业做公司宣传网站百度推广托管公司
  • 网站建设800元全包优化清理大师
  • 惠州网络推广seo标签怎么优化
  • 做用户名验证的网站服务器广安网站seo
  • 大连城乡建设网站百度信息流推广和搜索推广
  • c 创建一个网站怎么做如何找做网站的公司
  • 备案网站出售自助发稿
  • 办公室设计说明关键词排名优化报价
  • 做网站傻瓜软件西安网站维护公司
  • 个人网站怎么做哈尔滨seo优化培训
  • 泉州网站制作郑州seo技术博客
  • php网站建设自我总结爱情链接
  • 济南外贸网站制作枣庄网络推广seo
  • 层流病房建设单位网站优秀网站设计赏析