webmagic教程 被我们公司的后端大佬说你们前端真的没什么技术含量,我该怎么怼回去?

被我们公司的后端大佬说你们前端真的没什么技术含量,我该怎么怼回去?直接回复:dute正在移动砖块。你还有优越感吗?他们都是敢死队。你还在死亡的路上吗?你觉得自己优越吗?webmagic怎么做成分布式的

被我们公司的后端大佬说你们前端真的没什么技术含量,我该怎么怼回去?

直接回复:dute正在移动砖块。你还有优越感吗?他们都是敢死队。你还在死亡的路上吗?你觉得自己优越吗?

webmagic怎么做成分布式的?

本文构建了一个基于redis的分布式爬虫实现,代码如下:

public class redischeduler implements scheduler{

private jedispool pool

private static final string queueuprefix=“queueu”

private static final string SETuprefix=“SETu”

public redischeduler(string host){

pool=new jedispool(new jedispool config()主机)

}

@Override

public void push(请求,任务){

Jedis Jedis=池.getResource()

//使用sortedset进行URL重复数据消除

如果(绝地武士团(设置前缀)任务.getUUID(), 请求.getUrl())==null){

//用列表保存队列绝地武士(队列前缀)任务.getUUID(), 请求.getUrl())

   绝地武士扎德(设置前缀)任务.getUUID(), System.currentTimeMillis公司(), 请求.getUrl())

}

}

@Override

公共请求轮询(任务){

Jedis Jedis=池.getResource()

字符串url=绝地武士.lpop(队列前缀)任务.getUUID())

返回新请求(url)

}

}