存档

‘perl/php/python/gawk/sed’ 分类的存档

统一任务管理cronsun

2020年9月21日 没有评论

一、需求

公司写了很多脚本,分别部署在不同的机器上通过crontab进行管理,这里有一个缺点是,没有一个平台可以查看所有的任务执行情况和进行任务统一管理的平台。为此找了一些开源工具进行测试,测试涉及的产品如下:

国内有的有:jobxSaturn(唯品会)、elasti[......]

Read more

chrome报错ssl_client_socket_impl.cc报错解决

2020年9月2日 3 条评论

背景

帮公司的一个爬虫项目安装完成了google chrome headless,其在使用selenium  + chrome爬取内部的一个合作厂家的站点信息时,出现了无法获取内容的情况,同时也没有明显的报错信息。使用内部httpd服务搭建的测试页,可以正常获取[......]

Read more

ChatterBot聊天机器人初体验

2020年8月3日 没有评论

Chatterbot 是基于pyhton实现的一个简单的聊天机器人,它需要大量对话语料来支撑它的运行。当用户给它一个输入时,它会在所有的语料库中寻找和这句话最相似的一句话,然后返回语料库中的下一句。chatterbot_corpus 是 Chatterbot 自带的语料库。本篇就先简单的写下c[......]

Read more

sqlite3 ImportError: DLL load failed报错处理

2020年8月1日 没有评论

windows下python下的开发环境是基于Miniconda3搭建的,在测试某一个功能时,其默认调用的是sqlite3库进行存储。不过在调用时失败,报错信息如下:

from _sqlite3 import *
ImportError: DLL load failed[......]

Read more

防火墙与F5数据的融合

2020年6月15日 没有评论

一、背景

最近有一个需求是想基于 Neo4j 做设备关联关系的查询和关联图的输出。就是通过输入一个公网IP+端口就可以查询其对应的后端F5地址信息和realserver信息。在实现这个功能之前,需要先将防火墙数据F5数据做一个关联。效果类似如下:

firewall-f5

二、数[......]

Read more

faceswap AI换脸

2020年6月11日 没有评论

一、AI换脸需求概述

AI换脸这个需求是领导给一同事的需求,在帮同事装完相关环境后,也顺便帮他一想研究了下。同事选中的是用faceswap开源软件进行测试。faceswap 项目是一个学习重建脸部特征的深度学习算法。你给它一堆的图片,它学习几个小时后,可以根据计算的模型对图片进行批[......]

Read more

web实现DNS查询

2020年5月15日 没有评论

一、功能和需求

先说下现在实现的功能吧,想要在实现一个内部DNS查询系统,通过在页面上输入域名或IP地址就可以查出对应的IP或域名。具体效果如下:

dnsquery

通过点击后面的提交查询,就可以返回相应的结果。里面的地址和域名也是可以直接更换为想要查询的地址或者内容。[......]

Read more

python获取13位时间戳

2020年2月20日 没有评论

Unix 时间戳根据精度的不同,有 10 位(秒级),13 位(毫秒级),16 位(微妙级)和 19 位(纳秒级)。平时我们在linux命令行下,使用date +%s返回的是一个10位的unix时间,而在常用的http的响应头里,我们经常会发现有13位的unix时间戳。在python下可以比较[......]

Read more

pandas之SQL类操作

2020年2月6日 没有评论

一、pandas数据

pandas有两类数据,一种是一维的Series;另一种是二维的DataFrame。其实还有一个三维的Panel,不过这种数据分类已经废弃。pandas的数据使用比较灵活,可以像SQL一样操作。本文结合示例说下pandas的操作。

excel数据比对

2020年2月3日 没有评论

一、背景与思路

背景:由于新冠肺炎疫情的影响,每天需要统计公司员工的信息进行上报,并和前一天的数据进行比对。肉眼一个个的比对比较累,而且容易出错,所以就想到通过程序来实现数据的比对。

思路:

1、通过xlrd、xlsxwriter这类模块进行表格读取,读取后[......]

Read more