项目库
脚本与自动化Shipbridge Logistics · 初级软件工程师 · 2022
用爬虫加周报替掉了一张纯手工维护的承运商费率表
分享者:M. Okafor · 前 Shipbridge Logistics 软件工程师
分享者在面试里讲的正是这个项目,后来拿到了 offer。
走进这场面试
4 个当年真实追问 · 2 个 hard · 约 12 分钟
答完每一题,才翻开当事人当年的接法。
他们当时是怎么讲的
运营团队每周都在手动把承运商的价格复制粘贴进一张表里。我做了个东西,直接把数字拉下来、把报告发出去,省掉了这一步。
展开全文
在一家物流创业公司,运营团队用一张共享表格追踪几家承运商门户的运费——有个人每周一上午大半天都耗在登录、看费率表、往里粘数字上。又慢,还时不时手滑敲错个数。作为应届生我主动提出接下这活儿。我写了个爬虫,登录那两个允许爬的门户,解析费率表;第三家承运商没有能用的页面,我就从他们邮件发给我们的 CSV 导出里取数。然后一个脚本把所有数据统一成同一种格式,生成一份周报,每周一早上 7 点发到运营负责人的邮箱。这里正确性特别重要——费率错了就意味着给客户报错价——所以我让它把任何环比涨跌超过 15% 的费率标出来,交给人来过一眼,而不是盲目相信爬下来的结果。我负责它的那段时间,门户改了两次 HTML,两次都把我的解析器弄崩了;我加了个检查,如果某张表返回是空的或者格式不对,它就发邮件给我,而不是发出一份『看着挺自信实则是错的』报告。这个东西大概帮运营那位同事每周省下三个小时,还减少了粘贴出错。
当年真实被问到的
网站一变,爬虫就崩。当 HTML 变了的时候,你的爬虫是怎么处理的?
困难你怎么保证爬下来的数字确实是对的?
困难为什么要爬,而不是直接找承运商要个 API 或者数据源?
中等上线之后还有人用它吗?归谁维护?
简单