我们专注于使用人工智能技术对文本、影像数据的处理与理解，为用户提升其生产力和决策能力。
在我们推出开源的 思通舆情系统后，在开源社区受到了广大用户的喜爱和关注，很多用户对我们的数据采集技术、后端海量数据运算非常感兴趣。 思通舆情 在线生产环境 使用了24个节点的 Elasticsearch集群存储，每天在互联网上采集的2亿多条 ......
在大数据时代，数据采集或网络爬虫似乎是每个程序员的必备技能，一般情况下，工程师会通过Python爬虫框架快速的编写出爬虫程序对网页数据抓取，不过在大规模数据采集的时候就不是一个简简单单的爬虫程序了。例如，分布式爬虫系统，在为我们的舆情系统( ......
我们目前开源的 舆情系统 分为3个部分，整个系统使用了多种开源技术组件和开源框架，涵盖涉及技术领域广泛，例如：分布式计算、大数据、人工智能、数据中台、数据挖掘、深度学习、java和python的大量实际开发场景案例。 所谓，取之于开源,用之 ......
物流行业需要能及时获取并汇集海量物流行业资讯，全面了解物流行业变化，聚合多项指标；包罗快递、设施、园区、全球物流等各方资讯与行业数据。 客户背景 中国邮政系统经过几十年的建设，几乎可以到达国内任何一个角落。下设6.7万多个局所， 有覆盖全国 ......
上一篇文章我们说到了：大数据开源舆情分析系统-数据采集技术架构浅析 今天跟大家来聊聊我们舆情系统中的数据处理部分是怎么样的工作机制。 简述 舆情系统的数据处理部分我们定义为：数据工厂。 数据工厂，是一套多组件化数据清洗加工及数据存储管理平台 ......
北京大学 https://www.lab.pku.edu.cn 北京大学实验室与设备管理部 北京大学 https://zwb.pku.edu.cn 北京大学总务部 北京大学 http://lab.bjmu.edu.cn 招标采购_北京大学医 ......
爬虫，在很多人眼里很简单、廉价一点都不奇怪，因为网上有大量9.9块Python培训课，其中包含爬虫教学。 爬虫，在多数人眼里是灰色产业，这也不奇怪。中国在2019年出现了很多“大数据”公司，他们采用了爬虫技术窃取用户隐私。 但是，爬虫，一词 ......
为什么要做这个开源项目？开源网络爬虫 做这个开源项目我们主要想解决 两个核心问题 ： 网络上有用的数据在哪儿？ & 怎么采集有用的数据？ 1.有用的数据在哪儿？ 互联网和移动互联网的信息量实在是太大了，很多有用的信息都在网上，但不是 ......
