在NoSQL之中,一种很重要的数据库,叫做列式数据库。 下面是百度百科的解释: 列式数据库是以列相关存储架构进行数据存储的数据库,主要适合于批量数据处理和即时查询。相对应的是行式数据库,数据以行相关的存储体系架构进行空间分配,主要适合于小批量的数据处理,常用于联机事务型数据处理。   本文主要想补充说明的是,列式数据库的存储其实也不完全一样的! 一个典型的例子就是HBase 与 Cassandra 但是他们的最小存储单元都是Column(列),并且上层都是列簇,这个是一样的。不一样的地方在于,他们是如何管…

2016年10月30日 2条评论 10794点热度 1人点赞 阅读全文

摘要: 在传统数据库之中,视图是个非常有用的功能,NoSQL一般不具有这种能力。 另外,对于NoSQL来说,如何设计数据模型,通常来说需要一开始就非常明确自己的数据是如何存储的,以此来设计自己的存储方式。 甚至会通过存储多份数据的方式来达到目的。而对于Cassandra来说,Materialized View(物化视图)是非常实用、好用的功能,可以同时比较完美的解决NoSQL的视图缺失与对降低对数据模型扩充能力的设计要求。 原文来源:http://www.flyml.net/2016/10/30/cassandra…

2016年10月30日 0条评论 10805点热度 2人点赞 阅读全文

原文来自100offer:文章链接 【简评】 (1) 文章开头一个工作4年的人拿到了40W年薪。 吓死我了~   但是真的属于个例 (2) Python 的关注度越来越高 (3) Python 的应用范围越来越广。比如SEO等,在数据处理上面得心应手, 同时在运维上面的应用也越发广泛。 (4) Python 一般都是自学,因此职业素养较高,总体薪资较高 【正文】 「27k,16薪,虽然不太理想,但是达到基本预期。」 张建对最终接受的offer似乎有些不太满意。 细算下来,这位Python工程师的税前年薪为43.2万…

2016年10月18日 0条评论 6317点热度 0人点赞 阅读全文

PPT: https://pan.baidu.com/s/1geKsAL9   http2 from Google SPDY 浏览器的兼容性: ie 11 才开始支持了http2. TLS 是SSL的升级版。 增加了新的特性,在握手的时候就可以进行协商,等等新feature, 对协议做了升级。 ALPN 客户端指定,用得比较多。 http2 正在大规模使用了, 因为浏览器跟服务器都开始更新到http2. 已经比较成熟了。 http2 优点与作用: 试图减少终端用户的延迟。 解决head of line b…

2016年10月17日 0条评论 5339点热度 0人点赞 阅读全文

0. 简介 前天(10-14)看到新浪头版之中有一条新闻《政策泼冷水 南京楼市成交量现“断崖式下降”》非常兴奋:我的手里面正好有这样的数据,正好来验证一下新闻的说法是否属实。 数据来源就是南京网上房地产网,相应的爬虫程序在上一篇文章之中已有说明。可以直接到GitHub上来看。 文章来源:http://www.flyml.net/2016/10/16/house-stat-nanjing-policy-impact/ 1. 搭建Zeppelin来做数据展示 笔者之前主要使用Zeppelin来做数据分析的相关工作,对于…

2016年10月16日 0条评论 8441点热度 1人点赞 阅读全文

笔者生活、工作在南京,因此首先想到如何抓取南京相关的数据。 1. 数据来源 百度搜索“南京房产交易数据”,发现查询结果还不错,第一条就是我们想要: 数据地址:http://www.njhouse.com.cn/index_tongji.php 经过不断的尝试,发现这个网站虽然看起来技术不咋地,但是数据还算是靠谱。 看起来下面这些数据值得我们去解释: (1) 准实时交易统计数据   另外我们还可以从其他页面解析出其他的数据。比如: (2)南京各个区的住宅类销售数据: 网页地址:http://www.njho…

2016年10月15日 0条评论 28641点热度 0人点赞 阅读全文

0. 引言 本小节主要介绍用到的主要使用了哪些技术,算是一个开场~ 真正做的东西,请看后续的文章 如果您对这方面正好并没有太多的经验,这篇文章是一个比较好的提示文档。注意:具体如何一步步的操作,还需要您自行到官网查找相关说明。 在后面的实际操作之中,还会用到其他的技术,会在后面相应的进行说明。 文章来源:http://www.flyml.net/2016/10/15/house-stat-basic-setup/ 1. 选择爬虫框架 构建爬虫,首先要选择一个适合自己、使用称手的爬虫框架。 这方面笔者大力推荐基于Ja…

2016年10月15日 0条评论 7323点热度 0人点赞 阅读全文

现在房产交易市场虽然出了各种限制政策,但是整个市场还是非常癫狂! 我们也听到很多很多声音说,开发商捂盘惜售,或者是花钱请托,营造很多很多人在抢购房子的假象。 但是目前我们小老百姓 怎么知道是不是假象呢? 怎么知道当前的房产交易走势是涨还是跌呢? 怎么知道整体的资金走势是进入还是离开房市? 小老百姓整体苦哈哈的干活,要是无脑撞进房市,万一又为国接盘,岂不太悲哀了?我们不是富人,没有各种内部消息渠道,怎么办呢? 有一种方法就是看新闻。但是这种方法个人觉得并不靠谱,各种水军充斥网络。个人更加相信真实的房产交易数据。数据,…

2016年10月14日 0条评论 6738点热度 0人点赞 阅读全文

原文出处:http://www.bennorthrop.com/Essays/2016/reflections-of-an-old-programmer.php?utm_source=wanqu.co&utm_campaign=Wanqu+Daily&utm_medium=social 直接贴原文作者的Humble Advice(卑微的建议): 目标:不那么资深的专家,有个人生活,至少工作生活平衡(资深专家如Martin Flower) 首先:不要着眼于眼前的薪资,而更在乎长远来看,你做的事情能否让…

2016年10月07日 0条评论 6468点热度 0人点赞 阅读全文