在NoSQL之中，一种很重要的数据库，叫做列式数据库。 下面是百度百科的解释： 列式数据库是以列相关存储架构进行数据存储的数据库，主要适合于批量数据处理和即时查询。相对应的是行式数据库，数据以行相关的存储体系架构进行空间分配，主要适合于小批量的数据处理，常用于联机事务型数据处理。 本文主要想补充说明的是，列式数据库的存储其实也不完全一样的！ 一个典型的例子就是HBase 与 Cassandra 但是他们的最小存储单元都是Column（列），并且上层都是列簇，这个是一样的。不一样的地方在于，他们是如何管…
摘要： 在传统数据库之中，视图是个非常有用的功能，NoSQL一般不具有这种能力。 另外，对于NoSQL来说，如何设计数据模型，通常来说需要一开始就非常明确自己的数据是如何存储的，以此来设计自己的存储方式。 甚至会通过存储多份数据的方式来达到目的。而对于Cassandra来说，Materialized View（物化视图）是非常实用、好用的功能，可以同时比较完美的解决NoSQL的视图缺失与对降低对数据模型扩充能力的设计要求。 原文来源：http://www.flyml.net/2016/10/30/cassandra…
原文来自100offer：文章链接 【简评】 (1) 文章开头一个工作4年的人拿到了40W年薪。 吓死我了~ 但是真的属于个例 (2) Python 的关注度越来越高 (3) Python 的应用范围越来越广。比如SEO等，在数据处理上面得心应手， 同时在运维上面的应用也越发广泛。 (4) Python 一般都是自学，因此职业素养较高，总体薪资较高 【正文】 「27k，16薪，虽然不太理想，但是达到基本预期。」 张建对最终接受的offer似乎有些不太满意。 细算下来，这位Python工程师的税前年薪为43.2万…
0. 简介 前天（10-14）看到新浪头版之中有一条新闻《政策泼冷水 南京楼市成交量现“断崖式下降”》非常兴奋：我的手里面正好有这样的数据，正好来验证一下新闻的说法是否属实。 数据来源就是南京网上房地产网，相应的爬虫程序在上一篇文章之中已有说明。可以直接到GitHub上来看。 文章来源：http://www.flyml.net/2016/10/16/house-stat-nanjing-policy-impact/ 1. 搭建Zeppelin来做数据展示 笔者之前主要使用Zeppelin来做数据分析的相关工作，对于…
笔者生活、工作在南京，因此首先想到如何抓取南京相关的数据。 1. 数据来源 百度搜索“南京房产交易数据”，发现查询结果还不错，第一条就是我们想要： 数据地址：http://www.njhouse.com.cn/index_tongji.php 经过不断的尝试，发现这个网站虽然看起来技术不咋地，但是数据还算是靠谱。 看起来下面这些数据值得我们去解释： （1） 准实时交易统计数据 另外我们还可以从其他页面解析出其他的数据。比如： （2）南京各个区的住宅类销售数据： 网页地址：http://www.njho…
0. 引言 本小节主要介绍用到的主要使用了哪些技术，算是一个开场~ 真正做的东西，请看后续的文章 如果您对这方面正好并没有太多的经验，这篇文章是一个比较好的提示文档。注意：具体如何一步步的操作，还需要您自行到官网查找相关说明。 在后面的实际操作之中，还会用到其他的技术，会在后面相应的进行说明。 文章来源：http://www.flyml.net/2016/10/15/house-stat-basic-setup/ 1. 选择爬虫框架 构建爬虫，首先要选择一个适合自己、使用称手的爬虫框架。 这方面笔者大力推荐基于Ja…
现在房产交易市场虽然出了各种限制政策，但是整个市场还是非常癫狂！ 我们也听到很多很多声音说，开发商捂盘惜售，或者是花钱请托，营造很多很多人在抢购房子的假象。 但是目前我们小老百姓 怎么知道是不是假象呢？ 怎么知道当前的房产交易走势是涨还是跌呢？ 怎么知道整体的资金走势是进入还是离开房市？ 小老百姓整体苦哈哈的干活，要是无脑撞进房市，万一又为国接盘，岂不太悲哀了？我们不是富人，没有各种内部消息渠道，怎么办呢？ 有一种方法就是看新闻。但是这种方法个人觉得并不靠谱，各种水军充斥网络。个人更加相信真实的房产交易数据。数据，…
原文出处：http://www.bennorthrop.com/Essays/2016/reflections-of-an-old-programmer.php?utm_source=wanqu.co&utm_campaign=Wanqu+Daily&utm_medium=social 直接贴原文作者的Humble Advice（卑微的建议）： 目标：不那么资深的专家，有个人生活，至少工作生活平衡（资深专家如Martin Flower） 首先：不要着眼于眼前的薪资，而更在乎长远来看，你做的事情能否让…