张子阳的博客

首页 读书 技术 店铺 关于
张子阳的博客 首页 读书 技术 关于

最新内容

文章: 298

阅读: 1143001

今日阅读: 519

今日访客: 426

离线和实时大数据开发实战

这本书是公司一位负责数据库的同事推荐的,正好数据中心也在重构和优化,以应对更加海量的数据,所以便花了些时间读完了这本书。

这本书首先按照按照数据处理的流程,将数据处理分成了下面几个步骤

  1. 数据产生:可以是后台业务数据、日志数据、客户端埋点数据、爬虫数据、其他第三方数据等。
  2. 数据采集和传输:数据源主要分为文本和数据库两种。
  3. 数据存储:将采集来的数据进行持久化保存
  4. 数据应用:当前主要还是“看”,未来可以利用深度学习、数据挖掘、机器学习等方式获得更多价值。

按照数据存储的实效性,将数据处理分为了三类:

  1. 离线处理:今天处理昨天或者更久前的数据,时间单位通常是天。
  2. 近线处理:处理15分钟或者1小时之前的数据,时间单位通常是分钟。
  3. 实时处理:处理即时收到数据,时效主要取决于传输和存储速度,时间单位通常是秒甚至毫秒。
阅读: 4072 发表: 2018-07-06 推荐:

Kafka分布式消息系统(搭建Kafka集群) - Part.3

在前面两篇文章中,我们了解了基本概念,也安装、配置好了zookeeper集群,在这篇文章中,我们将一步步搭建kafka集群。

搭建zookeeper集群 中,我们已经配置了系统环境,并且下载、解压了kafka安装包,所以这篇文章更多的是配置。kafka和zookeeper一样,都是使用java开发的,之前java环境已经安装过了,所以这篇文章也不再演示。如果你还没有看过上一篇,那么建议先看 上一篇

阅读: 3057 发表: 2018-06-26

Kafka分布式消息系统(搭建Zookeeper集群) - Part.2

kafka使用zookeeper来管理Brokers(kafka服务进程)、执行partition(分区)的leader选举、当出现变更时向kafka发送通知(新建topic、删除topic、broker上线、broker下线)。zookeeper通常配置为集群,一般3个或者5个,其中一个为leader,其余为follower。kafka强依赖于zookeeper,如果没有zookeeper则无法运行,这篇文章主要讲述如何在CentOS 7上搭建zookeeper集群,简单起见,以root身份登录系统并进行操作。

阅读: 3656 发表: 2018-06-26

Kafka分布式消息系统(基本概念) - Part.1

本来打算给这篇文章起名叫“搭建Kafka消息队列集群”,然而,和RabbitMQ不同,Kafka并没有实现消息队列的协议(例如AMQP,Advanced Message Queuing Protocol,提供统一消息服务的应用层标准高级消息队列协议,是应用层协议的一个开放标准,为面向消息的中间件设计),所以尽管在使用方式上像极了队列,但并不算是严格意义上的消息队列。而按照官方的定义:A distributed streaming platform(分布式流数据平台),又显得太抽象,所以,我还是从实际出发,因为在项目中将Kafka用作一个数据传输和缓冲的中介,于是将标题命名为了“搭建Kafka数据传输服务集群”,关键词是:数据传输服务。

阅读: 3731 发表: 2018-06-26

企业IT架构转型之道

近期公司在做一些后台架构方面的改造,例如对数据中心,数据采集/传输/清洗/存储方面的优化,因此,我想有必要了解一些其他公司是如何做系统架构和转型的,于是购买了这本书。通读完以后,对阿里的中台架构有一个鸟瞰式的了解,也了解到了其中的庞大和复杂。这样的系统规模,对于大多数公司都是难以实现的,既难以开发也难以维护,毕竟很少有公司达到阿里这样的量级(不管是面对的客户访问量还是技术人员的数量)。但是,从这本书中,至少看到了架构的一些演化过程、可能遇到的问题、可选的解决方案。这样,在公司逐步发展时遇到类似问题时,至少有一个解决问题的方向,然后按这个方向再去寻找具体的解决办法。

阅读: 3263 发表: 2018-06-23 推荐:

一瞬光影:温暖唯美系人像养成攻略

我习惯旅行的时候带一两本书,因为旅行的时候总是会有不少等待的时间,比如说等飞机、等排队过关、等同行的同伴购物。我不是很喜欢玩手机,因为显示屏看久了总是觉得眼睛很累,这时候拿一本轻松的书看一下最合适不过了。因此,在端午假期出行期间,我便带上了这本书并读完了它。

以前我总是拍风景,拍得多了,觉得有一点无聊;同时也为了给旅途中同行的人多留一些纪念,所以开始拍一些人像。然后发现人像比风景难拍多了,风景主要是构图以及掌握好拍摄的时机(例如清晨或傍晚,光线最有层次感的时候)。人像则不同,除了构图和拍摄时间以外,还需要想好Pose,做好表情,选择目光注视的方向,有时候还需要抓拍。除此以外,人像也分为风景照(以景色作为人的背景)、旅拍、肖像、写真、私房等等很多种。

买这本书,也是想学习一下人像摄影方面的知识。这本书的作者是一位入行仅4年的职业女摄影师,她所喜欢和擅长的风格是温暖唯美型的,书中的配图也很好地提现了这一点,可以看到很多风格清新唯美的美女。

阅读: 2539 发表: 2018-06-23 推荐:

基于Docker的持续集成方案(安装和配置docker镜像仓库) - Part.5

《基于Docker的持续集成方案》中,有一个安装和配置环节,即私有的docker镜像仓库,本文将对此进行介绍。

阅读: 4150 发表: 2018-06-12

基于Docker的持续集成方案(安装和配置Gogs源码仓库) - Part.4

不管技术还是生活,我现在都越来越喜欢简单、轻巧、专一、高效。因此我放弃了使用笨重、复杂的GitLab,而选择了这个轻量的源码管理工具。它的github地址是:github.com/gogs/gogs。目前是go语言类,stars排名第7的开源项目。这篇文章将介绍如何使用docker来搭建Gogs源码管理仓库。

阅读: 3128 发表: 2018-06-11

基于Docker的持续集成方案(安装和配置MySql) - Part.3

这篇文章介绍了使用Docker安装MySql数据库的操作步骤,以及安装完成后如何对MySql进行配置。

阅读: 4135 发表: 2018-06-10

基于Docker的持续集成方案(安装docker) - Part.2

Docker是近几年非常流行的一项技术,我也花了一点时间研究了一下。这篇文章简单地记录一下如何在Linux(CentOS 7)系统上安装Docker,并概述了最常用的4个命令。

阅读: 3699 发表: 2018-06-09

基于Docker的持续集成方案(介绍) - Part.1

使用docker有很多的便利,这个就不再讲述了,之前发布的《在CentOS上安装Docker》已经对docker有所介绍。这篇文章将介绍如何将docker结合到持续集成(持续部署)中。

阅读: 4439 发表: 2018-06-03

这才是最好的数学书(上)

看了《穷查理宝典》,更了解到跨学科学习的重要性,对于书中提到的主要的几个学科:数学、会计学、心理学和微观经济学,以前大多只是零零散散地学习过。对于不怎么感兴趣的会计学,更是从来没有涉猎过。于是呢,就想将这几个门类稍微系统地学习一下 。

我想先从数学看起,不管是从查理所讲的建立思维模型,或者是从软件编程的职业需要而言,数学都是应该掌握到一定程度的。但由于已经挺长时间没有看数学方面的东西了,所以打算从一些简单的看起。如果直接拿起大一时候的课本,开始温习《高等数学》估计很难看下去,时隔多年,很多知识都已经还回给老师了。

所以,就在京东上面搜索关于数学方面的书籍。发现并不多,而这本书的标题吸引了我,于是就买来看一下。看完上册之后,不说大失所望,但确实没能达到我的期望。这是一本科普类型的书,主要的读者对象是初中生,目的是激发学生对学习数学的兴趣。而我更需要的,应该是一本类似《什么是数学》的书(这本书之前看了一半,现在想看,可惜放在老家了,可能我要重新买了),能够系统的讲解数学这个学科包含的主要内容,以及在生活中的应用。

这本书分为了五个大的章节。第一部分,数学史,主要讲了数学的起源:因为人们需要计数,所以产生了数学。从最早期的远古时代,一直讲述到中世纪。从这一章中,可以了解到在阿拉伯数字以前,古代人用各种符号来进行数学计算是及其复杂的一件事情;也可以了解到10进制的起源,源于古人用10根手指来计数;也知道了阿拉伯数字并不是阿拉伯人发明的,而是印度人,但是因为阿拉伯人活跃于中东一带,从而将印度人发明的数字传播到了欧洲,从而命名为了阿拉伯数字。

阅读: 2901 发表: 2018-05-31 推荐:

穷查理宝典

这本书也是在很多不同地方看到过推荐,就买来读了。书的作者并不是查理芒格,而是和芒格有过很多次接触的人。这本书通过查理· 芒格的经历、即席谈话、演讲、文章等,介绍了查理·芒格的思维,生活学习方法,以及查理多次提到的普世智慧。

虽然伯克希尔·哈撒韦是最成功的投资公司,但这本书并没有花太多篇幅在选股和投资的技术层面,而是讲了很多让人终生受用的道理。书中也花了部分篇幅讲解了投资业和基金业的一些弊病,但目前对我而言并没有什么影响和作用。印象比较深的一点是:其实很多时候基金并不需要频繁地买进卖出,基金经理之所以这样做,是因为如果不这样,客户就会指责他们不做事。但如果完全自主去做投资,就不需要频繁交易。

查理所做的投资都是基于美国股市,因为中国股市的情况大不一样,所以他的经验也未必完全适用。如同查理自己所说的,只做熟悉的领域,海外市场是他不熟悉的,所以他通过投资美国的跨国企业来间接参与全球市场。

阅读: 2547 发表: 2018-05-08 推荐:

见识:你最终能走多远,取决于见识

这本书是在一次公司内部会议上,部门的一位资深同事推荐并赠送的。吴军的书我看过几本了,总得来说,他的书写得都比较流畅,思路比较清晰,结构也很清楚,因此读起来都不怎么费力,这本也是一样。这本书与之前读过的不大相同,之前通常是就某个领域来讲,比如《智能时代》、《数学之美》。这本则是作者的一些人生感悟和职场经验的分享,最初应该是发表在作者的互联网栏目《硅谷来信》上,然后又整理成册的。

下面列出了总结出来的本书的一些要点,其实看的书多了,发现很多东西都是相通的,这个人讲过了,换了个作者又讲了一遍,相互印证一下。对自己而言,也没什么不好,毕竟印象又加深了一些:

关于运气,人都是有走运的时候,也有不走运的时候,既不可能一直走运,也不可能一直不走运。从长远来看,运气并不是一生的决定因素,一两次的好运或者坏运气,并不能对人生带来根本性的改变。比如买彩票中了奖,又或者是合适的时间恰巧买了房子,因为人生很漫长。

人的命取决于两个因素:1、所处的环境;2、未来发展划定的方向。个人的努力、运气等不过是在这两条线之间做微调。比如,你和王思聪就作为一个人本身而言差别不会很大,不管是智商、情商还是体能,不会有特别大的区别,最大的区别是生长的环境。

阅读: 2836 发表: 2018-04-21 推荐:

常用Git命令和操作(github)

这篇文章总结了当使用github托管git仓库时,经常使用的命令。

阅读: 3160 发表: 2018-03-28

常用Git命令和操作

这篇文章记录了本地单机使用Git时,经常用到的一些Git命令,以便查阅和参考。

阅读: 2815 发表: 2018-03-27

微服务架构与实践

最近想更新一下后台架构方面的知识,因为当前“微服务”是比较流行的一个发展趋势,于是就买了这本书学习一下。这本与其说是“书”,不如说是操作手册和配置说明。全书几乎没有关于技术的讲解,而是设定一个微服务的项目目标,接下来就是一步步的操作和配置说明。然而这份说明也不够详细,几乎没有任何解释,只是请读者照做而已。一旦涉及复杂的部分则给出官网的链接。

书中的微服务的例子是用Ruby下的Grape框架来实现的,Ruby相对小众,多少也会有点不适应。

读完这本书,最大的收获可能是了解到构建微服务的系统需要用到哪些技术,至于这些技术的详情,还需要通过别的资料来学习。

阅读: 2469 发表: 2018-03-26 推荐:

百万富翁快车道

这本也是来自一个推荐书单,作者讲的大多数道理其实我都明白,我想大多数人也明白,只是在脑子里这些东西比较零乱,而作者结合自己的亲身体会,将这些道理更连贯、更系统地讲述了出来。

全书大体可以分为两部分,一部分讲述了人行道、慢车道、快车道具体有什么区别,一部分讲述了日常生活、实际创业和经营过程中应该注意的一些问题。作者的文笔比较口语化,所以即便这本书内容比较多,读起来依然很轻松。

阅读: 2686 发表: 2018-03-23 推荐:

简单的艺术

之前读过一篇文章,叫做《极简主义生活》,可以说受到了蛮深的影响。从那以后,生活中的很多东西都简单化了,感觉轻松不少。现在关于极简主义的书更多了,这本是偶然在一本推荐书单中看到的,于是买来重读一遍。

这本书从三个方面讲述了简单的艺术:物质、身体、精神。

阅读: 2135 发表: 2018-03-14 推荐:

ES6中的Generator函数

之前在React项目中,遇到异步请求,都是通过redux-thunk来处理,但使用这种方式,action就变得不那么纯净了。当前新的趋势是使用redux-saga来处理side effects(副效应)。在redux-saga中,重度使用了generator函数的概念,这篇文章先就Generator函数做一个小结。

阅读: 2375 发表: 2018-03-06
<< < 6 7 8 9 10 11 12 13 14 15
298 条记录 当前显示 201-220