Mac下搭建Hadoop环境

栏目: 编程工具 · 发布时间: 8年前

内容简介:Mac下搭建Hadoop环境

安装JDK

安装JDK,安装成功后在终端中输入 java -version ,显示如下

java version "1.7.0_51"
Java(TM) SE Runtime Environment (build 1.7.0_51-b13)
Java HotSpot(TM) 64-Bit Server VM (build 24.51-b03, mixed mode)

安装Hadoop

下载 Hadoop ,将该文件解压至 /usr/local 目录下

配置系统环境变量

export JAVA_HOME=/Library/Java/JavaVirtualMachines/jdk1.7.0_51.jdk/Contents/Home
export HADOOP_HOME=/usr/local/hadoop-2.4.1
export HADOOP_PREFIX=${HADOOP_HOME}
export HADOOP_COMMON_HOME=${HADOOP_PREFIX}
export HADOOP_HDFS_HOME=${HADOOP_PREFIX}
export HADOOP_MAPRED_HOME=${HADOOP_PREFIX}
export HADOOP_YARN_HOME=${HADOOP_PREFIX}
export HADOOP_CONF_DIR="$HADOOP_HOME/etc/hadoop/"
export YARN_CONF_DIR=${HADOOP_CONF_DIR}
export PATH=$PATH:$JAVA_HOME/bin:$HADOOP_PREFIX/bin:$HADOOP_PREFIX/sbin

配置ssh

测试ssh是否可以登录

输入 ssh localhost 显示

ssh: connect to host localhost port 22: Connection refused

表示ssh未配置,需要进行配置;

“系统偏好设置”–>”共享”–>”远程登录”;

再次输入 ssh localhost ,输入密码后可以看到连接成功的信息

Last login: Mon Jul 14 23:41:32 2014 from localhost

设置ssh免登录

  • 构造秘钥
    ssh-keygen -t dsa -P '' -f ~/.ssh/id_dsa
    -t: 秘钥类型
    -P: 提供密语
    -f: 生成的秘钥文件
    执行指令后,.ssh目录中将出现id_dsa私钥和id_dsa公钥
  • 将公钥追加到授权key中
    cat ~/.ssh/id_dsa.pub >> ~/.ssh/authorized_keys

配置Hadoop环境

###

参考资料


以上就是本文的全部内容,希望本文的内容对大家的学习或者工作能带来一定的帮助,也希望大家多多支持 码农网

查看所有标签

猜你喜欢:

本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们

Python网络数据采集

Python网络数据采集

米切尔 (Ryan Mitchell) / 陶俊杰、陈小莉 / 人民邮电出版社 / 2016-3-1 / CNY 59.00

本书采用简洁强大的Python语言,介绍了网络数据采集,并为采集新式网络中的各种数据类型提供了全面的指导。第一部分重点介绍网络数据采集的基本原理:如何用Python从网络服务器请求信息,如何对服务器的响应进行基本处理,以及如何以自动化手段与网站进行交互。第二部分介绍如何用网络爬虫测试网站,自动化处理,以及如何通过更多的方式接入网络。一起来看看 《Python网络数据采集》 这本书的介绍吧!

HTML 压缩/解压工具
HTML 压缩/解压工具

在线压缩/解压 HTML 代码

CSS 压缩/解压工具
CSS 压缩/解压工具

在线压缩/解压 CSS 代码

RGB CMYK 转换工具
RGB CMYK 转换工具

RGB CMYK 互转工具