大数据开发成长之路——Linux基础
Linux基础
这里主要介绍学习大数据过程中用到的Linux基础知识,现在主攻的方向是大数据开发,欢迎大家共同交流。
环境
- 推荐安装VMware虚拟机并安装CentOS操作系统,具体资源的下载和安装可以查到,如果踩到坑可以留言讨论。
- 通过远程连接工具可以直接操作虚拟机中的Linux系统,比如Xshell、SecureCRT等,熟悉Linux指令后推荐使用
注:这里需要将虚拟机网络设置为NAT模式:[编辑——>虚拟网络编辑器]
在主机电脑的[ 网络共享中心 ]可以查看到VMnet8网络适配器,其中IPv4地址与虚拟机网络在同一网段下即可
最后在虚拟机中使用ifconfig
命令查看IP地址,使用远程连接工具即可连接
常见的Linux指令
history
显示历史命令,可使用!命令序号
再次执行ctrl+a/e
让光标移动到首尾部pwd
查看当前目录ls
列出当前目录文件
-l
除文件名称外,亦将文件型态、权限、拥有者、文件大小等资讯详细列出
-r
将文件以相反次序显示
-t
将文件依建立时间之先后次序列出
-a
显示所有文件及目录,开头为"."的视为隐藏档
- vim编辑器的使用
vim test
编辑名为test的文档,如果不存在则创建
a/i
进入插入模式开始编辑
ESC键
返回到命令行模式
在命令模式下:
:q/:q!
不保存退出/强制退出
:wq
保存并退出
:set nu
显示行号set nonu
不显示行号
gg
回到首行
G
跳到尾行
dd
删除光标所在行
yy
复制光标所在行p
粘贴在下一行,4yy
向下复制四行
wc
即word count命令,可以查阅脚本的行数字节数等信息,可以使用wc --help
查看具体命令
- 文件管理命令:
cat test1 test2 > test3
将文件拼接到另一个文件中cat -n test3
带行号打印显示touch
新建文件touch newFile
更改文件编辑时间为当前touch test3
chmod
更改文件操作权限,可以使用ll
命令查看当前目录下的个文件权限,依次是文件拥有者、群组、其他,权限级别分为w
可写、r
可读、x
可执行,可分别用数字4 2 1
代表,例如chmod 777 test3
chown
更改文件拥有者,文件拥有者分为用户
和组
注:在root用户权限下才可执行上述两条命令su root
find
查找命令,find -name '*.txt'
查找txt文件,通常可以配合管道命令查询more
类似cat,但一页一页展示,使用ctrl+f
向下翻页less
类似more,但是可以向上翻页ctrl+b
head -n 5 test3
查看test3文件的前5行,tail -n 5 test3
查看后五行mv
重命名文件mv test1 test4
移动文件或目录mv test4 /opt
即剪切功能cp
复制文件或目录,参数-r
表示递归复制mkdir
创建目录mkdir -p a/b/c
递归创建目录a/b/ctar
解压缩文件
-f
<备份文件>或–file=<备份文件> 指定备份文件
-v
或–verbose 显示指令执行过程
-x
或–extract或–get 从备份文件中还原文件
-z
或–gzip或–ungzip 通过gzip指令处理备份文件
-C
<目的目录>或–directory=<目的目录> 切换到指定的目录
一般我们使用tar -zxvf XXXX -C /usr/
即可
- 磁盘管理:
df -h
磁盘使用情况mount
挂载Linux系统外的文件 ,umount
卸除文件系统,一般系统外文件挂载在/mnt下
- 用户管理
useradd
建立用户账号
-m
自动建立用户的登录目录
-g
指定用户所属的群组
-d
指定用户登入时的家目录
-u 600
在0——499之间表示系统用户,500——232之间表示普通用户passwd
更改使用者的密码kill
杀死执行中的程序或工作,使用kill -l
查看所有进程,kill -9 pid
强制杀死此pid的进程
ssh操作
为后面的集群搭建做准备,需要掌握虚拟机之间通过ssh登录的方法,准备两台虚拟机操作系统。
- 使用
ifconfig
命令查看IP地址 - 使用
ping
命令查看是否连通 - 使用
ssh root@IP
登录,root为登录时的用户名,由于没有使用免密操作需要输入密码,可以使用exit
退出
- 免密操作
- 打开ssh功能
systemctl start sshd.service
,一般默认是打开的 - 启动root用户
su root
- 使用命令
ssh-keygen -t rsa
,一路回车,会创建公钥和私钥文件 - 将公钥文件拷给主虚拟机:
ssh-copy-id -i ~/.ssh/id_rsa.pub 目标IP
(注:主虚拟机也要执行此操作,否则无法主从互相免密登录,相当于向authorized_keys中注册) - 在主虚拟机的.ssh目录下可以看到
authorized_keys
,拷贝到各虚拟机即可:scp authorized_keys IP:$PWD
- 现在可以直接使用
ssh 'IP'
登录另一台虚拟机
注:由于我们刚才切换到root用户进行操作,所以免密登录对root用户有效,同理可切换到其他用户创建密钥链接
scp远程拷贝
scp命令用于Linux之间复制文件和目录
使用scp -r 本地路径 目标路径
即可,例如:scp -r test3 '192.168.154.11':/tmp
,-r
表示递归
大数据开发成长之路——Linux基础相关推荐
- Java大数据开发做什么?Java大数据开发成长路线
Java开发是IT行业的经典岗位,行业当中存在普遍的需求,Web开发.Android开发.游戏开发等岗位,基本上Java语言是主力队伍.而进入大数据时代,Java又在大数据方向上有了用武之地.今天我们 ...
- 大数据开发都需要掌握哪些编程语言
当前正处在大数据时代背景下,大数据技术目前也正处在落地应用的初期,未来大数据的发展空间还是比较大的,所以学习大数据相关技术是个不错的选择. 大数据编程语言的选择要根据具体的工作岗位来进行,目前大数据领 ...
- 学大数据要学哪些算法_学习大数据开发前需要掌握哪些技能?
学习大数据开发前需要掌握哪些技能? 1. 数学知识 数学知识是数据分析师的基础知识. 对于初级数据分析师,了解一些描述统计相关的基础内容,有一定的公式计算能力即可,了解常用统计模型算法则是加分. 对于 ...
- 我国教育大数据开发利用,主要面临哪些难题?
我国教育大数据开发利用已经具备一定基础,但还面临不少问题.自<教育信息化十年发展规划(2011-2020年)>颁布实施以来,通过建设教育资源公共服务平台和教育管理公共服务平台积累了教育教学 ...
- BigData:大数据开发的简介、核心知识(linux基础+Java/Python编程语言+Hadoop{HDFS、HBase、Hive}+Docker)、经典场景应用之详细攻略
BigData:大数据开发的简介.核心知识(linux基础+Java/Python编程语言+Hadoop{HDFS.HBase.Hive}+Docker).经典场景应用之详细攻略 BigData:大数 ...
- 二本材料专业,干过销售,当过兵,28岁零基础转型大数据开发进百度,很强势!
点击上方 "大数据肌肉猿"关注, 星标一起成长 后台回复[加群],进入高质量学习交流群 2021年大数据肌肉猿公众号奖励制度 今天介绍一位学习群同学的大数据转型和面试经历,他是二本 ...
- 想转行做大数据开发,求各路大神给指条明路?
其实想转大数据的最初原因很简单,就是想在收入上有所提升,其实现在越来越多人开始看中大数据开发这个岗位了,无非就是下面这些原因,如果你真的付出努力愿意去学习的话,相信也不会辜负你的努力~ 1.行业发展好 ...
- 【博学谷学习记录】超强总结,用心分享丨大数据超神之路(一):Scala基础语法副本
大数据开发基础 学习编程语言往往是我们开启学习之路的第一大步.大数据领域的很多框架都是基于Java语言开发的,而且各种框架也都提供了Java API来提供使用和操作接口,所以Java语言的学习逃 ...
- 大数据开发工程师基本功修炼之史上最全Linux学习笔记(建议)
我正在参加年度博客之星评选,请大家帮我投票打分,您的每一分都是对我的支持与鼓励. 2021年「博客之星」参赛博主:Maynor大数据 (感谢礼品.红包免费送!) https://bbs.csdn.ne ...
最新文章
- 如何在 Linux 上录制你的终端操作
- 策略模式原来这么简单!
- 世博展示生态化住宅 物联网助推智能化家居
- 【LiveVideoStack线上分享】FFmpeg深度学习模块架构与代码实践
- 关于PHP页面显示乱码问题的解决
- sql 触发器未触发_学习SQL:SQL触发器
- 前方两万字高能预警!SMBGhost SMBleed 漏洞深入研究
- mysql explode函数_hive中,lateral view 与 explode函数
- HBase常用Shell命令
- axure 彻底删除lib_axure-rplib
- adobe reader打开pdf闪退或自动关闭
- ubuntu16.04磁盘分区及挂载
- 如何运用python做一个有音乐的二维码_怎样制作一个背景音乐和与文字一起的二维码?...
- torch.Generator 随机数生成器
- mysql right syntax_Mysql 出现the right syntax to use near USING BTREE错误解决办法
- 安装语言包-英文(美国)
- Excel整行数据自动标颜色
- 大数据统计大量股票开盘平均价和收盘平均价
- 全球网脑系列丛书找出版合作
- UG后处理—文件格式大小判断研究
热门文章
- access日历_MS Access日历-概述
- H5学习之路之Input类型新特性
- .NET中zip的压缩和解压——SharpCompress
- pygame——滑雪(资源在末尾)
- 写给正在运维面试的你
- 如何自己修电脑(电脑修复大全)
- 机器学习斯坦福公开课第一讲
- anonymous unions are only supported in --gnu mode, or when enabled with #pragma anon_unions
- 中国5G智能终端明年或出货1亿部;Win10 20H1正式版有望明年春季发;腾讯云发布七大新品……...
- 工业工程和计算机哪个专业好,工业工程考研的科目和推荐学校