实验环境CentOS7
Hadoop-3.2.1
JDK1.8
Windows10
3.1 读取HDFS文件内容一、实验目的1、理解HDFS原理。
2、了解HDFS读取文件方式。
3、掌握通过编写代码运行读取HDFS文件流程。
二、实验内容本次实验首先了解HDFS的概念原理,进而学习HDFS文件读取的原理,然后实战通过编程运行读取HDFS文件。
假装这里有代码块(代码块没法嵌套代码块)
三、准备知识 准备知识
随着数据量越来越大, 在 一个操作系统管辖的范围存不下了, 那么就 分配到更多的操作系统管理的磁盘中, 但是不方便管理和维护,迫切需要一种系统来管理多台机器上的文件,这就是分布式文件管理系统。Hadoop分布式文件系统(HDFS)被设计成适合运行在通用硬件(commodity hardware)上的分布式文件系统。它和现有的分布式文件系统有很多共同点。但同时,它和其他的分布式文件系统的区别也是很明显的。HDFS是一个高度容错性的系统,适合部署在廉价的机器上。HDFS的基本结构:NameNode :管理文件目录结构,接受用 ...
Hadoop
未读一、实验目的1、区分hadoop fs、hadoop dfs和hdfs dfs之间的区别
2、掌握HDFS Shell命令对文件的基本操作(比如文件的创建、修改、删除、修改权限等)
二、实验内容1、查看HDFS文件
2、对HDFS目录操作
3、对HDFS文件操作
4、改变HDFS文件权限
三、实验要求学生的服务器配置及版本使用
服务器
系统
CPU
内存
JDK
HADOOP
master
centos7
2核
4G
jdk1.8
hadoop-3.2.1
slave1
centos7
2核
4G
jdk1.8
hadoop-3.2.1
slave2
centos7
2核
4G
jdk1.8
hadoop-3.2.1
学生的常用电脑安装环境及版本使用
电脑操作系统
浏览器
windows64位系统
谷歌或者火狐
四、准备知识(一)HDFS Shell命令中的hadoop fs、hadoop dfs和hdfs dfs之间的区别?
hadoop fs:适用于任何不同的文件系统,比如本地文件系统和HDFS文件系统。
hadoop dfs:只适用于HDF ...
实验一:创建表一、实验目的1、理解Hive的实验原理
2、熟悉创建Hive表的基础语法
3、掌握Hive的三种方式创建日志表
4、完成相关实验任务
二、实验内容1、启动Hive shell端
2、使用Hive的三种方式创建日志表
3、创建员工表和部门表
三、准备知识Hive实验原理Hive没有专门的数据存储格式,也没有为数据建立索引,用户可以非常自由的组织 Hive中的表,只需要在创建表的时候告诉Hive数据中的列分隔符和行分隔符,Hive就可以解析数据。
Hive中所有的数据都存储在HDFS中,Hive中包含以下数据模型:表(Table),外部表(ExternaTable),分区(Partition),桶(Bucket)。
Hive中Table和数据库中 Table在概念上是类似的,每一个Table在Hive中都有一个相应的目录存储数据。例如,一个表 pvs,它在 HDFS 中的路径为:/wh/pvs,其中,wh是在hive-site.xml中由${hive.metastore.warehouse.dir}指定的数据仓库的目录,所有的 Table数据(不包括 Ex ...
Hadoop
未读 配置前必看
本帖的主要目的是用最平实的语言描述配置的进程,同时在每个章节为可能涉及的知识点提供相应的网站以供读者学习。最重要的还是给我自己留个配置的日记。这样Linux玩崩了也能找到回家的路。本帖主要涉及的目录一共有三个,如有需要,在根目录/下创建export目录存放以下三个目录(建议)。(解压目录)servers、(软件安装目录)software、(数据/日志目录)data。如果自己的目录与本帖的目录不一样,请按照自己实际情况来本帖基于centos 7.9配置,因此配置本帖软件请先安装好系统后将软件包上传并解压好如若配置中报错,请第一时间查看前置软件是否正确安装配置并正常运行其次查看是否兼容性问题。本帖所有命令都在root用户下执行如果非root用户,请在命令前添加sudo
一、实验目的1、了解Hive的作用和特点
2、理解Hive的架构及组成
3、理解Hive与Hadoop的关系
4、掌握Hive三种模式的安装步骤及配置方法
二、实验内容1、内嵌模式安装H ...
Linux
未读 配置前必看
本帖的主要目的是用最平实的语言描述配置的进程,同时在每个章节为可能涉及的知识点提供相应的网站以供读者学习。最重要的还是给我自己留个配置的日记。这样Linux玩崩了也能找到回家的路。本帖主要涉及的目录一共有三个,如有需要,在根目录/下创建export目录存放以下三个目录(建议)。(解压目录)servers、(软件安装目录)software、(数据/日志目录)data。如果自己的目录与本帖的目录不一样,请按照自己实际情况来本帖基于centos 7.9配置,因此配置本帖软件请先安装好系统后将软件包上传并解压好如若配置中报错,请第一时间查看前置软件是否正确安装配置并正常运行其次查看是否兼容性问题。本帖所有命令都在root用户下执行如果非root用户,请在命令前添加sudo
前置准备镜像:
centos-7.9镜像: 下载地址
阿里镜像站: 下载地址
软件
jdk-8u231: 下载地址
hadoop-3.2.1: 下载地址
环境
准备三台虚拟机, ...
重要提示:有同学说如果本来就没有开机密码,可能会白忙,只能去恢复系统;还有种情况是成功后无法手动断网,要断网只能拔网线;所以请结合自己的使用需求慎重尝试
1.打开计算机管理使用快捷键win+X“计算机管理”
2.打开任务计划程序
创建基本任务
给任务起名,下一步
勾选当特定事件被记录时
日志选择系统
源选择Rasman ,事件ID输入20268,然后点击下一步;
选择启动程序
创建程序/脚本
在程序或脚本输入rasdial 宽带连接名称 账号 密码 (请替换成自己的具体已有拨号设置),然后点击下一步
1rasdial 宽带连接 yz77******2 88*****88
勾选 当单击 “完成” 时… 然后点击完成 ;
3.修改自动联网任务属性
在自动打开的常规属性页选择不管用户是否… 、使用最高权限运行、隐藏、Windows 10 ;
win11用户可能需要勾选不存储密码后续才能自动连接成功
切换到触发器页面,点击新建
选择启动时,然后确定
之后可能要输入电脑的开机密码(此处不是输拨号连接密码),输入后点确认即 ...
部署环境与准备1.环境
本地Windows10操作系统
阿里云 Ubuntu 20.04服务器面板
2.准备
hexo 本地博客
Xshell 链接到服务器
云服务器配置 Git 配置步骤
1.查看git 版本1git --version2.安装依赖123456789sudo apt updatesudo apt install curl libcurl4-openssl-dev expat libexpat1-dev gettext libgettextpo-dev openssl libssl-dev zlib1g zlib1g-dev asciidocsudo apt install perl-modulessudo apt-get install cpanminussudo cpanm ExtUtils:: ...
样式预览
定位接口来自青桔
创建JS文件新建welcome.js文件,新增以下内容
123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051525354555657585960616263646566676869707172737475767778798081828384858687888990919293949596979899100101102103104105106107108109110111112113114115116117118119120121122123124125126127128129130131132133134135136137138139140141142143144145146147148149150151152153154155156157158159160161162163164165166167168169170171172173174175176177178179180181182183184185186187188 ...
本站环境Linux服务器
宝塔面板
安装Alist官方网站:https://alist.nn.ci/
一键安装仅适用于 Linux amd64/arm64 平台,详细请查阅官方文档https://alist.nn.ci/zh/guide/install/script.html
1curl -fsSL "https://alist.nn.ci/v3.sh" | bash -s install
自定义路径安装
默认安装在 /opt/alist 中。 自定义安装路径,将安装路径作为第二个参数添加,必须是绝对路径(如果路径以 alist 结尾,则直接安装到给定路径,否则会安装在给定路径 alist 目录下),如 安装到 /root:
1curl -fsSL "https://alist.nn.ci/v3.sh" | bash -s install /root
安装成功就会出现端口号等,一般是5244端口,另外要去放行一下端口,如果忘记密码,也可以输入命令找回
12cd /opt/alist --进入alist目录./alist admin --查 ...
后端部署文档项目地址: https://github.com/Rock-Candy-Tea/hexo-circle-of-friends
本站使用centos7.9腾讯宝塔+server部署,首先请确保你的服务器安装好python3.8环境和git
部署过程1、创建站点添加域名也可以在服务器上自行创建任意目录,我这边是为了方便添加域名与添加反向代理
给域名进行解析,记录值填写你的公网IP
2、clone项目仓库地址:https://github.com/Rock-Candy-Tea/hexo-circle-of-friends切换到命令行进入你创建的站点目录下执行下方命令,我这里是/www/wwwroot/moments.xiaoztx.top
1git clone https://github.com/Rock-Candy-Tea/hexo-circle-of-friends
3、修改文件编辑/hexo_circle_of_friends/fc_settings.yaml文件,需要修改的配置如下:
12LINK: - {link: "https://b ...