CGFT大数据原理中数据错误与恢复怎么去学习?HDFS具有较高的容错性,可以兼容廉价的硬件,它把硬件出错看成一种常态,而不是异常,并设计了相应的机制检测数据错误和进行自动恢复,主要包括以下几种情形。
1.名称节点出错
名称节点保存了所有的元数据信息,其中,*核心的两大数据结构是Fslmage和Editlog,如果这两个文件发生损坏,那么整个HDFS实例将失效。
当名称节点出错时,就可以根据备份服务器SecondaryNameNode中的Fslmage和Editlog数据进行恢复。
2.数据节点出错
每个数据节点会定期向名称节点发送“心跳”信息,向名称节点报告自己的状态。
当数据节点发生故障,或者网络发生断网时,名称节点就无法收到来自一些数据节点的心跳信息,这时,这些数据节点就会被标记为“岩机”,节点上面的所有数据都会被标记为“不可读”,名称节点不会再给它们发送任何I/O请求。
3.数据出错
网络传输和磁盘错误等因素,都会造成数据错误。客户端在读取到数据后,会采用md5和shal对数据块进行校验,以确定读取到正确的数据。
在文件被创建时,客户端就会对每一个文件块进行信息摘录,并把这些信息写入同一个路径的隐藏文件里面。
本文章为学习相关信息展示文章,非课程及服务内容文章,产品及服务详情可咨询网站客服微信。
文章转载须注明来源,文章素材来源于网络,若侵权请与我们联系,我们将及时处理。