HBase数据读写示例程序如何编写,HBase存储原理是什么

HBase数据读写示例程序的核心操作是Put和Get,通过Java API可以快速实现数据的写入和读取,掌握这些示例代码是HBase开发的基础。

HBase数据读写示例程序:Put与Get操作详解

HBase的读写操作分别对应Put和Get两个核心类,Put负责写入数据,Get负责查询数据,下面通过具体示例展示从单行操作到批量处理的基本用法。

16_5.3.5 读写HBase数据(配置Spark并编写程序读取HBase数据)
加载中
16_5.3.5 读写HBase数据(配置Spark并编写程序读取HBase数据)

Put写入示例:从单行到批量

单行写入是最简单的模式,先构造一个Put对象,指定行键,然后通过addColumn方法添加列族、列名和值,最后调用Table的put方法提交。

Put put = new Put(Bytes.toBytes("rowKey1"));
put.addColumn(Bytes.toBytes("cf"), Bytes.toBytes("name"), Bytes.toBytes("Alice"));
put.addColumn(Bytes.toBytes("cf"), Bytes.toBytes("age"), Bytes.toBytes("30"));
table.put(put);

当需要写入多条数据时,建议使用批量写入,将多个Put对象放入List中,调用table.put(List)即可,相比逐条写入,批量写入能大幅减少网络交互次数,提升整体吞吐量。参考2

List<Put> puts = new ArrayList<>();
puts.add(new Put(Bytes.toBytes("row1")).addColumn(/.../));
puts.add(new Put(Bytes.toBytes("row2")).addColumn(/.../));
table.put(puts);

在HBase Java API写入示例中,批量操作是常规推荐做法,需要注意,如果批量中某条失败,整批是否会回滚取决于配置,通常建议将一批数据控制在合理大小,避免占用过多内存。

Get读取示例:精确查询与范围扫描

精确查询使用Get对象,指定行键即可获取整行数据,也可以指定列族和列来缩小返回量。

Get get = new Get(Bytes.toBytes("rowKey1"));
get.addColumn(Bytes.toBytes("cf"), Bytes.toBytes("name"));
Result result = table.get(get);
byte[] value = result.getValue(Bytes.toBytes("cf"), Bytes.toBytes("name"));

HBase数据读写示例程序如何编写,HBase存储原理是什么

范围扫描则使用Scan对象,通过设置起始行和结束行,可以获取一个区间的多行数据,Scan还支持过滤器(如PrefixFilter、FilterList)来实现更精细的过滤。参考2

Scan scan = new Scan();
scan.setStartRow(Bytes.toBytes("row1"));
scan.setStopRow(Bytes.toBytes("row3"));
ResultScanner scanner = table.getScanner(scan);
for (Result r : scanner) {
    // 处理每一行
}
scanner.close();

扫描后必须关闭ResultScanner,否则会占用RegionServer资源,这是HBase读写操作代码示例中容易忽略的细节。

HBase存储示例:批量写入与读取优化

实际生产环境中,单条读写往往无法满足性能要求,批量写入和读取优化是HBase存储示例中最常被关注的部分,直接关系到系统吞吐量。

批量写入:提升吞吐量的关键

除了上述table.put(List)方式,还可以使用BufferedMutator,它内部维护一个写缓冲区,当缓冲区满或达到一定时间后自动批量提交,适合持续写入的场景。

BufferedMutator mutator = connection.getBufferedMutator(tableName);
mutator.mutate(put);
mutator.flush(); // 手动刷出

批量写入可以显著减少RPC调用次数,据统计,当数据量较大时,批量写入的吞吐量可能是逐条写入的5倍以上(具体数值因环境而异),但也要注意,批量大小不宜过大,否则可能触发RegionServer的写压力,导致RegionTooBusyException,建议根据Row大小和网络条件调整,一般每批1000-5000条较为常见。

读取优化:合理使用Scan缓存

Scan默认每次只从服务器拉取一行,导致大量小包交互,通过setCaching()设置缓存行数,可以一次拉取多行,减少网络往返。

scan.setCaching(500); // 一次拉取500行

缓存行数越大,查询越快,但会占用更多客户端内存。

HBase数据读写示例程序如何编写,HBase存储原理是什么

行业共识认为,对于RowKey均匀分布的场景,设置1000左右的缓存是一个平衡点,使用过滤器(如SingleColumnValueFilter、PageFilter)可以在服务端提前过滤,避免传输无用数据。参考2

HBase读写操作代码示例:Java API 实战

下面是一个完整的示例,从创建表到写入数据,再到读取和删除,涵盖HBase读写操作代码示例的主要步骤。

完整示例:从创建表到数据读写

import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.hbase.;
import org.apache.hadoop.hbase.client.;
import org.apache.hadoop.hbase.util.Bytes;
public class HBaseDemo {
    public static void main(String[] args) throws Exception {
        Configuration conf = HBaseConfiguration.create();
        conf.set("hbase.zookeeper.quorum", "localhost:2181");
        try (Connection conn = ConnectionFactory.createConnection(conf);
             Admin admin = conn.getAdmin()) {
            TableName tableName = TableName.valueOf("test_table");
            // 创建表
            if (!admin.tableExists(tableName)) {
                TableDescriptor desc = TableDescriptorBuilder.newBuilder(tableName)
                        .setColumnFamily(ColumnFamilyDescriptorBuilder.of("cf"))
                        .build();
                admin.createTable(desc);
            }
            // 写入数据
            try (Table table = conn.getTable(tableName)) {
                Put put = new Put(Bytes.toBytes("row1"));
                put.addColumn(Bytes.toBytes("cf"), Bytes.toBytes("col1"), Bytes.toBytes("value1"));
                table.put(put);
                // 读取数据
                Get get = new Get(Bytes.toBytes("row1"));
                Result result = table.get(get);
                System.out.println(Bytes.toString(result.getValue(Bytes.toBytes("cf"), Bytes.toBytes("col1"))));
            }
            // 删除表(可选)
            // admin.disableTable(tableName);
            // admin.deleteTable(tableName);
        }
    }
}

HBase数据读写示例程序如何编写,HBase存储原理是什么

代码中使用了try-with-resources自动关闭资源,这是推荐做法,Connection是重量级对象,应全局复用,不要每次操作都创建。

常见错误与调试

  • ZooKeeper连接失败:检查hbase.zookeeper.quorum配置是否正确,端口是否开放。
  • RegionTooBusyException:通常由写入超出RegionServer处理能力引起,可增大写缓冲区或增加Region数量。
  • Scan没有结果:检查StartRow和StopRow的设置,注意行键是字节数组,比较是字典序。
  • 表不存在异常:确认表名正确,且已经创建。

通过上述示例,你可以快速掌握HBase数据读写的基本方法,在实际项目中,结合批量操作、缓存优化和合理的表设计,能更好地发挥HBase在大数据场景下的存储优势。

HBase数据读写示例程序常见问题解答

问题1:HBase读写示例中如何连接HBase集群?

需要配置ZooKeeper地址,通过HBaseConfiguration创建Configuration对象,然后调用ConnectionFactory.createConnection获取连接,示例代码中已包含具体配置方式,注意Connection是线程安全的,应在整个应用生命周期内复用。

问题2:批量写入时出现RegionTooBusyException怎么办?

可以尝试增大写缓冲区大小(通过BufferedMutator的setWriteBufferSize),或增加客户端重试次数,如果问题持续,说明RegionServer写入压力过大,建议通过预分区或增加RegionServer实例来分摊负载。

问题3:使用Scan扫描时如何设置缓存?

通过Scan.setCaching(int)设置一次远程调用返回的行数,默认值1,建议根据行的大小和可用内存调整,通常设置100到2000之间,注意,扫描完成后需要调用ResultScanner.close()释放资源,否则可能导致RegionServer端连接泄漏。

首发原创文章,作者:王坚‌,如若转载,请注明出处:https://idctop.com/article/532630.html

赞 (0)
html播放音乐地址怎么用?,怎么设置?
上一篇 2026年7月31日 03:34
HTTPS证书购买和管理有哪些注意事项,哪个平台便宜
下一篇 2026年7月31日 03:35

相关推荐

  • 服务器通信规范有哪些要点,如何选择最佳通信协议

    服务器通信规范的核心是TCP/IP协议族、HTTP/HTTPS应用协议、TLS加密握手规则,以及DNS解析与WebSocket长连接机制,它们共同决定了数据如何在网络中正确、安全地传输,做后端开发或运维的朋友,每天都会跟服务器打交道,你可能熟练配置过Nginx,也调过接口,但有没有想过:服务器之间、客户端和服务……

    2026年10月17日
    100
  • access数据库程序设计电子书哪里下载?access数据库开发教程

    Access数据库程序设计电子书是初学者快速掌握关系型数据库开发的最佳路径,它通过可视化界面与VBA代码结合,能显著降低企业级数据管理的门槛并节省高昂的软件授权费用,在数字化转型的浪潮中,许多中小企业和非IT专业人员面临着数据孤岛的问题,Excel虽然普及,但在处理超过数万行数据或需要多表关联时往往力不从心,A……

    2026年7月3日
    3200
  • 互联网BI统计分析工具平台怎么选?好用的BI工具推荐

    互联网BI统计分析工具平台的核心价值在于将杂乱无章的业务数据转化为可执行的决策洞察,帮助企业实现从“看数据”到“用数据”的跨越,在数字化转型的深水区,企业不再满足于简单的报表展示,而是追求实时、交互且智能的数据分析,选择一个合适的BI平台,不仅是技术选型,更是管理思维的升级,为什么传统报表已无法满足现代业务需求……

    2026年6月1日
    3600
  • 带宽按量计费还是固定带宽划算?哪种计费方式更省钱?

    对于绝大多数业务流量波动较大或处于成长期的互联网应用而言,带宽按量计费更具成本优势,而固定带宽仅适用于流量极其稳定、且峰值与谷值差异极小的传统业务,选择何种计费模式,本质上是在“为实际使用付费”与“为确定性付费”之间做博弈,企业若想实现成本最优解,必须基于历史负载数据进行精细化测算,而非盲目跟从,简米科技在为多……

    2026年3月8日
    12700
  • HTML字体抖动效果怎么实现?CSS文字抖动动画代码

    HTML字体抖动效果通过CSS动画关键帧配合transform属性实现,无需JavaScript即可达成高性能视觉反馈,是提升网页交互质感的首选方案,在2026年的Web开发语境下,单纯的静态页面已难以留住用户,视觉动效成为连接用户与内容的桥梁,而字体抖动作为一种高频使用的微交互,既能吸引注意力,又不会像弹窗广……

    2026年6月10日
    3810
  • 广州FPGA服务器外网带宽是什么意思,外网带宽如何选择?

    广州FPGA服务器外网带宽,本质上是指服务器连接互联网的数据传输通道容量,它直接决定了FPGA加速计算结果向外传输的速度与稳定性,核心结论在于:外网带宽并非简单的“网线粗细”,而是FPGA服务器综合性能释放的最后一公里,对于高吞吐、低延迟的异构计算场景,带宽配置直接关乎业务实效,在广州这一国家算力枢纽节点,FP……

    2026年3月30日
    8500
  • 本地服务器监控如何实现实时状态监控?,有哪些方法?

    本地服务器监控实现实时状态监控的核心思路,就是让监控工具通过代理或标准协议,以秒级或分钟级频率持续采集CPU、内存、磁盘、网络等指标,并同步推送告警和可视化展示,这条路走顺了,你坐在办公室就能看到机房那台服务器的“心跳”,本地服务器监控怎么实现实时状态?先搞懂采集原理很多人以为“实时”就是把刷新频率调到1秒,本……

    服务器宽带 2026年9月2日
    800
  • 北京AI训练服务器内存存储怎么配?数据量匹配要点有哪些?

    北京AI训练服务器的内存与存储配置,核心在于根据数据规模和模型复杂度动态平衡:内存容量需撑住完整模型参数与中间激活,存储系统则要在IOPS和吞吐量之间找到性价比最优解,否则再强的算力也会被瓶颈拖垮,内存配置要点:容量与带宽如何决定训练效率训练任务对内存的需求,远不止“装下模型”那么简单,梯度、优化器状态、中间特……

    2026年8月11日
    1700
  • 广州800g高防dns解析如何使用,广州高防DNS解析设置教程

    广州800g高防dns解析的核心价值在于通过超大带宽储备与智能调度算法,为业务构建起一道能够抵御大规模DDoS攻击的“隐形防线”,其使用关键在于精准的参数配置与策略调优,而非简单的域名指向,用户在使用过程中,必须将防御节点的高可用性与业务访问的低延迟需求进行平衡,才能真正发挥高防DNS的实战效能,核心结论:构建……

    2026年4月1日
    9300
  • 广州gpu服务器cpu内存不足怎么办?gpu服务器配置如何选择

    广州GPU服务器在运行高负载任务时出现CPU内存不足,核心症结往往不在于硬件总量匮乏,而在于资源配置策略与硬件架构的匹配度失衡,解决这一问题的关键在于实施精细化的资源调度与架构优化,而非盲目扩容,核心结论:资源错配是性能瓶颈的根源在广州地区的AI算力中心与企业的私有云环境中,GPU服务器常常承担着深度学习训练……

    2026年3月29日
    11000

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注