连接池居然这么简单?

谜知 20221117

  • 微服务架构

​服务连接池,数据库连接池,缓存连接池,连接池是微服务分层架构中不可或缺的一个组件,本篇讲讲连接池的原理,以及实现细节。

 通常如何通过连接访问下游?

工程架构中有很多访问下游的需求,下游包括但不限于服务/数据库/缓存,其通讯步骤是为:

  • 与下游建立一个连接;
  • 通过这个连接,收发请求;
  • 交互结束,关闭连接,释放资源;

不管是服务/数据库/缓存,官方会提供不同语言的Driver、Document、DemoCode来指导使用方建立连接与调用接口。

以MongoDB的C++官方DriverAPI为例:

DBClientConnection* c = new DBClientConnection();
c->connect(“127.0.0.1:8888”);
c->insert(“db.s”, BSON(”shenjian”));
c->close();

画外音:建立连接、发送请求、关闭连接,都非常清晰。

这个DBClientConnection就是一个与MongoDB的连接,官方Driver通过它提供了若干API,让用户可以对MongoDB进行连接,增删查改,关闭的操作,从而实现不同的业务逻辑。

为什么需要连接池?

当并发量很低的时候,连接可以临时建立,但当服务吞吐量达到几百、几千的时候,建立连接connect和销毁连接close就会成为瓶颈,此时该如何优化呢?

  • 当服务启动的时候,先建立好若干连接Array[DBClientConnection];
  • 当请求到达的时候,再从Array中取出一个,执行下游操作,执行完放回;

从而避免反复的建立和销毁连接,以提升性能。

而这个对Array[DBClientConnection]进行维护的数据结构,就是连接池。

有了连接池之后,数据库操作的伪代码变为:

DBClientConnection* c = 
ConnectionPool::GetConnection();
c->insert(“db.s”, BSON(”shenjian”));
ConnectionPool::FreeConnection(c);

画外音:取出连接、发送请求、放回连接,也非常清晰。

连接池核心原理与实现是怎么样的呢?

可以看到连接池ConnectionPool主要有三个核心接口:

  • Init:初始化Array[DBClientConnection],这个接口只在服务启动时调用一次;
  • GetConnection:请求每次需要访问数据库时,不connect一个新连接,而是通过连接池的这个接口来拿连接;
  • FreeConnection:请求每次访问完数据库时,不是close一个连接,而是把这个连接放回连接池;

连接池核心数据结构是怎样的呢?

连接池至少包含两个核心数据结构:

  • 连接数组Array DBClientConnection[N];
  • 互斥锁数组Array lock[N];

连接池核心接口,是如何通过核心数据结构的操纵,实现连接池功能的呢?

Init(){
for i = 1 to N {
Array DBClientConnection [i] = new();
Array DBClientConnection [i]->connect();
Array lock[i] = 0;
}
}

画外音:把所有连接和互斥锁初始化。

GetConnection()
for i = 1 to N {
if(Array lock[i] == 0){
Array lock[i] = 1;
return Array DBClientConnection[i];
}
}
}

画外音:找一个可用的连接,锁住,并返回连接。

FreeConnection(c)
for i = 1 to N {
if(Array DBClientConnection [i] == c){
Array lock[i] = 0;
}
}
}

画外音:找到连接,把锁释放。

会发现,连接池管理核心并没有想象的复杂。

除了核心代码,连接池还需要考虑哪些因素呢?

  • 需要实施连接可用性检测,如果有连接失效,需要重建连接;
  • 通过freeArray,connectionMap等数据结构,可以让取出连接和放回连接都达到O(1)时间复杂度;
  • 可以通过hash取连接,实现id串行化;
  • 每条连接被取到的概率必须相同,以实现负载均衡;
  • 如果有下游故障,失效连接必须剔除,以实现故障自动转移;
  • 如果有下游新增,需要动态扩充连接池,以实现服务自动发现;

思路比结论更重要,希望大家有收获。​

查看全文

点赞

谜知

作者最近更新

  • 谈谈无线传感器网络的关键技术
    谜知
    2024-12-04
  • 专注传感器领域,珅斯科技斩获一轮新融资
    谜知
    2024-11-11
  • 川仪股份2024年上半年净利润3.6亿元 同比增长2.00%
    谜知
    2024-07-17

期刊订阅

相关推荐

  • 【产品研发】巨龙信息微服务平台助力各类应用轻松上云

    2022-03-22

  • 云原生Java框架-Micronaut

    2022-07-26

  • 该不该将单体架构迁移到微服务?

    2022-08-10

  • 什么时候不要采用微服务架构

    2022-08-30

评论0条评论

×
私信给谜知

点击打开传感搜小程序 - 速览海量产品,精准对接供需

  • 收藏

  • 评论

  • 点赞

  • 分享

收藏文章×

已选择0个收藏夹

新建收藏夹
完成
创建收藏夹 ×
取消 保存

1.点击右上角

2.分享到“朋友圈”或“发送给好友”

×

微信扫一扫,分享到朋友圈

推荐使用浏览器内置分享功能

×

关注微信订阅号

关注微信订阅号,了解更多传感器动态

  • #{faceHtml}

    #{user_name}#{created_at}

    #{content}

    展开

    #{like_count} #{dislike_count} 查看评论 回复

    共#{comment_count}条评论

    加载更多

  • #{ahtml}#{created_at}

    #{content}

    展开

    #{like_count} #{dislike_count} #{reback} 回复

  • #{ahtml}#{created_at}

    #{content}

    展开

    #{like_count} #{dislike_count} 回复

  • 关闭
      广告