连接数超限排队机制

设置过小让请求在入口处堆积，设置过大让后端资源被无辜拖垮，两者最终表现都是用户长时间等待、超时甚至误以为服务宕机，连接数上限这个参数,更像一个冷脸保安：它管着谁可以进入系统，谁要在门外等着，真正麻烦的是，这个“门”里外都有队伍，而且里外互相影响，今天我们就从头捋一捋，这些排队问题到底是怎么被错误的连接数设置给逼……