K8s服务发现原理

Kubernetes 里的 Service 实现服务发现，本质上是把一组随时会漂移的 Pod IP 抽象成一个稳定的虚拟 IP 和 DNS 名称；负载均衡则由 kube-proxy 在节点上维护转发规则，把流量按策略分散到后端 Pod， 你可以把 Service 理解为集群内部的一个“固定前台”，后端 Pod……

大模型在Kubernetes环境中的服务发现，核心在于利用Headless Service配合DNS动态解析，实现Pod级别的负载均衡与高可用访问，而非依赖传统的IP直连，随着大语言模型（LLM）从实验室走向生产环境，部署架构的复杂性呈指数级上升，传统的单体应用部署只需关注IP和端口，但在K8s中运行动辄数十G……