llm-d 是一个面向分布式大语言模型推理的 Kubernetes 原生技术栈,致力于将 vLLM、SGLang 等单节点推理引擎转化为可运行在本地硬件集群上的生产级服务。该项目的核心价值在于为常见的生产部署模式提供经过测试的配方...
Read More一位自托管爱好者近日分享了自己的家庭服务器配置:在一台仅配备16GB内存的迷你PC上,稳定运行了28项服务,涵盖媒体服务Jellyfin、照片管理Immich、智能家居Home Assistant以及密码管理Vaultwarden等。该方案的核心...
Read More谷歌在GitHub开源的AX是一款高吞吐、声明式智能体编排器,目标是在集群中大规模运行数十亿自主智能体工作负载。开发者只需声明智能体任务、工作空间与网关规范,AX即可自动完成沙箱隔离、工作空间挂载、网络边界控制...
Read More据金融时报消息,特拉维斯·卡兰尼克创立的Atoms公司正在开发自动驾驶出租车(robotaxi)技术,并在收购安东尼·莱万多夫斯基创办的Pronto后将其纳入团队。Uber已向Atoms投资1亿美元。Atoms正筹备大规模招聘,未来可能...
Read More人工智能正在显著降低软件迁移的时间与成本。Asana 仅用两周时间就完成了从 Enzyme 测试框架向 React Testing Library 的迁移,而这类工作过去往往因复杂度高、收益不直接而被长期搁置。Airbnb 和 Uber 也报告了类似...
Read More人工智能正加速渗透基础设施工程领域。Omegion 最新文章指出,AI 在日常基础设施工作中的实际应用主要体现在自动化例行任务与信息查询上,使工程师得以将精力转向更高层次的架构与决策。作者认为,AI 并非要取代工程...
Read More在云原生应用部署中,Kubernetes 通过 startup、readiness 和 liveness 三类探针管理容器生命周期与流量分发。startup 探针用于保护启动较慢的容器,避免在初始化阶段被误判为失败;readiness 探针决定 Pod 是否具备...
Read More近日,约翰·格鲁伯(John Gruber)在 Daring Fireball 撰文指出,Anthropic 宣布将在全球所有 Claude 模型中默认加入文本水印,其技术路径是通过调整词元(token)的概率分布,在不显著改变语义的情况下嵌入可检测指...
Read More