隔离内网下 AI Agent 工程实战
一、前言
好长一段时间不写文章了,又到国庆长假,是时候整理下最近对 AI 工程化上的一些心得进行总结和分享;
在 AI 的时代浪潮里写文章的门槛变低了很多,AI 渲染、AI 代笔;
好长一段时间不写文章了,又到国庆长假,是时候整理下最近对 AI 工程化上的一些心得进行总结和分享;
在 AI 的时代浪潮里写文章的门槛变低了很多,AI 渲染、AI 代笔;
技术背景
通过使用 AICode 工具,辅助开发者编程。
通过标准化流程,实现全面的接入使用。
通过本地化部署,定制私有化需求和提升安全性。
短期目标:通过 AICode 插件辅助开发编程实现提效,通过 AI 覆盖单测、代码 Review 提升开发质量。
使用对象:Go 语言、服务端开发。
随着企业产品业务不断扩大、用户量增加、功能需求复杂化,原有的系统架构逐渐无法满足高效运行、快速响应市场变化以及支持大规模并发访问等需求,在这种背景下,服务从单体应用架构,发展到资源隔离拆分多服务架构、负债均衡多集群架构,再到更细粒度的微服务容器编排架构,业务的增长不断促进架构的演进。本人有幸在刚进入互联网公司没几年就接触到相对大型的互联网产品的开发,从几十万、几百万到现在上千万 DAU,业务的增长不仅仅是对现有架构的挑战,更是推动技术创新和架构升级的动力。企业需要不断审视和调整其技术架构,以适应业务发展,保持竞争力,服务的部署架构以及开发者的技术认知,也跟随着高 QPS 场景不断的迭代升级。

保障服务的高可用,必不可少的措施,就是需要对服务资源使用度量情况、运行异常、逻辑错误、请求链路、等各项度量指标、日志和链路了如指掌,并且通过对服务的实时监控和分析,配置指标预警值,对异常进行告警,通知到相关负责人,通过可观测性的提升,预防和及时发现问题,保障服务的可用性。

为了保障业务的可用性,增加应用服务请求依赖服务(grpc、http)的熔断降级策略,避免依赖服务不可用的情况下,出现级联服务故障产生雪崩,通过熔断降级尽可能把影响缩放到最小。
Go服务在高并发请求下,当服务出现异常,会出现大量的错误日志调用栈跟踪,并上报到UDP日志服务,导致I/O彪高的问题。
多数的情况下,我们只需要通过几条错误日志的分析即可定位问题,也不需要看过多的重复的错误日志,针对这种场景下的问题,对堆栈日志的收集进行时间间隔内限量,超出限量的部分进行概率性的跳过忽略。