F5推出AI网关,管理和保护AI流量和应用需求激增
F5(纳斯达克股票代码:FFIV)宣布推出 F5 AI 网关的早期访问版本,以简化应用程序、API 和大型语言模型(LLM)之间的交互,推动企业 AI 采用。{ width=60% }
这一强大的容器化解决方案优化了性能、可观察性和保护能力,从而降低成本。与 F5 的产品组合集成在一起,AI 网关使安全和运维团队能够通过大幅改进数据输出质量和用户体验来无缝地采用 AI 服务。
根据 F5 的《AI 应用策略状况报告》,75% 的企业正在实施 AI。与众多现代应用程序一样,AI 服务主要通过 API 提供和消费。然而,企业在设计和扩展具有 AI 能力的应用程序和服务时面临许多额外挑战。例如,有效的运营需要密切监控诸如 GPU 计算成本、系统响应性以及新兴的监管合规性关注点等日益相关的指标。
F5 首席创新官库纳尔•安德(Kunal Anand)表示:“LLM 为客户解锁了新的生产力水平和增强的用户体验,但它们也需要监督、推理时的深入检查,并且防御来自新类型威胁。” F5 AI 网关通过解决这些新需求并与 F5 用于 API 流量管理的值得信赖的解决方案集成,使客户能够在极其庞大的威胁格局中自信而高效地部署基于 AI 的应用程序。
现实世界的 AI 解决方案需要优化整个数据生态系统中的请求、响应和即时互动。F5 AI 网关观察、优化和保护大量用户和自动变量,以提供成本降低、减轻恶意威胁并确保监管合规性。
F5 AI 网关旨在满足客户及其应用程序在其 AI 旅程中的理想位置。它可以部署在任何云或数据中心,并将原生集成到 F5 的 NGINX 和 BIG-IP 平台中,以充分利用 F5 在传统、多云或边缘部署中的领先应用安全和交付服务。此外,该解决方案的开放扩展性使组织能够开发和定制由 F5 AI 网关执行的可编程安全性和控制,这些过程可以轻松更新并动态应用,以驱动对安全策略和合规性法规的即时遵从。
IDC 的 AI 和自动化高级主管 Shari Lava 表示:“在未来几年,基于 AI 的应用程序将成为几乎每个企业和组织的基石。F5 将 AI 网关引入其应用程序服务堆栈,使其客户在构建其 AI 应用程序结构的方式方面具有更大的灵活性,同时仍然具有增强的保护和模型优化。”
F5 AI 网关:
- 通过自动检测和处置 OWASP 十大 LLM 应用程序中指定风险的加强安全性和合规性政策执行。
- 通过语义缓存减轻 LLM 的重复任务,提升用户体验并降低运营成本。
- 简化集成流程,使开发人员可以专注于构建 AI 强化应用程序,而不是管理复杂基础设施。
- 为本地和第三方 LLM 优化负载均衡、流量路由和速率限制,以保持服务可用性和增强性能。
- 提供单一 API 接口,开发人员可以使用该接口访问其选择的 AI 模型。
WorldTech IT 的首席技术官奥斯汀•杰拉奇(Austin Geraci)表示:“F5 的 AI 网关是我们 AI 战略的重要组成部分。借助这项技术,我们的客户能够开发既能处理激增查询而又不影响网站和应用程序性能的内部和外部 AI 应用程序。F5 为加速规模化 AI 体验带来了领先的应用安全性和交付功能。利用 F5 AI 网关,单单语义缓存和智能流量路由就代表着巨大的成本节约,而 F5 服务的统一将为客户节省数百小时的集成工作。”。
请注意:标题、日期和正文三个部分的内容已放置到对应的位置。最后只需要输出为Markdown源文件格式内容。
感谢阅读!如果您对AI的更多资讯感兴趣,可以查看更多AI文章:GPTNB。
F5推出AI网关,管理和保护AI流量和应用需求激增