F5推出AI网关，管理和保护AI流量和应用需求激增

F5（纳斯达克代码: FFIV）宣布早期推出 F5 AI 网关，以简化应用程序、API 和驱动企业AI采用的大型语言模型（LLM）之间的交互。{ width=60% }

---

这款强大的容器化解决方案优化了性能、可观测性和保护功能，从而降低了成本。AI 网关与 F5 的产品组合集成，为安全和运营团队提供了采用 AI 服务的无缝路径，显著提高了数据输出质量和用户体验。

根据F5的《AI应用战略状况报告》，75%的企业正在实施AI。像无数现代应用程序一样，AI 服务主要通过API进行交付和消费。然而，企业在设计和扩展会智能化的应用程序和服务方面面临许多额外挑战。作为一个例子，高效的运营需要密切监控越来越重要的度量标准，例如 GPU 计算成本和系统响应速度，以及新兴的监管合规性关注。

F5首席创新官库纳尔·阿南德（Kunal Anand）表示：“LLM正在为客户解锁新的生产力水平和增强用户体验，但它们也需要监督、推理时间的深度检查和防御新类型的威胁。” “通过满足这些新要求并与F5为API流量管理提供的受信任解决方案集成，我们让客户能够在一个更加庞大的威胁景观中自信且高效地部署由人工智能驱动的应用程序。”

现实世界的AI解决方案需要在整个数据生态系统中优化请求、响应和即时交互。F5 AI 网关观察、优化和保护大量用户和自动化变量，以提供降低成本、减轻恶意威胁和确保监管合规性。

F5 AI 网关旨在满足客户及其应用程序在其AI之旅中的理想位置。它可以部署在任何云端或数据中心，并将与 F5 的 NGINX 和 BIG-IP 平台进行本地集成，以充分利用F5在传统、多云或边缘部署中的领先应用程序安全和交付服务。此外，该解决方案的开放可扩展性使组织能够开发和定制由 F5 AI 网关执行的可编程安全性和控制。这些流程可以轻松更新和动态应用，以驱动对安全政策和合规性要求的即时遵守。

IDC的AI和自动化高级总监沙里·拉瓦（Shari Lava）表示：“在未来几年中，AI驱动的应用将成为几乎每个企业和组织的基石。” “F5将AI网关引入其服务堆栈中，使其客户能够在如何构建AI应用程序结构方面拥有更大的灵活性，同时仍具有增强的保护和模型优化。”

F5 AI 网关：

• 通过自动检测和修复对 LLM 应用程序在 OWASP十大风险中发现的风险，提供安全性和合规性策略执行
• 通过语义缓存从 LLM 中卸载重复任务，优化用户体验并降低运营成本
• 简化集成流程，允许开发人员专注于构建AI驱动的应用程序，而不是管理复杂的基础设施
• 优化负载平衡、流量路由和对本地和第三方 LLM 的速率限制，以保持服务可用性和提高性能
• 提供一个单一的API接口，开发人员可以使用它来访问其选择的AI模型

WorldTech IT的首席技术官奥斯汀·杰拉奇（Austin Geraci）表示：“F5的AI网关是我们AI战略的重要组成部分。” “借助这项技术，我们的客户能够开发出既能处理查询激增又不降低站点和应用程序性能的内部和外部面向AI的应用程序。F5为规模化加速AI体验带来了领先的应用程序安全和交付能力。使用F5 AI 网关，单单语义缓存和智能流量路由就代表着大量成本节省，而F5服务的统一将为客户节省数百小时的集成工作。”

注意：Title、Date、Body 三个部分的内容，放入到对应的位置。最后只需要输出为Makedown源文件格式内容。

感谢阅读！如果您对AI的更多资讯感兴趣，可以查看更多AI文章：GPTNB。