TechFlame 消息,5 月 10 日,據 Medium 報道,Swarms API 近期推出了重大更新,旨在提升性能、成本效率和靈活性。此次更新主要包括三項核心功能:
Flex Processing 是一種針對非緊急 AI 工作負載的成本優化處理層,提供 75% 的輸入和輸出令牌成本折扣,夜間(太平洋標準時間晚 8 點至早 6 點)額外提供 75% 折扣,並延長超時窗口至 15 分鐘。
動態智能緩存系統自動優化代理完成結果,具有 5 分鐘的緩存生存時間,每 60 秒自動清理,支持併發請求,可減少冗餘 API 調用和令牌使用。
個體代理完成端點提供前所未有的定製選項,支持 600 多個模型提供商,允許自定義系統提示、角色配置、溫度和令牌控制等參數。