漫话开发者 - UWL.ME 精选全球AI前沿科技和开源产品

OpenAI周二表示,为强化前沿模型的安全监控与防护能力,受监控的推理工作负载将额外增加约20%的计算开销。成本上升主要来自扩展后的多阶段思维链监控机制:系统会在模型逐步推理过程中进行多轮安全校验,以识别越狱、有害输出或异常行为,相当于在正常推理之外叠加了新的算力消耗。由于前沿模型本身单次推理成本较高,这种安全审计使整体推理开销进一步抬升。OpenAI明确强调,新增成本不会转嫁给客户,而是由公司自身承担。这意味着企业客户在获得更严格安全防护的同时暂时不会看到账单变化,但OpenAI的推理利润率可能因此承压。这一举措也反映出,在大模型商用进程中,安全机制正从可选能力变为基础合规投入。

核心要点

  • OpenAI新的监控与安全防护将使受监控推理负载增加20%计算开销。
  • 多阶段思维链监控是成本上升主因,前沿模型推理变得更贵。
  • OpenAI承诺不将新增成本转嫁给客户,由公司自身承担。

Read more >