跳到正文
AWS Machine Learning Blog· Naomi Teng·· 12 天前AI 评分34

Amazon Bedrock 为 Kimi K3 推出印度境内推理

Introducing India-based inference for Kimi K3 on Amazon Bedrock

AI 导读

Amazon Bedrock 现支持 Kimi K3 在印度境内推理,通过 in.moonshotai.kimi-k3 推理配置文件将处理限制在孟买和海得拉巴区域,满足严格数据驻留要求。Ultrahuman 已在生产中使用该模型,借助提示词缓存将 LLM 成本降低 80%、多轮对话速度提升 85%。文章还给出印地语文档 OCR 与 Hinglish 问答的示例代码。

来源:AWS Machine Learning Blog · aws.amazon.com