TeleChat3

TeleChat3    产品介绍

星辰语义大模型 - TeleChat3 是一款由中国电信人工智能研究院开发的高性能大语言模型，专注于自然语言处理任务。该模型基于国产算力训练，具有强大的推理和微调能力，适合各类应用场景。产品致力于为开发者提供高效、灵活的 AI 解决方案，特别是在知识、创作、指令、代码等多个维度展示出色的性能。

TeleChat3    需求人群

该产品适合自然语言处理、AI 开发者和研究人员,特别是那些需要进行文本生成、知识问答、代码生成等任务的人群。TeleChat3 强大的推理能力和灵活的微调选项使其成为研究和开发中的理想工具。

TeleChat3    使用场景

使用 TeleChat3 进行文本生成,适合写作助手应用。
在教育领域中,通过 TeleChat3 提供知识问答服务。
开发代码助手工具,利用 TeleChat3 的代码生成能力。

TeleChat3    产品特色

高性能推理：支持单卡和多卡推理,优化长文处理。
微调支持：利用 LLaMA-Factory 进行模型的微调和权重合并。
适配国产硬件：支持昇腾 Atlas 800T A2 训练服务器,实现高效训练和推理。
多种能力评测：在知识、数学、创作等多个维度进行全面评测,展示出色的模型性能。
服务化推理：支持 vLLM 和 SGLang 框架的快速推理和服务功能。