C4AI Command-R

该模型是 C4AI Command-R 的非量化版本。您可以在此处找到 C4AI Command-R 的量化版本。

模型简介

C4AI Command-R 模型是一款先进的生成式人工智能工具，拥有庞大的 350 亿参数，专为复杂任务设计，如推理、摘要和问题回答。它的独特之处在于支持 10 种不同语言的多语言生成，并具有高级的 RAG（检索增强生成）性能。该模型特别针对与代码的交互而设计，提供请求代码片段和重写等功能，使其成为开发人员和从事技术工作的人的宝贵资产。此外，它能够以 json 格式生成与工具交互的操作列表，以及基于文档片段生成准确响应的基础生成功能。

许可证：CC-BY-NC，还需要遵守 C4AI 的可接受使用政策
型号：c4ai-command-r-v01
模型大小：350 亿个参数
上下文长度：128K

用法

请使用 transformers 4.39.1 或更高版本

# pip install 'transformers>=4.39.1'
from transformers import AutoTokenizer, AutoModelForCausalLM

model_id = "CohereForAI/c4ai-command-r-v01"
tokenizer = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(model_id)

# Format message with the command-r chat template
messages = [{"role": "user", "content": "Hello, how are you?"}]
input_ids = tokenizer.apply_chat_template(messages, tokenize=True, add_generation_prompt=True, return_tensors="pt")
## <BOS_TOKEN><|START_OF_TURN_TOKEN|><|USER_TOKEN|>Hello, how are you?<|END_OF_TURN_TOKEN|><|START_OF_TURN_TOKEN|><|CHATBOT_TOKEN|>

gen_tokens = model.generate(
    input_ids, 
    max_new_tokens=100, 
    do_sample=True, 
    temperature=0.3,
    )

gen_text = tokenizer.decode(gen_tokens[0])
print(gen_text)

模型细节

Input: 仅模型输入文本。

Output: 模型仅生成文本。

模型架构：这是一种使用优化的变压器架构的自回归语言模型。预训练后，该模型使用监督微调 (SFT) 和偏好训练来使模型行为与人类偏好保持一致，以实现有用性和安全性。

涵盖的语言: 该模型经过优化，可以在以下语言中表现良好：英语、法语、西班牙语、意大利语、德语、巴西葡萄牙语、日语、韩语、简体中文和阿拉伯语。

预训练数据还包括以下 13 种语言：俄语、波兰语、土耳其语、越南语、荷兰语、捷克语、印度尼西亚语、乌克兰语、罗马尼亚语、希腊语、印地语、希伯来语、波斯语。

上下文长度: Command-R 支持 128K 的上下文长度。

联系方式

如果此模型卡中的详细信息存在错误或其他问题，请联系 info@for.ai.

使用条款：

研究团队希望通过向世界各地的研究人员发布高性能 350 亿参数模型的权重，该模型的发布将使基于社区的研究工作变得更容易实现。该模型受CC-BY-NC许可证和可接受使用附录的约束，并且还需要遵守C4AI 的可接受使用政策。

公共模型/C4AI Command-R-v01 模型V1当前版本

准备体验 OpenBayes？

公共模型
/
C4AI Command-R-v01 模型