PyTorch团队在其博客中分享了一篇关于如何加速大型生成式AI模型推理的文章，该团队以Llama7B为例，展示了如何通过一系列优化技术将推理速度提升10倍，达到了244.7tok，s，Py。

更新时间：2024-01-17 10:20:52

微软研究院今天宣布发布其Phi，2小语言模型，这是一种文本到文本的人工智能程序，具有27亿个参数，Phi，2的性能可与其他更大的模型相媲美，包括Meta的Llama2，7B和Mistral，7B。

更新时间：2024-01-17 08:01:10

Mistral最近发布了Mixtral8x7B模型，这一举动在AI圈引起了巨大反响，这一模型超越了业界知名的GPT，3.5和Meta的Llama2家族，在开源AI领域掀起了轩然大波，但正如宾夕法尼亚大。

更新时间：2024-01-16 09:05:46

2023年，ChatGPT、Bard和Llama等人工智能聊天机器人崭露头角，承诺将使世界变得更高效，但也可能导致数百万人失业，这些AI助手已帮助全球用户生成通常需要人类更多小时才能。

更新时间：2024-01-14 11:39:20

李开复的Yi，34B，Chat模型在多个评测中大放异彩，其94.08%的胜率超越了LLaMA2和ChatGPT等主流大模型，尤其在加州大学伯克利分校主导的LMSYSORG排行榜中，以1102的Elo评分追平。

更新时间：2024-01-14 10:07:32

供本地使用的LLM通常作为一组权重分布在数GB文件中，这些软件不能直接单独使用，这通常使得它们比其他软件更难分发和运行，这些权重文件本身不能直接使用，需要通过特定的软。

更新时间：2024-01-13 10:59:06

仅次于GPT，4，李开复零一万物Yi，34B，Chat最新成绩公布——在Alpaca经认证的模型类别中，以94.08%的胜率，超越LLaMA2Chat70B、Claude2、ChatGPT，不仅如此，在加州大学伯克利。

更新时间：2024-01-13 08:21:51

Ollama最新版本支持多模态模型经常使用了，只有输入，ollamarunllava，并运转即可，在下载llava，7B模型后，只有拖放图像输入疑问即可，量化级别越高，模型越准确，但运转速度越。

更新时间：2024-01-11 13:59:58

全球社交、科技巨头Meta在官网开源了全新模型——LlamaGuard，LlamaGuard是一个基于Llama2，7b的输入、输出保护模型，可对人机会话过程中的提问和回复进行分类，以判断其是否。

更新时间：2024-01-05 17:04:35