今天忙飞，深夜，简单写几点： 1. 单论DeepSeek-V2模型的中文水平（来自20多个微信群用户反馈），是真实处在国内外闭源模型 ...

Jan 10, 2024 · DeepSeek | 看了下deepseek的论文，挺有诚意的，几点印象：1. 花了大量的功夫去研究scaling laws，这是为了找到更好的超参。 一个新发现是，scaling laws的系数和数据质 …

DeepSeek，一款国产大型语言模型（LLM），凭借其670亿参数的规模，正引领着人工智能领域的新浪潮。 这款模型不仅在多项中英文公开评测榜单上超越了700亿参数的Llama 2，而且在推 …

DeepSeek MoE是国内第一个开源MoE模型，值得学习。放出来的技术报告里面讲了两个对MoE结构的创新点。 DeepSeek-MoE技术报告链接 1. 把一个专家做更细粒度切分，如下图（b）。 …

DeepSeek-VL 系列（包括 1.3B 和 7B 模型）作为视觉语言聊天机器人在现实世界的应用中展示了优秀的用户体验，在相同模型大小的各种视觉语言基准测试中取得了 SOTA 或具有竞争力的 …

DeepSeek-Coder的训练数据集由以下几部分组成： 源代码（Source Code）：占数据集的87%，这些代码来源于GitHub上的公共仓库，并且只保留了87种编程语言的代码。为了减少 …

DeepSeek系列开源模型自发布以来受到了技术社区的广泛关注，不少开发者基于DeepSeek模型进行了衍生开发或搭建了上层应用。 在这个过程中，我们也陆续收到关于模型开源许可和使用 …

成立半年后，DeepSeek 带着代码大模型与大家见面了，且免费商用，完全开源。 这将会有哪些人收益，又会给行业生态带来哪些变化或影响？ [图片] 显示全部

Deepseek-V2模型一经发布，立刻以极低的API价格以及宣传逼近GPT4的性能吸引了众多关注。 [图片] 作为国内顶级量化私募幻方旗下的大模型公司，Deepseek-V2并不是他们发布的第一个 …

Mar 11, 2024 · HighlightsHighlights数据：来自Common Crawl提取的120B高质量数学网页数据，总数据量是开源数据集OpenWebMath的9倍训练：使用了代码领域模型DeepSeek-Coder …