关闭广告

10倍压缩率,97%解码精度!DeepSeek开源新模型,为何赢得海内外关注

澎湃新闻5890人阅读

DeepSeek开源新模型:用视觉模式实现上下文压缩。

10月20日,DeepSeek宣布开源最新大模型DeepSeek-OCR。所谓的OCR,据DeepSeek在论文中解释称,是通过光学2D映射压缩长上下文可行性的初步研究。DeepSeek-OCR由两部分组成:DeepEncoder和作为解码器的DeepSeek3B-MoE-A570M。DeepEncoder作为核心引擎,设计为在高分辨率输入下保持低激活,同时实现高压缩比,以确保视觉tokens数量优化且可管理。

通俗而言,这是一种视觉-文本压缩范式,通过用少量的视觉token来表示原本需要大量文本token的内容,以此降低大模型的计算开销。

据公布的论文名单显示,该项目由DeepSeek三位研究员Haoran Wei、Yaofeng Sun、Yukun Li共同完成,但这三位核心作者都颇为低调,其中一作作者Haoran Wei曾在阶跃星辰工作过,曾主导开发旨在实现“第二代 OCR”的GOT-OCR2.0系统。


DeepSeek-OCR的架构分为两部分。一是DeepEnco

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

林允儿回应新剧争议,语带挑衅惹众怒,曝与韩方合作将全面收紧

扒虾侃娱 浏览 7055

出场时间创新低,记者:马刺有意交易索汉来换更强的轮换球员

懂球帝 浏览 4942

苹果公司在印度反垄断案中可能面临高达380亿美元罚款

华尔街见闻官方 浏览 5283

Stellantis,“分”或许比“合”好

禾颜阅车 浏览 5550

张水华重马创个人第二好成绩 丈夫解释她嘴唇发黑

极目新闻 浏览 9036

普京:“海燕”核动力巡航导弹完成“决定性试验”

极目新闻 浏览 5590

国债被"抛售"债市遭暴击 日本或在未来面临金融风暴

红星新闻 浏览 37386

牛市中的“逆行者”:淳厚基金规模一年流失40%

一地基毛 浏览 2402

业主84万元新房被粪水环绕 管道一天直排粪水10余次

潇湘晨报 浏览 8734

大张伟和老婆腻歪,当一个42岁叛逆“小娇夫”

凌风的世界观 浏览 4936

曲婉婷近照疑曝光!眼神闪躲像躲债

小徐讲八卦 浏览 4701

占比突增到62.2%,年末新能源车突然爆发,燃油车要“熄火”了?

小李车评李建红 浏览 5100

失业13个月 35岁巴神官宣登陆西亚2级联赛 已换13队+10年转会10次

我爱英超 浏览 4583

贾国龙宣战失败,西贝亏损超6亿元,到底谁的责任?

数字财经智库 浏览 4680

德约领衔ATP阿德莱德站正赛名单

体坛周报 浏览 5002

伊朗革命卫队称对美空军基地进行打击

新华社 浏览 23335

华为鸿蒙 HarmonyOS 6.0.0.107 SP7 / SP5 Developer 版本发布

IT之家 浏览 5696

《阿嬷》之后,又一部国产片要爆了

独立鱼 浏览 1828

71岁张国立喜讯刚至,43岁巨婴儿子惹新事

梦在深巷qw 浏览 1973

众星在大S雕像前拍照,小S双手合十感谢外界,悼念致辞全场哽咽

萌神木木 浏览 4473

OpenAI ChatGPT自动切换严格模型处理情感话题,用户却不知情

IT之家 浏览 6435
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1