字节跳动发布全新开源长文本处理模型 Seed-OSS-36B
近日,字节跳动旗下的 Seed 团队在 AI 代码分享平台 Hugging Face 上发布了最新的开源大型语言模型 Seed-OSS-36B。这一新字模型专注于高级推理和开发者友好性,其最大特点是支持长达512,000个 tokens 的输入文本处理,远超美国科技公司如 OpenAI 和 Anthrop节跳ic 的产品。 Seed-OSS-36B 系列包括三个主要变体:Seed-OSS-36B-Base(含合成数据)、Seed-OSS-36B-动发Base(不含合成数据)和 Seed-OSS-36B-Instruct。合成数据版本在标准基准测试中表现更为出色,适合一般用途,而不含合成数据布全的版本则为研究提供了一个更加纯粹的基础。Seed-OSS-36B-Instruct 则专注于任务执行和指令跟随,经过后训练以优化表现。 所有模型新开均采用 Apache-2.0许可协议,意味着研究人员和开发者可以免费使用、修改和重新分发这些模型,不需支付字节跳动的许可费用。这标志着中国公源长司在开放源代码模型领域的又一次重要进展,同时也为国际应用提供了更多可能性。 Seed-OSS-36B 的设计和核心特征包括36亿个参数、64层架文本构和155,000个 tokens 的词汇量。该模型的长文本处理能力和推理预算设置,能够让开发者根据任务复杂性调整模型的推理深度。此外,该模型处理在多个基准测试中展现了优异的性能,例如,在数学和编程任务上取得了业界领先的成绩。 Seed 团队还特别关注模型的可访问性,用户可以通过 Hugging模型 Face Transformers 进行部署,并支持4位和8位的量化格式以减少内存需求。此外,团队提供了推理、提示自定义和工具集成的脚本, S进一步降低了小团队的操作门槛。 通过提供高性能和灵活部署的开放模型,字节跳动的 Seed 团队为企业、研究人员和开发者带来了新的选择。 huggingeeface:https://huggingface.co/collections/ByteDance-Seed/seed-oss-68ad-609f4201e788db05b5dcd 划重点: Seed-OSS-36B 模型支持长达512,000个 tokens 的输入,超越竞争对手。&nbsOSp; 模型分为合成数据和不含合成数据的版本,以适应不同用户需求。 所有模型均可免费使用,且支持多种部署和集S-成方案,便于开发者操作。
- 最近发表
- 随机阅读
-
- 钉钉与OpenDataLab联合推出文档解析工具DLU
- 云计算开发:Python3-rfind()方法详解
- DeepSeek核心专家加盟,元戎启行全面转向大模型技术路线
- 标签: 大众集团 奥迪 保时捷 Cariad
- 标签: Momenta 物理AI R7世界模型 Robotaxi
- 标签: 可灵AI 快手 KlingAI AI视频生成
- 从视频中学习 Facebook推出新人工智能项目
- Z 世代 AI 态度大转弯:警惕感上升,兴奋度骤降
- 无需手工设计,从零开始搜索损失函数
- 科大讯飞推出东盟多语言大模型,助力跨国沟通
- 清华与东北大学联合推出 UltraRAG 2.0:50 行代码实现高性能检索增强生成系统
- 微软研究院推出 Skala:深度学习的交换 - 关联泛函,以半局部成本实现混合级精度
- 即梦AI正式上线火山引擎 面向企业开放 API 服务
- 标签: 滴滴 AI出行助手小滴 国际业务 自动驾驶
- 超越极限!重新定义六类布线
- 阿里云与浙江“传播大脑”深化合作,打造全省媒体“一朵云一张网”
- 标签: 亚马逊 机器人部门 Blue Jay 裁员
- 云计算核心技术Docker教程:注册服务器基本身份验证
- 标签: AI4S
- 云计算开发:Python练习实例-对10个数进行排序
- 搜索
-
- 友情链接