中国新闻网-上海新闻
上海分社正文
猎户星空傅盛:企业应用大模型,百亿参数就够了
2024年02月01日 19:11   来源:中新网上海  

  中新网上海新闻2月1日电(记者 李佳佳)近日,猎户星空公司发布了一款引人注目的大模型——Orion-14B。该模型以其百亿参数级别加强大的微调套件(包括RAG检索增强生成和Agent等)加保姆式服务等特色功能成为业界瞩目的焦点。这次发布不仅让业界为之侧目,更让我们看到了猎户星空董事长傅盛对于企业应用大模型的独到见解。

  傅盛表示,对于企业应用而言,百亿参数的大模型已经足够。相较于过去认为千亿参数是商业化应用的最佳方案,猎户星空的Orion-14B以百亿参数为基础,却展现出了出色的性能。这种创新之源的背后,是对企业实际需求的深刻理解和对大模型性能的精准把握。

  Orion-14B不仅在通用对话微调方面表现出色,而且在RAG和Agent等多个领域都有着强大的性能。通过专项微调,模型不仅能够控制知识边界、实现问答对生成,还能够有效控制幻觉和提取结构化数据。这意味着企业可以在不同场景中得到更为精准和高效的应用,为业务决策提供强有力的支持。

  Orion-14B经过多项性能测试,不仅在主流测试集上取得了SOTA的成绩,而且在多语言能力上也表现出色。这为企业提供了更全面、更灵活的大模型选择,使其能够在全球范围内应对各种语言和场景的需求。

  猎户星空公司为Orion-14B提供了几乎无损的INT4量化版本,使其可以在消费级显卡上运行,如NVIDIA RTX 3060。这种硬件支持不仅提高了模型的推理速度,还降低了部署成本,使企业能够更加灵活地选择适合自己需求的硬件平台。

  Orion-14B在企业中有多场景应用,包括人力助手、云资产助手和聚言创意助手。通过这些助手,企业能够实现数字化升级,提高决策效率,优化运营成本,甚至预测员工潜力。这一系列应用场景展示了Orion-14B在帮助企业实现全面数字化转型方面的强大能力。

  傅盛对未来进行了展望,预测到2024年,百亿大模型将百花盛开。这一展望意味着百亿参数级别的大模型在未来将成为企业应用的主流选择。猎户星空公司通过Orion-14B的成功发布,为这一趋势的确立提供了强有力的支持。

  Orion-14B的发布不仅让人们看到了猎户星空在大模型领域的创新能力,更为企业应用提供了一种更为灵活、高效的选择。傅盛对于百亿参数大模型的坚定信仰,以及Orion-14B在多个方面的强大表现,使其成为当前企业数字化升级的得力助手。未来,百亿参数级别的大模型或将引领企业应用的新潮流。

注:请在转载文章内容时务必注明出处!   

编辑:李佳佳  

本网站所刊载信息,不代表中新社和中新网观点。 刊用本网站稿件,务经书面授权。
未经授权禁止转载、摘编、复制及建立镜像,违者将依法追究法律责任。
常年法律顾问:上海金茂律师事务所