您的位置:首页 >热点 >

百度智能云“千帆大模型平台”升级:接入Llama 2等33个模型,上线插件功能和103个Prompt模板

2023-08-02 19:33:19    来源:凤凰网

图片来源:图虫创意


(资料图片仅供参考)

8月2日,记者从百度智能云方面获悉,千帆大模型平台已完成新一轮升级,重点升级了三大功能。

百度智能云AI与大数据平台总经理忻舟表示,目前,千帆大模型平台已经全面接入Llama2全系列、ChatGLM2、RWKV、MPT等33个大模型,成为国内拥有大模型最多的平台。接入的模型经过千帆平台二次性能增强,模型推理成本可降低50%。同时,千帆平台上线了国内最全的预置Prompt模板,模板数量多达103个,覆盖对话、游戏、编程、写作十余个场景。第三,千帆是提供插件服务的大模型平台,本次升级再次发布多款全新插件。

2023年3月,百度智能云推出“千帆大模型平台”,它是一站式的企业级大模型平台,不但提供包括文心一言在内的大模型服务及第三方大模型服务,还提供大模型开发和应用的整套工具链,能够帮助企业解决大模型从训练到开发过程中的问题。

忻舟表示,本次千帆大模型平台升级的目的是给企业、开发者提供更加灵活、多样化、高效的大模型服务,客户可选择最适合自身业务的大模型,再利用千帆平台全套工具链进行模型再训练,打造企业专属大模型。

千帆接入Llama2等33个模型,推理成本可降低50%

当前,开源大模型生态发展迅速,大量模型涌现,在不同任务场景、参数量级与算力环境下体现出了差异化优势。如何选择适合的大模型、如何应用大模型能力提升市场竞争力,成为越来越多企业迫切探索的方向。

为了满足企业对大模型多样的需求,百度智能云宣布,除了之前已经接入的文心一言、BloomZ之外,本次升级后,千帆大模型平台全面接入Llama2全系列、ChatGLM2、RWKV、MPT、Dolly、OpenLLaMA、Falcon等33个大模型。企业用户可将不同大模型搭配使用,以满足不同细分场景的业务需求。企业和开发者可以登陆千帆大模型平台操作台,在“模型仓库”中直接调用、部署。

忻舟介绍,千帆平台接入的大模型均经过严格优选,主要考核三大指标:模型效果、模型安全性、可商用。

据介绍,一方面,千帆对每一个大模型进行了二次性能增强。通过优化模型吞吐、降低模型尺寸,实现模型推理速度的提升。据百度测算,调优后模型体积可压缩至25%-50%,推理成本可降低50%。

另一方面,千帆对第三方大模型做了二次安全增强。值得一提的是,千帆还提供多种低门槛调优工具,包括SFT(全量参数微调、Prompt Tuning、LoRA)及强化学习(奖励模型学习、强化学习训练)等,同一模型还可通过多种方式持续调优。

上线Prompt海量模板库

Prompt是指通过自然语言向大模型提出问题,问题的好坏将直接影响大模型的内容输出质量。实际应用时,大模型往往因为Prompt缺乏针对性、描述不清晰等原因影响到内容准确性。

为帮助客户提高Prompt提问质量、提升模型输出满意度,本轮升级后,百度智能云千帆大模型平台上线了海量预置Prompt模板库,模板数量多达103个,包含对话、编程、电商、医疗、游戏、翻译、演讲等十余个场景。用户可以根据需求选择合适的模板,直接输出给大模型,即可提高模型内容的针对性和准确度。

忻舟表示,很多企业使用大模型时,认为效果不好是模型本身的问题,其实很多时候重新编写Prompt就能达到预想的效果。海量Prompt模板的推出,降低了Prompt撰写难度。

提供插件服务的大模型平台,千帆插件功能再上新

插件是大模型能力的延伸,可以让大模型的认知能力与外部信息、资源融合打通,极大扩展大模型的功能边界。据了解,今年6月,千帆平台就上线了插件功能,是国内首家提供插件服务的大模型平台。

为实现客户更加个性化的需求,千帆大模型平台又发布了一系列插件功能。例如,刚刚上线的“Chatfile插件”,用户可在大模型对话中一键上传PDF/Doc格式文档,大模型即可基于文档内容实现知识点检索,长文本摘要等功能。

值得一提的是,千帆的插件功能已应用于百度内部的办公场景中,基于大模型技术打造的如流“超级助手”接入了会议室插件、内部搜索插件等20个插件。百度员工用自然语言与“超级助手”对话,即可实现文档搜索、会议室预定、饭卡充值、休假申请等功能。

忻舟表示,大量客户调研显示,企业对插件功能的需求非常迫切。

标签:

相关推荐

恒瑞医药回应“办事处被端”传闻:经核实,目前没有该情形

7月IPO“零申报”内情:早已成常态 与审核放缓无关

路透:中国部分城市收紧地产商获取监管账户资金的规定

AMD考虑效仿英伟达调整芯片规格 以维持对华出口

茅草街镇第一家公益性养老服务中心正式开业

森泰股份:公司的主营业务是高性能木塑复合材料、新型石木塑复合材料及其制品和应用的研...

汽车零配件板块震荡走强 路畅科技涨停

郭明錤:常温超导将颠覆电子产品设计 iPhone 可匹敌量子计算机

视频直击:北京市人民政府航空队出动警用直升机转运6名伤员

被控受贿2300余万,上海展览中心原总裁孙小明一审开庭

北京房山区大面积停水,抢修工作正在进行

造谣“燕郊桥断,几辆车掉进去”,河北三河市一人被行拘

注意!京港澳高速冀京界和涿州段等多条高速路段受降雨影响

美国被“降级”!美财长耶伦:强烈反对

两部门:延续小规模纳税人增值税减免政策至2027年底

外媒:白宫拒绝评论特朗普被起诉,事发时拜登正度假约会看电影

心安之处即是家|丁肇辰:北京教书16年,助推两岸青年设计师交流

国际锐评丨31页提到中国,日本这份“白皮书”意欲何为?

强军之路丨成为一个兵

大庆这项教育救助开始申请 申请条件、救助标准看这

呼和浩特这处独美的自然风光,不允许你还不知道!

强军之路丨成为一个兵

诸多经济学家怒喷惠誉:“困惑”、“不解”、“荒谬”!

加密行业新“大瓜”:这人通过卖代币买了一颗555克拉黑钻

开闸抢人!徽京,这一次要易主了?

美国突降“黑天鹅”!亚太市场大跌,日股跌近2%,恒生科技指数跌超3%

公安网上通缉查询系统官网 公安网查人

扯白||《小时代》十周年,女战士杨幂和谢依霖竟成为真正的“时代姐妹花”……

世界羽毛球排名,最新世界羽联排名完整榜单?

台风“卡努”已进入东海,中心附近最大风力有16级

切实保障游客的安全(消费视窗)

雪域高原上的青春之歌(我们这里的年轻人)

男子娶布娃娃为“妻”,还“生”了3个“孩子”,“一家五口”生活幸福,网友:他应该去看病

日本央行副行长明确表态:政策调整不等于退出超宽松政策!

午评:石油、银行、煤炭等板块拖累 A股震荡走低沪指跌0.84%

上海“土拍盛宴” “大玩家”占据主力市场

2023年《财富》世界500强排行榜揭晓:9家国内银行上榜

哪款新能源小车更受欢迎?比亚迪海鸥排第一!

海豹DM-i若16万起售,能否将合资B级车赶尽杀绝?

全网评论数最多的前10条视频,你知道吗?

民生证券给予浙能电力谨慎推荐评级

今天河南全省有分散性阵雨,局部大到暴雨

能动执行促和解 护航企业保双赢

业界担忧俄罗斯所持数十亿卢比资金外流 印度央行作保称“将介入”

捍卫祖国统一坚定不移!东部战区发布热血MV《底气》

强军之路丨微视频《一把好枪》

逐梦|超震撼!“鲲鹏”运油-20与“飞鲨”歼-15首次同框!

用爱搭起“心之桥”(共建“一带一路”·民心相通)

中国国家版本馆首批版本捐赠入藏

平安就好!中图网被困员工平安撤离

石景山游乐园、八大处公园等景区暂缓恢复开放

着力强化六大支撑,加快办成一批打基础利长远的大事要事

北京市人民政府航空队再出动,满载物资,期盼运送到位!

黑龙江公共频道在线直播观看(黑龙江公共频道在线直播)

这,是呼和浩特稳稳当当的“幸福实景”!

热炸了!美国凤凰城连续31天气温超43°C 更多热浪即将来袭

涿州在呼救!13万人受灾,洪水穿过物流重镇,图书库房损失过亿,多方驰援

美股8月“开门黑”、10年期美债重返4%、美元飙升,隔夜发生了什么?

恒生科技指数跌超3%

上半年,美、韩芯片巨头,少出口芯片到中国至少2400亿

抱紧马斯克,比宁德时代“日赚一亿”还重要

捷达vs5机油加多少升(捷达机油多久换黄壳?)

极端天气冲击短期观影需求,影视传媒板块复苏节奏能否持续?

省管民办学校2022年度年检结果公布 甘肃金城理工中等专业学校不合格

水利部连夜紧急部署海河流域大清河永定河洪水防御工作

赛伦生物收监管工作函 IPO时曾超募方正证券赚9000万

北京昌平流村镇失联5村庄全部恢复联系,物资空投仍将继续

河南鹤壁蓄滞洪区启用4个集中安置点,2万余人已全部安置

上半年全国消协组织为消费者挽回经济损失59064万元

8架陆航直升机已分赴北京门头沟、房山开展空投转运救援任务

彰显军民团结 书写鱼水情深

贵州省遵义市委党校常务副校长韦圣福被查

澳洲中国东北总商会与吉林市侨务企业代表团举行合作签约仪式

“只要有梦想,哪里都是星辰大海”(最美新时代革命军人)

让“归雁”成为乡村振兴“领头雁”(干部状态新观察)

寿阳县人民检察院:公益诉讼“亮剑”医美行业

交通运输持续恢复整体好转(经济新方位·年中数据观察)

朔州市远程异地线上评标助力营商环境优化

快速提取PPT上的文字!

这一决议“不允许强行实施”,日韩民众反对核污染水排海

争先开好局 聚力谱新篇

原国家房改课题组组长孟晓苏:“认房又认贷”抑制了老百姓改善生活的权利,希望推动一次...

销往饲料厂的死龙虾涉嫌流向餐桌?涉事公司停业配合调查

A股小幅低开 超导概念板块涨超6%

射频和无线技术(关于射频和无线技术介绍)

(高质量发展调研行)中国车谷“二次创业”竞速汽车产业新赛道

靳尚谊素描展长沙展出 88幅作品讲述时代生活

山东深耕本土文化资源 推动文创产业高质量发展

券商股再度拉升!两股涨停,券商ETF(512000)迅速冲高涨逾2%,各路资金再度回流

商竣程首进ATP500赛16强

官司缠身,特朗普在共和党选民中支持率反而飙升!

被盗用身份信息,办理了信用卡怎么办?

新一代中型运载火箭研制再获突破

全国学生军事训练营在怀柔开营 航天员叶光富讲授第一课

构建景区联动惩戒机制,让不文明游客与美景“绝缘”

湖北省公安厅刑侦总队3人同时被查!

外眼看大运丨大运村里“耍”非遗

年中数据观察:我国货运量持续增长 出行量加快恢复

环球漫评|点燃奋斗激情,追梦砥砺前行

热评丨未来人们一定会想起 我们在地下700米深处的努力