发布时间:2024-08-30 09:03:01 来源: sp20240830
7月5日,2024世界人工智能大会(WAIC)期间,百度智能云大模型助力新质生产力发展论坛在在上海世博展览馆举办。会上,百度智能云宣布文心大模型4.0 Turbo(ERNIE 4.0 Turbo)面向企业客户全面开放;文心旗舰款模型ERNIE 4.0和ERNIE 3.5宣布大幅降价;百度智能云千帆大模型平台针对大模型工具链和AI原生应用发布十余项全新升级。
大模型日均调用量突破5亿次、二季度环比增长150%;累计服务15万家企业用户、累计帮助用户精调了2.1万个大模型;帮助用户开发出了55万个AI原生应用。这是百度智能云千帆平台交出的2024“年中报”,这些数据说明,大模型已经真正进入到了指数级增长的阶段。
百度副总裁谢广军表示,在模型方面,文心系列最新旗舰版大模型——ERNIE 4.0 Turbo面向企业客户全面开放,输入输出价格分别低至0.03元/千Tokens、0.06元/千Tokens。
ERNIE 4.0、ERNIE 3.5两款旗舰模型大幅降价;ERNIE Speed、ERNIE Lite两款主力模型持续免费,进一步帮助客户降低大模型使用门槛和试错成本,加速业务创新。
在模型工具链方面,百度智能云千帆ModelBuilder业界首发DPO(Direct Preference Optimization,直接偏好优化)、KTO(Kahneman-Taversky Optimization)两类模型训练方法,大幅提升模型精调效率;新增两类模型量化压缩算法,降低模型推理成本。
针对企业精调专用模型常见的特定场景数据欠缺、大模型通用能力遗忘等问题,千帆ModelBuilder推出混合文心大模型高质量数据功能,支持用户将文心大模型通用混合语料和垂直领域语料与业务数据进行融合,精调出更稳定、效果更好的专用大模型。
在AI原生应用开发方面,千帆AppBuilder从扩展性、开放性、安全性三方面对企业级检索增强生成(RAG)进行了全面升级,解决企业构建知识问答系统中遇到的海量知识检索、自定义策略、企业级安全保障三大难题。
针对传统RAG难以触及公网内容、资源,检索结果时效性不足等问题,千帆AppBuilder还全新推出了“RAG with 百度搜索”功能,将百度搜索在时效性、客观性方面的优势,与RAG在私域知识响应、语言灵活性方面的优势进行能力互补,大幅提升用户知识检索体验。
为进一步降低行业客户落地大模型门槛,百度智能云还正式发布了千帆行业场景解决方案。基于百度智能云在行业最佳实践,打造场景模型、Prompt模板、模型精调样板间、应用样板间等参考“样例”,方便有客户直接使用或通过一键复制,快速完成大模型应用开发。目前,千帆平台已经优先上线了包括教育、人事、企业服务、文娱、医疗在内的5大行业、20多个场景解决方案。
在医疗领域,杭州全诊医学基于百度智能云千帆平台打造了AI Agent应用——AI医生助理,在预诊、诊间、住院、手术等多个医疗场景中为医护人员提供病史采集、病历书写、诊疗辅助等支持,大幅提升医护人员工作效率、改善病患就医体验。目前,AI医生助理服务已经覆盖45家三甲医院,105个区县超1.5万家诊所,每日生成门诊病历草稿多达15万份,病历质量提升超过45%,患者服务数量因此提升了1.5倍!
在教育领域,中国高科集团旗下英腾教育面向医学考试场景,联合百度智能云基于千帆平台打造了业内首个AI医学考试应用产品考试宝典。通过对自有垂类高度结构化数据,覆盖1800+医学考试科目超过10亿的医学文本tokens,以及英腾教育积累的百亿级专业知识数据进行高效处理和学习,考试宝典能够帮助考生制定个性化的学习计划、精准答疑、依托测评精准定位知识薄弱环节,以及智能推荐学习重点,助力考生大幅提升备考效率。
会上,百度智能云还与来自浙江、江苏、江西等地的六个政府部门签署战略合作协议,通过大模型等创新技术赋能区域产业智能化升级;与浙江、江苏、江西、云南、上海等地的七家企事业单位达成战略合作,推动大模型在教育、医疗健康、港航等行业加速落地,助力实体经济发展。
为加速大模型在场景中的深度应用,推动教育产业的智能化发展,百度智能云千帆AppBuilder携手企业高校、科研机构等多家单位,联合发起千帆杯AI原生应用创意挑战赛——教育生态行业赛,旨在发掘教育行业的优秀AI应用、创建教育行业大模型新场景。
会上,百度智能云千帆杯AI原生应用创意挑战赛——教育生态行业赛结果也正式揭晓,13支决赛入围团队中,“赛博创力”团队设计的《AI 智教相机》荣获一等奖,“个性化学途”团队打造的《辅导老师 Copilot》与“WRITING ARENA”团队开发的《雅思写作竞技场》分获二、三等奖。优胜项目将获得百度提供的奖金激励,同时,百度还将在技术辅导、营销传播、业务推广等方面提供强力支持。
(责编:曹淼、陈键)