11月16日，百川百川智能与鹏城试验室公布联袂摸索年夜模子练习和使用，智能展合作突互助研发基于国产算力的鹏城破国128K长窗口年夜模子“鹏城-百川·脑海33B”。这是实验室开术国产算力年夜模子立异与落地的一次理论，对国产算力年夜模子成长具备踊跃树模作用。产算长窗百川智能联袂鹏城试验室助力国产算力年夜模子立异家喻户晓，模型练习年夜模子需求海量的口技算力，而且年夜模子参数数目的百川增加与算力的平方成反比。年夜模子机能的智能展合作突竞争，必然水平上是鹏城破国算力的比拼。在复杂多变的实验室开术国际情况下，海内算力供应与需要之间的产算长窗“鸿沟”连续扩展，国产化算力曾经成为海内年夜模子企业的模型须要抉择。虽然海内诸多企业在通用AI芯片方面早有结构，口技在芯片量产、百川生态构建、使用拓展范畴也取得了不错进展，但基于国产算力练习年夜模子，仍面对着生态设置装备摆设、老本节制、能效比优化等拦阻。是以算力完全自立，仍需求芯片厂商、年夜模子企业、学术科研机构等多方配合起劲。鹏城试验室暗示，鹏城试验室秉持“国产算力+自立年夜模子”的立异理念，依托“鹏城·脑海”开源结合体，宽泛结合企业、高校和科研院所，致力于经由过程开源群智的互助模式共享资源，为千行百业插上人工智能的“党羽”。百川智能是海内当先的年夜模子企业，自建立以来始终在鞭策年夜模子研发和开源生态设置装备摆设，其开源和闭源模子在划一量级评测中都取得了优秀成就。两边在互助历程中可以或许充实阐扬各自上风造成协力，更好地满意我国不停增加的智能化转型需要，助力中国人工智能财产疾速崛起。百川智能暗示，百川智能但愿经由过程开源、与互助搭档共创等体式格局助力中国年夜模子立异，昌盛外乡年夜模子生态。鹏城试验室作为战略科技气力的主要构成部门，在国产算力年夜模子研发和使用等方面始终处于海内当先位置。本次百川智能与鹏城试验室互助研发“鹏城-百川·脑海33B”长窗口年夜模子，是国产算力年夜模子技能立异和落地的一次冲破。将来，百川智能将在技能、算力等诸多维度不停深化与鹏城试验室的互助，连续助力外乡年夜模子立异成长。国产算力最长上下文窗口，“鹏城-百川·脑海33B”率先完成国产算力技能冲破在论坛上，百川智能和鹏城试验室别离展示了两边配合研发的“鹏城-百川·脑海33B”年夜模子。“鹏城-百川·脑海33B”的128K长上下文窗口基于“鹏城云脑”国产算力平台练习，将来可进级至192K，是基于国产算力练习的最长上下文窗口。上下文窗口长度对模子理解和天生与特定上下文相干的文本至关主要，是年夜模子的焦点技能之一。凡是而言，更长的上下文窗口可以提供更富厚的语义信息、消弭歧义，可以或许让模子天生的内容更正确、更流利。为了更好地提高“鹏城-百川·脑海33B”上下文窗口的长度和全体机能，百川智能和鹏城试验室对模子举行了全流程优化。在数据集构建方面，接纳邃密的数据组织，完成了段落、句子粒度的主动化数据过滤、抉择、配比，精良的晋升了数据品质；在练习架构上，经由过程NormHead、max-Z-Loss、dynamic-LR等自研或业界当先的模子练习优化技能，对Transformer模块举行深度优化，确保模子收敛不变的同时，周全晋升了模子优化效率和终极效果；此外，还在全生命周期的模子东西集中，经由过程与北京年夜学王亦洲、杨耀东教员团队的互助，研发了带安全约束的RLHF对齐技能，有用晋升了模子内容天生品质和安全性。将来，两边将在国产算力年夜模子技能立异和模子落地等方面继承增强互助，并与相干范畴的上风单元如北京年夜学、清华年夜学等开展协同立异，助力外乡年夜模子在模子机能、技能立异方面连续冲破，鞭策外乡年夜模子进一步开源开放，为更多行业智能化转型提供帮忙和撑持。浏览残剩全文杜鹃花海茶飘喷鼻2025年4月10日，安徽省芜湖市有为市昆山镇三公山茶叶莳植基地，千亩平地家养杜鹃在青翠的茶园之间灿艳绽开，竹苞松茂，琳琅满目2025-04-1015:13泰州姜堰:科技立异赋能财产成长近年来，江苏省泰州市姜堰区以科技立异赋能财产成长、以财产立异动员技能冲破，连续优化营商情况，迭代进级“堰商汇”数智亲商办事平台，厚植平易近营经济成长膏壤，以高品质办事促成平易近营企业高品质成长。2025-04-0618:06慕田峪长城山花烂漫2025年4月1日，北京怀柔慕田峪长城表里山花怒放，漂亮的春花把古长城妆扮的多姿多娇，如同春天里一幅壮美的风光画2025-04-0215:44引江济淮菜巢线复航2025年4月1日，船舶飞行在安徽省合肥市庐江县境内的引江济淮航道上，标记着菜子湖湿地留鸟越冬季禁航竣事，菜巢线恢复通航2025-04-0115:40太湖之滨春光如画2025年3月31日，江苏姑苏吴中区光福镇，太湖之滨，桃花、樱花、油菜花等竞相绽开，生态柔美，春光如画2025-04-0115:31用镜头记载都会更新青岛首届“百家媒体看转变”勾当圆满终结用镜头记载都会更新青岛首届“百家媒体看转变”勾当圆满终结2025-03-2010:14“昭君杯”首届天下老年独唱年夜赛在京启动"昭君杯"首届天下老年独唱年夜赛在北京年夜剧院正式启动2025-03-1916:10金沙江特年夜桥抢抓施工2025年2月25日，云南省昭通市绥江县，新市金沙江特年夜桥施工现场，工人正加紧施工。2025-02-2615:41梅花绽开报春来2025年2月7日，重庆市巫山县曲尺乡月明村一年夜片梅花竞相开放、灿若彤霞，旅客和市平易近前来嬉戏打卡，尽享春日的欢愉和舒服2025-02-0814:52非遗进景区助推文旅交融2025年2月5日，福建省福清市石竹山风光区，一场非遗英歌舞、建瓯挑幡等非遗演出正在举行，让旅客感触感染中华优异传统文明魅力，富厚景区文明内在和旅游质量2025-02-0615:55湿地公园生态美2025年1月20日，江西省赣州市章贡区都会中心公园内，游船与湖水、植被、高楼彼此映托，出现出一幅冬日多彩漂亮生态画卷2025-01-2015:30盐湖绽开“硝花”景不雅2025年1月16日，受高温气候影响，山西省运城盐湖呈现冬季怪异的“硝花”景不雅，水面上的硝花形态万千晶莹剔透，琳琅满目。2025-01-1615:56《龟兹》：从千年壁画穿梭而来的魂灵之舞一位“行者”行走在广袤的戈壁中，讳饰着绝世的脸蛋，一壁“古镜”掩埋于厚重的沙下，刻满了时间的裂缝。2025-01-1317:25雪后丛林裹银装2025年1月9日，重庆市酉阳土家族苗族自治县桃花源丛林公园白雪皑皑，雪景如画2025-01-0915:24关爱卡暑假公益行助力云南各族青少年儿童胡想起航关爱卡暑假公益行助力云南各族青少年儿童胡想起航2025-01-0814:42集年夜原游览专列首发2025年1月5日，在山西太原南站开往呼和浩特东站的D4022次列车前，旅客自拍合影。2025-01-0616:01生态田园2024年12月8日，广西梧州岑溪市岑城镇木榔村，生态田园中阡陌纵横线条分明，冬韵如画。2024-12-1016:48冬日景美2024年12月10日，贵州省黔西市绿化白族彝族乡年夜海子村，青山环抱树木碧绿，组成一幅漂亮的生态画卷。2024-12-1016:40色调斑斓映苏州2024年12月6日，古城姑苏陌头，成片的银杏、红枫等树木色调斑斓满目缤纷，成为一道诱人的风光。2024-12-0615:48“漂亮经济”助力村落振兴2024年12月6日，初冬时节，山东省青岛市即墨区灵山街道花草莳植基地的年夜棚里一片忙碌，莳植户忙着管护花草。2024-12-0615:48加载更多