爱看文学网

手机浏览器扫描二维码访问

第212章 出人意料地大模型2(第1页)

很快就发现了问题的所在。自我演化程序基本没有变化,但是甲骨文识读的程序有一个地方发生了了很大的变化。

最初班行远设计的识读程序包含了一个具有100万个参数的模型,这个模型也是识读功能的核心所在。在最新的版本中这个模型的规模已经膨胀到让班行远咋舌的10亿个参数。

班行远把所有历史版本的代码调出来,发现这个识读程序的演化过程就是模型规模越来越大的过程。虽然也有不少规模变小的版本迭代,但是很快就又向着规模越来越大的方向发展。

稍一思考就明白了是怎么回事。模型的规模大的话,包含的资料就多,就更能生成准确率高的报告。演化程序其实不知道规模大好还是规模小好。在最开始的阶段把规模调大后程序根据小组的反馈判断出这样效率更高,于是就开始向模型规模越来越大的方向发展。

大到一定程度后程序判断单次报告的生成时间有较大增加,默认效率降低就自主降低模型的规模。模型变小后生成速度快了,但是准确率有了更大的下降,演化程序判断还是规模大的模型效率更高。于是又一次朝向大规模模型演化。就这样周而复始,在演化的过程中程序确认大模型更有效,于是模型的规模以指数的形式变大。

模型变大后对算力需求以更快的速度变大,只不过在最初的阶段并不明显。当模型的规模超过一定阈值的时候,报告的准确性也随着提高,哪怕是生成速度已经很慢了,演化程序仍然没有调小规模,因为综合效率仍然更高。

10亿参数规模的模型,班行远有些头疼。想了一下把两个人工智能项目组的人都叫了过来,他要把甲骨文人工识别的程序移植到蛋白质机构预测的计算中心上。

两个项目都用到了研究院设计的加速卡,只不过甲骨文这边的规模小得多,算力和蛋白质那边比的话根本不值一提。查了一下后台,没有三方单位使用算力,班行远立刻让项目组成员暂停了所有的计算任务,让他们把甲骨文识读程序切换到计算中心。

程序在计算中心运行后,班行远并没有让程序开始计算,而是把西方各种文字的字典和语言学资料喂给程序,程序很快就消化完毕。班行远暗赞,算力强大就是不一样。

随后在两个项目组不解的眼神中班行远问出了问题:“请告诉我英文单词you的起源与演变。”

这些计算机专家看着大屏幕上滚动出来的文字一个个张大的嘴巴。

“嗯,用户之前问了中文“公”字的起源和演变,现在又转向英文单词“you”的起源和演变。看来他对语言的历史发展很感兴趣,可能在学习语言学或者对词源学有好奇心。我需要先确认用户的需求……”

“英语单词"you"的起源和演变过程展现了日耳曼语言中第二人称代词的复杂发展轨迹,以及社会文化对语言形态的深刻影响。以下是其历史演变的分阶段解析:

一、古英语时期(5-11世纪)

……”

等结果输出完成后,会议室一片安静。过了一会儿一位专家站了起来激动地说:“院长,这是……”

班行远点了点头说:“虽然我不太相信,但是看来正是你想的样子。”

随后就开始了热烈的讨论,班行远写的核心算法其实是有这个功能的,但是没想到模型规模变大后会出现这样的变化。很显然已经不能单纯用在甲骨文识别上了,用这些专家的话讲那完全是在犯罪。

要增大用途的话,模型规模还要增加。到了这个规模,模型规模和算力需求之间已经不成比例。模型增加一倍,对算力的需求可能需要增加十倍百倍。现在需要确定的是计算中心支持多大的用户规模。

然后开始多用户测试,两个人同时提问、三个人、四个人……当同时提问人数超过10个时就能够感觉到明显的速度变化。

这可不行!这个程序太有用了,这些专家已经想到了无数的用法,才够10个人同时用够干什么。同时叹了一口,算力!

班行远停止了程序的运行,恢复蛋白质方面的计算。

班行远说:“都说说吧,这个程序本来就是设计的用来识读甲骨文的,能理解语义这是前提条件。但是模型规模达到这种程度后发生的变化确实出乎了我的预料。程序演化算法核心是基于生物进化原理,通过对输出结果的反馈制造一种类似于自然选择的演化压力。我看了一下演化程序自己发展出了类似神经网络、卷积之类处理方式,这和目前的人工智能发展方向是一致的。但是但是那个大模型还是头一次看到,似乎还没有出现这种人工智能跟大模型结合的报道。”

“虽然我们只是演示了文字方面的问答,但是显然这个人工智能的应用范围要大得多,可以用在各种方面。研究院组件专门的小组吧,对相关理论和应用进行深入研究。等级……等级和光刻机项目是一样的。”

“都有说说下一步怎么干吧。”

一位专家说:“算力,要研究这个肯定需要极为强大的算力。现在使用蛋白质的算力中心仅仅是语言学方面的内容已经捉襟见肘,应用范围扩大的话需要训练模型肯定不够用。需要新建计算中心。”

班行远考虑了一下,摇了摇头:“这个行不通,首先泰熙肯定不会批的,蛋白质项目每个月一百多万的电费就够她整天跟我念叨了,这要是再建一个她得和我拼命。”

“而且使用现有的加速芯片处理这个大模型人工智能的运算完全是浪费。这款加速芯片是为了研究院高精度的科学运算设计的,针对FP64高精度浮点运算进行了专门的优化。大模型人工智能撑死用到FP32的精度,我估计大多数场景用FP16半精度就够了,很多场景甚至FP4、FP8甚至是8位的整数运算就能覆盖了。同样规模的芯片针对FP64高精度浮点运算优化和针对低精度运算优化在算力上可不是简简单单的翻倍。”

喜欢半岛远行请大家收藏:()半岛远行

调查我孙连城,你侯亮平够格吗?  盗墓:无故失忆后我直接发癫  盗梦空间!玄学团宠勇闯天下  名门医女要退婚  成为烘焙师的女孩  妾室绝美又清醒,太子逐步沦陷  文豪觉醒之路:有田笔记创作日志  原神:什么,要救的是芙卡洛斯  奥特曼之迪迦传说  高冷学霸已被我拿下  大明虾亲王  青牛传  四合院:小透明的逆袭之路  重回八零,俏媳妇改造废物老公  这个本丸是不是有哪不对?  七零年代之偷渡香江  离谱!你萌系灵植比龙系还猛?  综影视:女配恋爱手册  风武秦殇  公路求生:我能听到提示  

热门小说推荐
都市无敌战兵

都市无敌战兵

枪王之王任务失败回归都市,然而,等待他的却是相恋八年女友的背叛同学的奚落,甚至,就连保安都瞧他不起峰哥的脸也是你们这群人打的起的?...

重生宅神

重生宅神

意外重生去韩国的船上,做为来自中国的交换生,前世的宅男,他这一世依旧打算将宅男这份神圣的职业坚持到底。即便是宅男,重新来过咱也要肆虐韩国娱乐圈,做一个玩转融和娱乐圈的屌炸天的超级宅男。必备技能随身宅神小精灵从全智贤韩彩英金泰熙开始,孙艺珍河智苑韩佳人t-妍宋茜允儿小贤帕尼谁都别想逃出咱...

九零大院糯团子

九零大院糯团子

v章评论,随机红包早9点更新下本→灶神崽崽穿成九零小厨神求收藏预收→食梦貘穿成反派他妹求收藏本文文案孤儿宋乔曦穿书了,穿成90年代大院糯团子,被全家放心尖上疼着。然而这只糯团子是黑心芝麻馅,外白内黑,原主作天作地,最后家破人亡。得知剧情的宋乔曦拒绝再当作妖熊孩子,做个五讲四美德智体美劳全面发展的乖崽不香吗?爸妈惊讶地发现,被老人惯坏的团子不熊了?后来,宋爸成为媒体大佬,宋妈评上正教授,两口子把变得格外懂事的闺女宠成小公主。糯团子也慢慢长大,愈发出落得明艳动人,她名校毕业,被圈内大佬称为最具影响力摄影新星。楚尽是书中美强惨反派,父母双亡住锅炉房。可未来的大反派才七岁,是个衣衫破烂满腿疤痕的自闭小可怜。宋乔曦摸出兜兜里的喜乐,双手举高高,给你喝,甜甜的,我们当好伙伴好吗?富豪排行榜前列的互联网大佬楚尽,堪比超模的身材颜值令无数网友和名流少女向往,没多久年轻大佬被扒出早婚,网上顿时哀嚎一片。而楚尽大大方方晒出一张结婚证你是我世界的光宋乔曦。她是他的小太阳,是他心中最柔软的地方。鬼马精灵吃货团宠x逆袭高冷寒门贵子食用指南1一群可可爱爱爱的小盆友,在大院儿快乐成长,有吃吃吃的情节。2大院儿生活日常,节奏偏慢,温馨治愈甜宠文,女主真小孩,会长大。3甜甜宠宠没有脑袋,穿书背景,九零年代架空,逻辑为剧情感情服务。41v1he青梅竹马预收灶神崽崽穿成九零小厨神文案九天司命灶王府最受宠的灶神崽崽念念,打小就吃腻了各种山珍海味贡品,闻到佛跳墙就爬墙逃跑,看到八珍糕就撅嘴拒绝一天,念念意外穿成灰姑娘带球跑九零年代文里的球,原书中妈妈和偏执霸总爹爹吵架,带球跑了。几年后霸总爹找到娘俩时,她们挤在破烂出租屋处境凄凉。此时,妈妈刚生下念念,独自一人开个小饭桌,拉扯吃货闺女。后来,小饭桌摇身一变,成为本市最红大酒楼,娘俩从出租屋搬到大别墅,日子过得红红火火!坊间传闻,酒楼主厨是灶神转世,厨房之神。吃了她家的菜能保阖家平安,驱散霉运。某天,霸总爹满脸阴郁走进酒楼只见流理台旁的板凳上,站着个身穿迷你主厨服,齐刘海花苞头,长睫毛大眼睛,粉雕玉琢的小糯团,团子看起来五六岁的样子,小手一挥,在后厨坐镇指挥,临危不乱。再往后厨一瞅嚯!洗菜小工是某餐饮大佬家的继承人!嘿!二厨不正是刚荣获厨师争霸冠军的名厨吗?大厨?竟然是之前煎个鸡蛋能成为核爆现场的厨渣自己的逃跑娇妻?!小厨神辛苦啦,看我给你买了什么?霸总闻声回头,愣在原地。死对头楚家的小太子,正手捧糖葫芦,一颗颗耐心地喂给小糯团,还让她把核吐到他掌心?!九零年代美食甜宠文,温馨日常。主崽崽视角,小灶神念念崽崽是团宠,会长大。c青梅竹马he,手牵手一起长大,从糖葫芦到钻戒。预收食梦貘穿成反派他妹文案食梦貘诺诺穿到书中,成为寄养在大反派楚渊家的便宜妹妹。原书中,楚渊自幼被噩梦折磨,长年精神衰弱,人不变态才怪!他把妹妹宠成作精小公主,却在妹妹21岁那年强迫她和死对头联姻。兄妹二人从此相恨相杀,炮灰收场。穿到寄养在楚渊家第一天,诺诺望着精心布置的公主房,饿得浑身发软。粉嫩少女嘟着樱唇,委屈巴巴诺诺要吃梦,要吃噩梦!隔壁楚渊房间,飘来诱人味道的噩梦。诺诺推开房门,赤脚爬上大床。望着楚渊在月光下的绝美容颜,不争气的口水飞流直下。嗷呜一口,她吞掉他的痛苦之源,打了个软软的嗝。甜美仙气进入楚渊体内,他破天荒一夜无梦,甜睡到天明。从此,诺诺每晚都跑来楚渊房间加餐。吃着吃着,诺诺发现自己解锁造梦技能,成为华国最有价值最年轻的心理治疗师!之后她拥有了独立心理工作室,又开了家全息梦境体验馆。左手理想右手小钱钱,两手都要抓两手都要硬!而大反派楚渊,虽接手濒临破产的庞大家业,竟气运爆棚远超男主,人也不那么变态(bhi)了?他放弃了心爱的反派大业,除了宠妹就是一心搞事业,助力楚家重回富豪榜!只是,经过诺诺的梦境治疗(敞开肚皮吃),变得精神倍棒的楚渊,看她的眼神变得怪怪的?脸红心跳食梦貘蜷缩在墙角难道,自己的秘密被发现了?面不改色大反派捏住她下巴怎么,光吃我一个人的还满足不了你?爱吃噩梦的千岁美少女食梦貘x占有欲炸裂重度宠妻狂魔霸总可爱食梦貘,在线吃噩梦!...

海贼之无敌仙火系统

海贼之无敌仙火系统

恶魔果实猎取系统,请不要太霸道。萧华很头痛,手上的恶魔果实太多,他挑花了眼也不知道选什么好。无论是体术霸气恶魔果实能力还是剑术枪术,这不是一个一招鲜就可以横行的世界。萧华的巅峰之路还有很远,自然系果实是要有的,六式也要有的,霸王色霸气铁定要有的这是一个主角复活老婆的故事,跟一般的海贼故事有点不一样。(欢迎大家加入仙火盟qq群146943358)...

反哺母星

反哺母星

上古大能铸九转轮回棋局,用以抵御魔族侵袭亿万残魂化作救世灵珠,可自行挑选天命之人转世八次全部以失败告终,仅剩一回希望渺茫。胜可保永世太平,败则星河尽毁!万千重担系于王建斌一身,但他却被蒙在鼓中对比毫无所知。且看王建斌如何游钓星际获取能量反哺母星且看他最终是否能够打破命运的桎梏驱逐魔族!...

每日热搜小说推荐