游戏电视苹果数码历史美丽
投稿投诉
美丽时装
彩妆资讯
历史明星
乐活安卓
数码常识
驾车健康
苹果问答
网络发型
电视车载
室内电影
游戏科学
音乐整形

Meta语言大模型遭泄露,无意开启了GPT平替狂潮?

  谁能想到,一场泄密事件,竟成了引发ChatGPT平替狂潮的开端。
  事情的最开端,是在今年2月24日,Meta发布大语言模型LLaMA(中文意为羊驼),因其参数量远小于GPT3,效果却仍能优于后者一度在圈内引起热议。
  当然,与近些年的大模型研发趋势一样,虽然Meta声称LLaMA是开源的,但仍需要研究人员申请并进行审核。
  但在一周之后,日本论坛4chan(相当于国内贴吧)上却突然出现一条帖子,上传了一个LLaMA模型源代码的种子文件,下载后大小约为219G,瞬间一石激起千层浪,下载量很快超越千次。
  更有戏剧性的是,这个种子链接还被合并到了LLaMA的官方GitHub页面,甚至还得到了部分项目维护者的批准,真的可以点击即用。此后,4chan上还有用户为那些希望自主部署该模型的人提供了详细教程,说明了如何获得模型,如何添加修改后的模型,如何进行更有效的推理等等。
  对此,Meta官方在3月6日称,仍将继续向通过审核的研究人员给予LLaMA官方通道,同时,也开始着手控制LLaMA泄露源代码的传播。之后,开源AI平台HuggingFace的CEO就曾站出来表示,禁止用户上传LLaMA泄露源代码。
  但接下来,这场史诗级泄露事件的火,却烧到了令人意想不到的方向
  3月15日,斯坦福发布语言大模型Alpaca,模型由LLaMA微调而来,仅用了52k数据,其性能约等于GPT3。5,且训练成本还不到600美元。
  3月23日,AI公司Nebuly开源了基于LLaMA的模型ChatLLama,允许用户基于预训练的LLaMA模型构建个性化的ChatGPT服务,且训练速度更快,成本更低。
  3月29日,加州大学伯克利分校在其ColossalAI项目下发布了ColossalChat,这一模型通过RLHF(一种强化学习方式,类似于奖励机制),基于LLaMA预训练模型提供了ChatGPT服务。
  同天,AI公司AgeofAI推出了语言模型FreedomGPT,其基于斯坦福的Alpaca进行开发,号称是去掉了安全、伦理道德过滤器的ChatGPT版本。
  3月31日,加州大学伯克利分校、卡内基梅隆大学、斯坦福大学和加州大学圣地亚哥分校的研究人员开源了语言模型Vicuna,这是一个与GPT4性能相近的LLama的微调版本,训练成本仅有300美元。
  4月3日,伯克利的伯克利人工智能研究院(BAIR)发布了Koala,这一模型同样是一种微调过的LLama版本,在超过一半的情况下与ChatGPT性能相当。
  大批LLaMA类研发的推出与LLaMA模型的源代码泄露到底有无直接关系,不得而知。但无论如何,以LLaMA模型被迫开源为关键时间点,基于它开发的模型与服务,开始了爆炸式的增长。
  有趣的是,似乎是为了呼应最初Meta家的LLaMA模型的一种含义大羊驼,之后斯坦福选择了相似含义的Alpaca(羊驼),之后又出现了Vicuna(小羊驼)对此,有人调侃,再开发下去,羊驼家族的名字都快不够用了。
  对此,有人笑称这场泄露事件促进了大批ChatGPT式服务的产生,甚至促进了AI民主化,可谓大功一件;也有人表示最初的泄露本就是Meta的自导自演,为的是最大限度地扩大其技术影响力;还有人认为,这场泄露事件背后也有当前大模型领域中开源VS闭源(或通过API进行分发)的两条道路之争
  争论不断,热议纷纷。当前,LLaMA项目已在GitHub收获17。4k星,而基于它所诞生的羊驼家族,还在一路狂奔。
  编译综合:南都记者杨博雯

祝福祖国繁荣昌盛今天是祖国母亲的生日,我作为华夏儿女,真诚地祝福我的祖国繁荣昌盛,民族富强,人民安康!放眼神州,祖国大江南北,山川河流,长城内外,城市高楼林立,车水马龙,人们喜笑颜开,农……感冒时用8种自然的方法疏通你的鼻子鼻塞是感冒最恼人的症状之一。我们知道它会让你沮丧,但这就是为什么你需要反击,而不是让寒冷控制你的生活。从热饮到吸入蒸汽,你可以在家里做很多事情,而不必非得求助于药物。小编……TINHIFIP1Plus千元级平板耳塞,感受比动圈更宽松耐得益于技术的进步,平板不再是大耳的专属,越来越多的厂家都开始尝试平板耳塞。记得接触过第一款平板耳塞是奥帝兹iSINE是20,虽然这款耳塞在圈内的知名度非常高,而且价格卖得也挺贵……今天10月12日柴油92号95号汽油价格表,国内油价或将大幅大家好,我是有料财经!我们来看一看今日最新的国内油价调整信息。今天是2022年10月12日,国际市场原油价格两连跌,美国原油价格跌破90美元。本轮国内油价调整周期迎来开门……CCTV5直播!辽宁男篮VS北京首钢,杨鸣胸有成竹,解立彬无当CBA公布新赛季赛程的时候,都认为辽宁男篮和北京首钢的对话会是一场重头戏,然而在揭幕战北京首钢就爆冷输给了福建男篮,而且输的还是那么的彻底,面对联防解立彬没有任何办法。而辽宁……走进三坊七巷到福州,那肯定是要去三坊七巷的。因为三坊七巷对于福州来说,就像夫子庙对于南京、田子坊对于上海、南锣鼓巷对于北京的意义三坊七巷是福州老城区经历了建国后的拆迁建设后仅存下来的……南京二手房成交量连续两个季度保持正增长,三季度新建商品住宅价来源:【交汇点新闻客户端】交汇点讯1至11月南京全市供应商品房934。21万平方米、销售933。28万平方米,市场交易规模已基本恢复至往年常态化水平,总体与年度目标时序一……深藏在承德的这些大山,该红啦!头条带你乐享河北河北文旅看图识景这么近那么美周末到河北秋日绚烂又到了满山红叶的季节染红大自然的不仅有秋天的红叶还有一座座红色的山峰摄马妍卿……守望先锋归来总监表示对类似堡垒之夜的跨界联动很感兴趣在GamerRant最近的一次采访中,暴雪副总裁兼《守望先锋:归来》负责人JonSpector表达了他对于在即将推出的FPS游戏中进行跨界联动的看法。他说道:我们已经看到……Nature30秒,1亿度来源:【中国科学报】文徐锐KSTAR图片来源:韩国能源技术研究院大多数科学家认为可行的核聚变反应仍需数十年的发展。但关于核聚变的认识和成果都在不断增加。……干货一文搞定uiautomator2自动化测试工具使用Google官方提供了一个Android自动化测试工具(Java库),基于Accessibility服务,功能很强,可以对第三方App进行测试,获取屏幕上任意一个App的任意一……别只看iPhone14,同场发布的AirPodsPro2可能掐指一算,AirPodsPro已经是三年之前的产品了。首批用户,早就已经被虚弱的续航给整不会了。不过好消息是,刚刚举办的秋季发布会,苹果带来了全新的AirPodsP……
穆帅回应罗马CEO他说我会留队?那是他的想法,我没和他谈过直播吧2月23日讯此前罗马CEO贝拉尔迪称确信穆里尼奥下赛季将继续执教罗马,对此穆里尼奥做出了回应。穆里尼奥表示:贝拉尔迪说我会留队?这是他的想法,我并没有就这个话题和C……饮食也可导致痔疮中医教你来应对痔疮虽然是小病,但是对我们的影响还是很大的。日常生活中饮食不当或者便秘都会容易导致痔疮,所以预防痔疮也需要从这两方面来进行。接下来,为大家介绍一下防治痔疮应该怎么做吧。引……在洁净的时光里与往事对坐不知道为什么,最近常常想起我姥娘家那个小山村里的那条小溪。村里有河,河水很清,但是因为姥娘家在山脚下,离河挺远,所以平时洗衣服总是到家附近的小溪里去。记忆中的小溪流……航班换季将至,商旅预订恢复大PK,长沙苏州恢复最快3月26日,民航将迎来夏秋换季航班计划调整。作为疫情后首个新航季,国内航班总量能否超过疫情前、国际航线能否恢复、机票价格会涨会降?民航作为经济的晴雨表,这些与旅客息息相关的问题……这就是数学让孩子从幽默的童书里学到未来科技发展的核心数学看完了《流浪地球2》,孩子问我:如果有一天我们遇到外星人,该如何沟通?刘慈欣说:第一步是可以用数学方式来交流,因为数学是目前知道的唯一宇宙共有规律,相同的数学规律和公式是……不是所有的玫瑰都美丽,离它越远越好有的玫瑰让人苦恼〔玫瑰〕玫瑰花是浪漫和爱的代名词,可是如果玫瑰花长在了身体上就会让人非常苦恼。有一种皮肤疾病叫做玫瑰糠疹,色如玫瑰。表面覆盖鳞屑的常见自限性炎症性皮……肖战刘国梁和解了?15年后首次感恩刘国梁,张继科王曼昱知道吗头条创作挑战赛每次当我们聊起中国的乒乓球,总给人一种感觉是令人骄傲的。不仅因为乒乓球是我们的国球,更是因为这个项目成就了中国队在世界大赛上的各种荣誉。我们在乒乓球项目上拥……精耕专业,厚积薄发,必达智能锁引领行业发展浪潮来源:【海报新闻】近年来,随着中国家庭对安全和隐私保护日益重视,便捷的智能锁也越来越多地出现在中国人的日常生活中。根据洛图科技(RUNTO)《中国智能门锁线上零售市场月度……中国队疑遭无视!全英赛5大看点,世界羽联只字不提国羽!2023赛季世界羽毛球重头戏全英公开赛即将打响。目前,包括中国队、日本队、韩国队等均已开始踏上征程,向冠军发起冲击。值得一提的是,世界羽联官方平台对今年全英赛的几大看点进行了展……怎么挑选速溶黑咖啡?(二)从摩可纳浅谈烘焙度对咖啡风味的影响摩可纳moccona荷兰咖啡品牌,起源于1753年,早期的创始人是做咖啡生意的,但成立公司是19世纪60年代的事情了,属于世界领先的纯咖啡公司,属JDE集团旗下。JDE是……皮肤人体最大的美学器官它勾勒你的模样,传递你的美学信息皮肤是指身体表面包覆于人体肌肉外面的组织,是人体面积最大且具有多种功能的器官,将我们全身的所有部位连为一体,勾勒出人体模样、传递人体美学信息,是人体外在最大的美学载体。人……苹果太狠了!iOS17要把三款iPhone给淘汰掉说实话,苹果现在的iOS16果子真的很想吐槽。因为小毛病、小问题真的太多了!而且更新一次又一次,有些使用上的问题就是没有得到明显改善。就以果子目前用的14Pro为例……
友情链接:易事利快生活快传网聚热点七猫云快好知快百科中准网快好找文好找中准网快软网