天天最新：谷歌最新 AI 大语言模型 PaLM2 数据量扩充 5 倍
北京时间 5 月 17 日早间消息，谷歌上周发布的最新大语言模型使用的训练数据，几乎是 2022 年的上一代模型 5 倍。得益于此，该模型在编程、数学和创意写作方面表现更好。
(资料图片仅供参考)
谷歌是在其 I / O 开发者大会上发布最新通用大语言模型 PaLM2 的。内部文件显示，该模型采用了 3.6 万亿个令牌（token）进行训练。令牌指的是单词串，这是训练大语言模型的重要基础，因为这可以教给模型如何预测字符串中可能出现的下一个单词。
之前版本的 PaLM 发布于 2022 年，当时使用的令牌为 7800 亿个。
虽然谷歌很希望展示其人工智能技术的实力，以及嵌入搜索、电子邮件、字处理和电子表格后的效果，但该公司却不愿发布其训练数据的规模和其他细节。微软支持的 OpenAI 也对其最新的 GPT-4 大语言模型的细节信息保密。
这些公司表示，之所以不披露这些信息，是出于商业竞争考虑。谷歌和 OpenAI 都在努力吸引想要用聊天机器人代替传统搜索引擎，从而直接获取答案的用户。
但随着人工智能军备竞赛日趋白热化，相关研究人员也呼吁企业加大透明度。
自从发布 PaLM2 之后，谷歌一直表示新的模型比之前的大语言模型更小，这就意味着该公司的技术效率得以提升，但却可以完成更加复杂的任务。内部文件显示，PaLM2 基于 3400 亿个参数训练 —— 这项指标可以说明该模型的复杂程度。最初的 PaLM 则基于 5400 亿个参数训练。
目前，谷歌尚未对此置评。
谷歌在一篇关于 PaLM2 的博文中表示，该模型使用了一种名为“计算机优化扩张”的新技术。这就让大语言“更高效、整体性能更好，包括加快推理速度、减少参数调用和降低服务成本。”
在宣布 PaLM2 时，谷歌证实了此前的媒体报道，计该模型针对 100 种语言进行训练，可以执行更广泛的任务。它已经被用于 25 项功能和产品，包括该公司的实验性聊天机器人 Bard。按照从小到大的规模划分，该模型共有 4 种，分别是壁虎（Gecko）、水獭（Otter）、野牛（Bison）和独角兽（Unicorn）。
根据公开披露的信息，PaLM2 比现有的任何模型都更加强大。Facebook 在 2 月份宣布的的 LLaMA 大语言模型采用 1.4 万亿个令牌。OpenAI 上一次披露 GPT-3 的训练规模时表示，它当时基于 3000 亿个令牌。OpenAI 今年 3 月发布 GPT-4 时表示，它在许多专业测试中展示出“与人类媲美的表现”。
LaMDA 是谷歌两年前推出的一个对话型大语言模型，在今年 2 月还与 Bard 一同对外宣传。该模型基于 1.5 万亿个令牌训练。
随着新的人工智能应用快速进入主流，围绕底层技术的争议也越来越激烈。
谷歌高级研究科学家艾尔・迈赫迪・艾尔・麦哈麦迪（El Mahdi El Mhamdi）于今年 2 月辞职，主要原因就是人工智能技术缺乏透明度。本周二，OpenAI CEO 山姆・阿尔特曼（Sam Altman）出席美国国会针对隐私和技术举行的听证会，他也认为需要设立一套新的制度来应对人工智能的潜在问题。
“对于一种全新的技术，我们需要一套全新的框架。”阿尔特曼说，“当然，像我们这样的公司应当为我们推出的工具承担许多责任。”
关键词：
推荐阅读
电脑防辐射产品有哪些?有哪些防辐射方法?
电脑防辐射产品有哪些?1、保护屏电脑的电磁辐射大多在短波和微波之间，电脑辐射防护屏可以起到一定的防护作用。据测试，电脑防辐射屏至少可 【详细】
中国有机产品认证的特点 中国有机产品认证存在的问题
中国有机产品认证的特点不要使用化学杀虫剂、化肥、生长调节剂、饲料添加剂等合成物质。生产遵循自然规律，与自然和谐相处，采用一系列生态 【详细】
世界最贵房车有哪些 福特F550房车怎么样？
世界最贵房车有哪些1 凯迪拉克凯雷德ESV XXXL超级加长房车如果你是那种需要一架空中喷气式飞机和一艘水上游艇的24 × 7大型忙碌者 【详细】
DART小行星任务已开始 有6次自我毁灭航天器介绍
DART小行星任务已开始斯科特·博尔顿曾与两艘飞船合作，这两艘飞船以确保陆地微生物永远无法在太阳系外站稳脚跟的名义自我毁灭。冒着最恶劣 【详细】
十大日系车排名 日系车有怎样的优缺点?
十大日系车排名雷克萨斯UX雷克萨斯UX，官方宣称为紧凑型SUV，但实际上它只是一款小型SUV。UX和C-HR都采用TNGA架构，因此具有很好的可操作性 【详细】
相关新闻
天天最新：谷歌最新 AI 大语言模型 PaLM2 数据量扩充 5 倍
上周发布的最新大语言模型使用的训练数据，几乎是2022年的上一代模型5倍。得益于此，该模型在编程、数学和 【详细】
微软 Win11 安卓子系统 2304 更新：可分配内存大小
在此附上WSAVersion2304（2304 40000 5 0）新版本更新日志如下：在WSA上验证应用安装包：用户在安装应用之 【详细】
OPPO解散造芯团队，张江REIT“踩雷”！最新回应_每日热闻
作者丨见习记者黎雨辰编辑丨姜诗蔷城门失火，“池鱼”何去何从？5月12日，OPPO宣布关停旗下公司哲库科技， 【详细】
从250万到千亿，比亚迪创始人王传福和表哥吕向阳的传奇故事
他们的合作，让比亚迪从一个小小的手机电池厂发展成为全球领先的新能源汽车、动力电池和半导体企业，市值超 【详细】
阿里达摩院停止自动驾驶研发，团队全部并入菜鸟_每日热门
5月15日，市场有消息称，达摩院自动驾驶团队全部并入菜鸟集团，达摩院本身不再保留业务和团队。15日上午， 【详细】
新研究：冰河时期人类曾从中国迁徙到美洲
美国《细胞报告》杂志日前发布的一项新研究显示，通过线粒体DNA（脱氧核糖核酸）样本研究，研究人员确定了 【详细】
苹果公布认知辅助新功能，今年晚些时候推出_要闻
从今年晚些时候起，认知障碍用户将可通过AssistiveAccess更轻松地独立使用iPhone与iPad；失语用户将可通过 【详细】
热讯：贤五行属什么(贤字五行属什么)
本文目录一览：1、贤字的五行属性2、贤字五行属什么起名贤字的寓意和意思3、贤字五行属什么4、贤五行 【详细】
物种灭绝泛指什么 冰河时代动物大灭绝咋回事
物种灭绝泛指什么物种灭绝泛指植物或动物的种类不可再生性的消失或破坏，称为物种灭绝。一株植物枯萎，一只动物死亡，有时并不仅仅意味着 【详细】
最酷的电子产品 10款最酷的高科技电子产品
最酷的电子产品 10款最酷的高科技电子产品1、续航8个月的智能手表法国，智能硬件设备制造商Withings在2015年国际消费电子展上发布了其最新 【详细】
人工智能是什么介绍 人工智能应用简介
人工智能是什么介绍人工智能是以深度学习技术为基础的，深度学习技术的爆炸离不开数据和计算能力的发展。作为以视觉技术产品为核心进行的 【详细】
天天速看：铜二期即将投产，产能再上台阶
第一时间提供各大券商研究所报告，最大程度减少个人投资者与机构之间信息上的差异，使个人投资者更早的了解 【详细】
恐龙灭绝时间是什么 恐龙是怎样灭绝的?
恐龙灭绝时间是什么我们都知道，地球已经存在了47亿年。在这漫长的时间里，它也孕育了无数生命，而人类只是无数生命中的一个。根据科学家的 【详细】
电脑防辐射产品有哪些?有哪些防辐射方法?
电脑防辐射产品有哪些?1、保护屏电脑的电磁辐射大多在短波和微波之间，电脑辐射防护屏可以起到一定的防护作用。据测试，电脑防辐射屏至少可 【详细】
嫦娥五号月球钻取采样 嫦娥五号的组成和结构
嫦娥五号月球钻取采样嫦娥五号完成月球钻取采样及封装，具体过程一起来看看：北京时间12月2日4时53分，探月工程嫦娥五号号着陆器和立管组件 【详细】
环球实时：中关村西城园区招聘会
（以下内容来自公众号：西城人社）业美就在西城西城区现场招聘会5月18日上午，业美就在西城——西城区现场 【详细】
玫瑰形珊瑚暗礁被发现 玫瑰形珊瑚暗礁简介
玫瑰形珊瑚暗礁被发现联合国教育、科学及文化组织(教科文组织)的潜水员发现并绘制了隐藏在南太平洋法属波利尼西亚最大岛屿塔希提岛海岸外的 【详细】
油茶的种植需要什么 油茶的种植注意事项
油茶的种植需要什么油茶作为榨油的首选品种，近年来市场反应还是不错的，很多人种植。但是油茶其实也不是那么好种的，油茶的种植需要注意的 【详细】
5月16日伦敦LME锌锭夜盘行情
5月16日，伦敦市场锌锭收盘价2498美元 吨，价格下跌36美元 吨，跌幅1 42%。5月16日，上海期货市场夜盘锌锭 【详细】
全球报道:如果您想在天猫网上开设一家网店，以下是一些步骤和注意事项
根据天猫网站的说明，审核时间通常会在24小时内完成，但也有可能需要更长时间。这包括上传商品信息、制定价 【详细】
