大模型的最大bug,回答正确率几乎为零,GPT到Llama无一幸免
我让 GPT-3 和 Llama 学会一个简单的知识:A 就是 B,然后反过来问 B 是什么,结果发现 AI 回答的正确率竟然是零。这是什么道理?近日,一个叫「逆转诅咒」(...
将混合专家推向极限:只需更新0.32%的参数就能完成模型微调
众所周知,大模型的训练成本很高,但其实对预训练后的模型进行微调也需要一定的成本,还好我们已经有了 (IA)³ 或 LORA 等一些参数高效型微调(PEFT)方法。近...
苹果创新大模型压缩技术,大模型有机会塞进手机里了
大型语言模型(LLM),尤其是生成式预训练 Transformer(GPT)模型在许多复杂的语言任务上表现出了出色的性能。这一突破使人们希望在移动设备上本地运行这些 ...
操作系统级ChatGPT爆火,实测让电脑自己整理桌面,Mac/Windows/Linux都支持
本文经AI新媒体量子位(公众号ID:QbitAI)授权转载,转载请联系出处。 操作系统级ChatGPT,微软还没搞出来,被开源项目先实现了——支持Windows、Mac、Linux三...
GPT-4也难逃“反转诅咒”!新研究发现:大模型存在推理缺陷,知道“A是B”推不出“B是A”
本文经AI新媒体量子位(公众号ID:QbitAI)授权转载,转载请联系出处。 大模型明知道“你妈是你妈”,却答不出“你是你妈的儿子”??这么一项新研究,刚一发表就...
只需1%参数,效果超越ControlNet,新AI绘画控制大师来袭
本文经AI新媒体量子位(公众号ID:QbitAI)授权转载,转载请联系出处。 “新·AI绘画细节控制大师”ControlNet-XS来啦!敲重点的是参数只要原始ControlNet的1%。...
预定诺奖?DeepMind创始人斩获「诺奖风向标」拉斯克奖,AlphaFold成「AI for Science」标杆
9月21日,生理学和医学领域的顶级大奖拉斯克(The Lasker Awards)奖揭晓了!拉斯克奖设有四个不同的奖项:基础医学研究奖、临床医学研究奖、公共服务奖以及...
预定诺奖?DeepMind创始人斩获「诺奖风向标」拉斯克奖,AlphaFold成「AI for Science」标杆
9月21日,生理学和医学领域的顶级大奖拉斯克(The Lasker Awards)奖揭晓了!拉斯克奖设有四个不同的奖项:基础医学研究奖、临床医学研究奖、公共服务奖以及...
投身大模型创业4个月后 光年之外联合创始人王慧文离岗入院就医 现已辞任美团董事
日,有消息称,美团联合创始人、光年之外联合创始人王慧文近期遭遇个人健康问题,目前离岗入院就医。《科创板日报》记者从多方信源了解到,王慧文目前正在医...