为什么人工智能会胡编乱造？
但人们很快发现，就像所有聊天机器人一样，SARAH 有时也会给出错误答案。
在一个案例中，它列出了旧金山一些不存在诊所的假名称和地
【千问解读】
（MIT TR）
世界卫生组织于 4 月 2 日推出了新的聊天机器人，初衷是建立一个由 GPT-3.5 支持的新虚拟形象——SARAH（智能健康助理）全天候提供关于如何健康饮食、戒烟、减压等多方面的生活建议，支持八种不同语言，服务于全球数百万用户。
但人们很快发现，就像所有聊天机器人一样，SARAH 有时也会给出错误答案。
在一个案例中，它列出了旧金山一些不存在诊所的假名称和地址。
世界卫生组织在其网站上警告称 SARAH 的信息可能并不总是准确的。
这种事情又发生了，聊天机器人的胡编乱造已经成为了一个再熟悉不过的梗。
Meta 仅存在了 3 天的科技聊天机器人 Galactica 编造了学术论文，并生成有关太空熊历史的维基文章；今年 2 月，加拿大航空公司被命令执行其机器人客服发明的退款政策；去年，一名律师因提交了由 ChatGPT 捏造的虚假司法意见和法律引文的法庭文件而被罚款。
这种制造虚构信息的倾向——被称为幻觉（hallucination）——是阻碍聊天机器人更广泛采用的最大障碍之一。
为什么会这样？我们为何无法解决这个问题？
魔力八球
为了理解大语言模型为何会出现幻觉，我们需要了解它们的工作原理。
首先要注意的是，编造内容正是这些模型的设计初衷。
当你向聊天机器人提问时，它的回答源自于支撑它的大语言模型。
但这不像在数据库中查找信息或在网络上使用搜索引擎。
如果你打开一个大语言模型，你不会看到现成的信息等待被检索。
相反，你会发现数十亿个数字，它利用这些数字从零开始计算其响应，即时生成新的单词序列。
大语言模型生成的许多文本看起来就像从数据库或真实的网页上复制粘贴而来。
但正如大多数虚构作品一样，这些相似之处纯属巧合。
大语言模型更像是一个无限的魔力八球（一种通过摇晃随机呈现答案的二十面体）而不是一本百科全书。
大语言模型通过预测序列中的下一个单词来生成文本。
如果一个模型看到the cat sat（这只猫坐），它可能会猜on（在......上）。
这个新的序列会被反馈到模型中，模型现在可能会猜the。
再循环一次，它可能会猜mat（垫子）——等等。
这一个技巧就足以生成几乎任何你能想到的文本，从亚马逊商品列表到俳句，从同人小说到计算机代码，再到杂志文章等等。
正如计算机科学家、OpenAI 的联合创始人 Andrej Karpathy 所说：大语言模型学会了梦见互联网文档。
想象一下，大语言模型内部的数十亿个数字，就像一个庞大的电子表格，记录了某些词汇与其他词汇一起出现的统计概率。
这些数值是在模型训练时设定的，在过程中不断调整这些数值，直到模型的预测能够反映从互联网上获取的数太字节文本中的语言模式。
全都是幻觉
这里的要点是，其实所有内容都是幻觉，但只有在我们发现错误时才这么声讨。
问题在于，大语言模型非常擅长它们的工作，以至于它们编造的内容在大多数时候看起来都很合理。
这使得人们很难完全信任它们。
我们能够控制大语言模型生成的内容，以确保它们产生的文本绝对准确吗？这些模型太过复杂，无法手动调整参数。
但是有些研究人员认为，通过训练它们处理更多的文本将会降低错误率。
这一趋势在大语言模型的发展过程中已经显现出来。
另一种方法是要求模型在生成过程中检查自己的工作，将响应逐步分解。
这种方法被称为思维链提示（Chain-of-Thought），已经被证明可以提高聊天机器人输出的准确性。
虽然目前还无法实现，但未来的大语言模型可能会核实它们输出的文本，甚至可以在脱离正轨时回退。
但这些技术都无法完全阻止幻觉的发生。
只要大语言模型是概率性的，那么它们生成的内容就存在一定程度的随机性。
掷 100 次骰子，你会得到一种模式。
再掷一次，你会得到另一种。
即使骰子像大语言模型一样被设定为产生某些模式比其他模式更频繁，结果也不会每次都相同。
即使每 1000 次或 100,000 次中只有一次错误，考虑到这项技术每天使用的次数，累积起来的错误数量也会非常多。
这些模型越准确，我们就越容易放松警惕。
研究表明，聊天机器人表现得越好，人们就越有可能在出现错误时忽视它。
或许对于幻觉最好的解决办法就是管理我们对这些工具的期望。
当那位使用 ChatGPT 生成虚假文件的律师被要求解释自己的行为时，他对发生的事情同样感到惊讶。
我听说了这个新网站，错误地以为它是一个超级搜索引擎，他告诉法官，我没有意识到 ChatGPT 可能会编造案例。
原文链接：
https://www.technologyreview.com/2024/06/18/1093440/what-causes-ai-hallucinate-chatbots/
秦军方阵到底有多厉害是怎么回事？为什么能够横扫六国大军呢
这是一种将军队在野外开阔地上排列成方形阵式。
一般由前军、中军和后军相互嵌套排列而成，方阵平面呈现“回”字形状，可能源于“天圆地方”的宇宙观。
很多学者认为方阵为创造。
《公问对》载：“黄帝兵法，世传握奇文”，“考其辞云：四为奇，四为正，余为握奇。
奇，余零也。
” 所谓“握奇阵”，就是将一支军队分为八个小方阵，四正四奇总为八阵，按井字形、环形配置，大将居中掌握，称为“握奇”。
军队环卫前后左右，形成八个活动区。
做到一处受敌，多方可救。
“其形井字，开为九焉，五为阵法，四方闲地”。
认为，黄帝创立的这种方阵是阵的最初形式，后来的就是依据这种八行方阵演变而来的。
现在，我们再来看看方阵。
由于缺少史书记载，对于的了解，我们一般依据知识。
1974年,在陵坑中发现大量兵器，其中：一条6.3m长的矛柄遗痕,加上矛头,整个长矛接近7m。
不过，让考古学家疑惑的是，这么长的刺杀兵器,一般士兵端平都十分吃力,秦军是怎样用来作战的? 之后，专家进行大胆推测：秦步兵应该用此来组成长矛方阵。
这样一来，长矛的威力才能显示出它集体的力量。
在兵马俑坑,考古人员还发现了另外两种长柄刺杀兵器：戟和铍。
戟长约在2.8m,即在戈前加装了矛头,可以钩砍,也可以直刺;很可能也是靠某种队形去冲击对手。
可见,长矛、铍和戟长短之间既有专业分工,又可以互相保护。
进一步印证了秦军方阵的存在。
根据考古发现，专家为我们描绘了这样的秦军方阵：秦军方阵，长矛手利用长矛长度优势杀伤敌人，抵车;铍手在长矛手身后，当长矛手的阵型被打乱时，以较小的突击阵型，利用极强的突刺能力将突入的敌人推出去;当方阵陷入混战时，戟手以单兵为单位加入战斗，肃清阵内之敌。
当然，在作战时，如没有短兵相接时，秦军就通过秦弩重创敌人的主力。
要知道，的弩，有效射程可达100米，是当时世界上最精准的武器，甚至还拥有一套自己的瞄准系统。
这样一来，秦军方阵中弩、步、车、骑按规则分布。
根据地形地势，敌我方力量优势对比，秦军方阵的统帅以最有效的方式调集着内部资源。
难怪秦军方阵可以一扫六国大军。
随机文章喜马拉雅山脉红雪之谜，仿佛山脉哭泣流下的血泪多地惊现2017年巨大不明飞行物，空中盘旋30分钟后消失销售28法则是什么意思，8成的利润来自2成的客户世界上口径最大的多拉巨炮，仅炮弹就重达7吨（体积比人还大）揭秘世界上最早的黑洞，原生黑洞比原子核还小/还会瞬间消失迷案在线 mazx.cn本站内容大多收集于互联网，内容仅供娱乐，并不代表本站观点，如果本站内容侵犯了您的权益，敬请联系网站管理员，我们将尽快回复您，谢谢合作！
在夷陵之战中，诸葛亮并没有跟着去，刘备为什么不带着诸葛亮？
对于夷陵之战来说，是三国三大战役的最后一战，前两战分别是和。
因为夷陵之战被击败，不仅刘备因此气死，蜀汉的元气也因此受到极大的损伤。
值得注意的是，在夷陵之战中，并没有跟着去。
那么，问题来了，刘备为什么不带着诸葛亮呢? 一 首先，在真实的三国历史中，诸葛亮对于刘备进攻东吴，虽然没有明确支持，但也没有表示出反对的态度。
一定程度上，占领荆州和益州，是诸葛亮隆中对的重要基础。
所以，在夺回荆州上，诸葛亮和刘备的态度几乎是一致的。
不过，在刘备出发之际，万人敌却被手下暗算了。
在张飞这员大将被杀后，蜀汉的武将已经到了捉襟见肘的地步了。
而就蜀汉的谋臣来说，因为、等人的去世，同样是人才凋零。
二 所以，就诸葛亮来说，担负着镇守后方重任，不到的时候，刘备不会带着诸葛亮随军出征。
同时，对于刘备此前的几次出征，也没有带着诸葛亮的习惯。
比如赤壁之战后，刘备在稳定荆州后，率军进入到益州，一开始，刘备是带着张飞、庞统等人去的，而诸葛亮、等人起初是留在荆州。
不过，在庞统被杀后，刘备才派诸葛亮、赵云等人率军进入到西川。
而就汉中之战时，诸葛亮也没有走上前线，而是留在成都。
彼时，刘备是带着法正随军出征。
三 那么，刘备为什么愿意带着庞统、法正等人随军出征，而不是诸葛亮呢?对此，虽然诸葛亮经常自比、，不过，后人却认为军事不是诸葛亮的长处，诸葛亮更像是、，也即擅长于治理、后勤等。
对此，《》的作者陈寿曾评价诸葛亮：“可谓识治之良才，管、萧之亚匹矣。
然连年动众，未能成功，盖应变将略，非其所长欤!”而诸葛亮的老对手也评价其：“志大而不见机，多谋而少决，好兵而无权”。
由此，率兵打仗并非诸葛亮最擅长的事情。
四 最后，在此基础上，对于看人非常准确的刘备，自然明白诸葛亮的这一特点，也即没有随军带着诸葛亮，而是让诸葛亮负责大军出征的粮草、后方的治理等。
特别是在夷陵之战时，虽然为报仇、夺回荆州非常重要，但是，刘备这一外来势力，也对益州本土派非常不放心。
这个时候，刘备需要诸葛亮这样的能人留守成都，不然前方战败，后方又出现变故的话，蜀汉真的可能早早就灭亡了。
随机文章自然界神奇形成的风动石，小身躯支撑200吨的巨石（屹立不倒）揭秘99年轰动全球的事件，80后/90后组太空舰队抵御外星人入侵日本人为什么不挖秦陵，秦始皇陵无人敢挖/日本未占领西安常见木桶定律在生活中的体现，人要成为明灯而不是短板双缝干涉实验为什么恐怖，实验证明世界虚假（造物主玩弄你的人生）迷案在线 mazx.cn本站内容大多收集于互联网，内容仅供娱乐，并不代表本站观点，如果本站内容侵犯了您的权益，敬请联系网站管理员，我们将尽快回复您，谢谢合作！
