你也喜欢 72?大语言模型最喜欢的随机数揭晓
阅读提醒: 计算机程序可以生成很像真随机的「伪随机数」,而 LLM 表示,干脆不装了,我就有自己最喜欢的数。计算机程序中,「随机」是一个常见的概念。由于生成真正的随机数过于昂贵,所以 Python、Java 等语言都内置了「伪随机数生成算法」。虽然生成的数字序列是完全可预测的,但它看起来就像是真正的随机数。一个好的随机数生成器会以相等的概率选择给定范围内的所有数字。这和人类选择随机数的思维过程完全不同。比如,
【2024年新澳版资料正版图库】 【2024奥门资料大全兔费】 【7777788888澳门王中王2024年】 【2024年新跑狗图最新版】 【澳门管家婆2024资料精准大全】 【澳门一码一肖100准确率的信息】 【新澳门资料大全】 【WW777766香港神算子】 【2024澳门六开彩免费精准大全】 【澳门六开彩马会传真资料】 【黄大仙中特论坛资料大全】

计算机程序可以生成很像真随机的「伪随机数」,而 LLM 表示,干脆不装了,我就有自己最喜欢的数。

计算机程序中,「随机」是一个常见的概念。

由于生成真正的随机数过于昂贵,所以 Python、Java 等语言都内置了「伪随机数生成算法」。虽然生成的数字序列是完全可预测的,但它看起来就像是真正的随机数。

一个好的随机数生成器会以相等的概率选择给定范围内的所有数字。这和人类选择随机数的思维过程完全不同。

比如,我们会故意避开 5 和 10 的倍数,也不会选择 66 和 99 这样重复的数字,而且几乎从不选择 0、1 和 100,因为它们看起来「不够随机」。

最近,一群工程师突发奇想:LLM 会怎样输出随机数?

于是他们做了一个非正式的实验,让 GPT-3.5 Turbo、Claude 3 Haiku 和 Gemini 1.0 Pro 三个模型从 0-100 中选择随机数,并将实验结果和源代码都公布了出来。

总体而言,他们的发现是:即使是在生成随机数这种琐碎的数理任务上,LLM 还是学习到了人类的偏好和思维习惯。

模型的这种「类人」行为让工程师和科技媒体都非常吃惊。他们在标题中都使用了「最喜欢的数」这种描述,仿佛 LLM 真的发展出了自我意识。

https://gramener.com/llmrandom/

甚至文章的最后,实验者呼吁「LLM 心理学」的研究来解释一下模型在试验中体现出的行为偏好。

那么就详细看看,实验的结果究竟如何?

LLM 的数字喜好

由于 LLM 的温度设置会影响输出的随机性,因此 3 个模型的温度被调到 0.0,0.1,・・・,0.9,1.0 这 10 个值分别进行实验。

虽然温度升高会不断拉平各个数的出现频率,但即使设为 1.0 时,LLM 还是表现出了和温度最低时相同的偏好。

GPT 在去年 10 月的实验中最喜欢 42,但今年它「见异思迁」,变成了最喜欢 47。

而 Claude 和去年的 GPT 一样,最喜欢 42。实验者们猜测,或许是因为 Anthropic 使用了 GPT-3.5 来训练 Claude 3 Haiku,因此培养出了相似的「品味」。

Gemini 最喜欢的是 72(这个数有什么特别的吗?)

将 3 个模型的所有输出放在一起,可以看到其中几个数有非常明显的领先优势,也可以很好地反映人类的偏好。

42 是第二受欢迎的数,因为风靡世界的《银河系漫游指南》让这个数有了特别的含义。

37、47、57、67、77 等以 7 结尾的数都很受欢迎,在人类眼里这些数也会显得更「随机」。

有重复数字的数、小于 10 的数,以及 5 或 10 的倍数都很少见。

但也有一些行为很难解释,比如 56 和 73 这两个数得到了 3 个模型的一致青睐。

AI 越来越像人类?

不仅仅是生成随机数,最近的很多研究发现,LLM 的思维和认知似乎越来越向人类靠近。

南加州大学最近一篇的论文发现,要引导 LLM 产生意识形态倾向,是一件非常简单的事情。

https://arxiv.org/abs/2402.11725

论文作者表示,LLM 的训练数据有政治偏见已经不算新鲜事了。他们的研究仅仅让模型在微调过程中接触 100 条数据,就可以注入新的偏见,并改变模型的行为。

而且,ChatGPT 似乎比 Llama 更容易受到偏见的操控和影响。

这篇论文在 ICLR 的「安全可信的大型语言模型」研讨会上获得最佳论文奖亚军。

另一篇 NAAC 今年接收的论文则研究了 LLM Agent 的社交互动,却得出了几乎相反的结论。

https://arxiv.org/abs/2311.09618

他们发现,在默认情况下,LLM 并不会很像人类。但如果明确诱发人类的认知偏见,情况就发生变化了。

首先,他们构建了 10 个有不同初始观点的 LLM Agent,有些被定义为气候活动家,有些被初始化为否定气候变化的存在。

这些 Agent 被放在同一个社交网络中,并参与 100 次二元交互 —— 写推文,并阅读其他人的推文。

经过了 100 次互动后,所有 Agent 的观点都倾向于承认气候变化的存在。

即使有些 Agent 被初始化为气候变化阴谋论的信徒,它们最终还是会倾向于否认阴谋论。

为了排除训练数据的观点对这些 LLM 的影响,论文又在更广泛的话题上做了类似的实验,包括科学、历史和常识,但实验结果依旧保持一致 ——

LLM 总是倾向于认可真相、拒绝虚假信息。

这似乎说明,LLM 有一种固定的对真相的偏好,并不像南加大论文中所表现的那样,容易被操纵观点。

此外,Agent 之间的交互所引发的意见动态变化,和人类社会的实际情况也并不相像。

难道,我们真的需要「LLM 心理学」,来解释这些模型的行为?

参考资料:

  • https://techcrunch.com/2023/12/21/against-pseudanthropy/

  • https://techcrunch.com/2024/05/28/ai-models-have-favorite-numbers-because-they-think-theyre-people/

广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,所有文章均包含本声明。

【一肖一码100%澳门】 香港最准的100%肖一肖 【王中王一肖一特一中一MBA】 澳门开奖结果 【新澳门2024年资料大全官家婆】 2024新奥历史开奖记录83期 【澳门王中王100%的资料2024】 2024年澳门今晚开码料 【2024澳门资料大全正版资料免费】 【最准的一肖一码100%】 【2024澳门资料免费大全】 【2024王中王资料一肖中v】

导语:本期十二生肖解析运势,给大家带来的话题是,这两个生肖成为夫妻经常吵架,但财运却越来越旺!那下面我们就直接进入主题吧!

属相是一个人天生注定的,从风水学的角度来看,一个人的属相、对一个人的性格影响很大。而决定夫妻之间的感情、是否长久的秘诀就是两个性,一个是性格,一个是性生活。而性生活不用多说,人类最原始的欲望。那么夫妻双方的性格,会影响一个家庭的幸福度。都说:家和万事兴。一个家庭只有家人之间、和和气气才能生财。

但凡事无绝对,以下这两个生肖、生活在一起经常吵架;不仅不会影响家庭的运气,甚至还会给他们带来财运。

生肖虎VS生肖兔

虎人比较威武霸气,天生不服输的命。属兔的人温和柔情,懂得以柔克刚。

所以在一起生活,就算吵架,也不会把屋顶掀翻,顶多就是斗斗嘴。就算吵得凶,一个情绪很快就过去了,一个也不会记仇,彼此都是为家庭着想的人。

所以就算吵架,也会记着彼此的好,吵闹一辈子,始终不离不弃。简直就是恩爱夫妻的模范,并且有足够的资源养育子女,越恩爱,越有钱!

生肖马VS生肖马

属马的人不爱受管制,而且脾气有点暴,要是两个属马人在一起,一定是会三天一小吵,五天一大吵,谁也管不了谁。

但是呢,这两个生肖要是做了夫妻,同为属马,说明对方都非常了解对方,越来越看得到对方身上好的一面,也懂得反思自己身上不好的一面,双方都能为了对方而改变、包容,婚姻长久,越来越恩爱。

生肖虎VS生肖蛇

蛇虎一见如“射虎”,彼此都会有些不自在,老一辈都认为属蛇人和属虎人不适合成婚,就是因为他俩越熟悉是越爱。

如果没有保持一定的距离,就只会把目光全盯在缺点之上,这也是为什么属虎人、属蛇人刚结婚这阵子,吵架吵得这么凶的缘故。

但还是有许多的虎蛇夫妻,吵了多年也不分家,就是因为他俩的关系是越吵越亲,吵多了才发现其实离不开彼此,照样能把婚后日子过好!

夫妻之间吵架常有,即便是匹配度百分百的夫妻,生活在一起难免会有分歧,出现分歧的时候,吵架也是一种沟通方式,但一定要注意吵架的尺度,不能上升到人身攻击上。

【澳门王中王100%的资料一】 二四六玄机资料最新更新 【2024年澳门天天开彩】 澳门六彩资料网站 【2024新澳门正版资料免费大全】 一码一肖100%准确功能 【王中王100期期一肖】 管家婆一码中一肖2014 【澳门六开彩天天开奖结果生肖卡】 【新澳门开奖结果2024开奖记录查询官网】 【澳门三肖三码期期准免费资料澳门】 【2024年澳门资料天奖开众】