《IEEE智能系统》杂志(https://www.computer.org/csdl/magazine/ex/2024/04/10614921/1Z0o7ydjYqc)中描述的一项实验表明,答案是肯定的。这项研究的影响对教师批改论文、员工评估以及许多其他可能影响我们生活的情况都有深远意义。
研究内容
该研究的设计重点关注两个著名的大型语言模型(LLM)提出的不同观点。每个大型语言模型都被要求对两篇不同的专利摘要按照1到10分的标准进行评估,重点关注可行性和颠覆性等特性。
研究作者将专利摘要以及大型语言模型给出的分数提供给不同组的研究生。每组学生只看到一个评分——要么是较高的评分,要么是较低的评分。在不知道其他组所看到内容的情况下,这些学生随后被要求自己对专利摘要进行评分。
看到大型语言模型给出较高评分(如“9”分)的组给出的评估分数比看到较低评分(如“4”分)的组要高。然而,他们并非只是照搬分数。相反,看到“9”分的组给出的平均评分约为7.5分,而看到“4”分的组给出的平均评分略高于5分。这表明,尽管大型语言模型的评分对他们产生了影响,但参与者仍然做出了自己的判断。
IEEE高级会员Ayesha Iqbal表示:“实验结果表明,人工智能工具能够影响决策任务,比如教师给学生的研究论文评分,或者企业评估员工、产品、软件以及其他知识成果时。如果不同的人工智能工具给出不同的评级,而人们又依赖这些评级,那么人们对同一个事物就可能给出不同的评价。这就引出了一个重要问题:我们是否想要偏向于人工智能的推荐呢?
我们应该何时使用人工智能来辅助形成判断?
专业人士使用大型语言模型(LLM)来协助完成诸如给论文评分或评估项目等任务的初稿是相当常见的做法。专业人士可能不会将大型语言模型的输出作为最终成果,但它们提供了一个有用且省时的起点。鉴于该研究中所描述的锚定效应,这是个好主意吗?
研究表明,与人类一样,大型语言模型会给出支持或反对某些观点的理由。依赖大型语言模型可能类似于与同伴合作。同时,大型语言模型往往具有一些特性,这些特性可能会使它们或多或少地有用。一些大型语言模型往往更乐观,给出的答案更长;其他的可能更悲观,给出的答案更短。
该研究的作者指出,教育工作者在做诸如批改论文之类的事情时可能仅使用一个大型语言模型以保持一致性,但在处理更复杂的任务(如评估商业项目)时可能会使用多个大型语言模型。
“在我们的个人和职业生活中,为人工智能的使用设定界限和限制是很重要的,”Iqbal说,“我们需要确定人工智能技术在何时何地是合适且有益的,并识别出需要人类判断和干预的情况。通过对技术使用和决策过程保持控制,可以避免对人工智能的过度依赖。”
好文章,需要你的鼓励
在 NVIDIA GTC 大会上,多家汽车和自动驾驶公司宣布采用 NVIDIA 技术推进自动驾驶发展。通用汽车将扩大与 NVIDIA 的合作,涉及工厂、机器人和自动驾驶汽车等多个领域。自动驾驶卡车公司 Gatik、Plus 和 Torc 也将采用 NVIDIA 的多项技术方案,推动 L4 级自动驾驶商业化。同时,沃尔沃利用 NVIDIA GPU 进行空气动力学模拟,优化电动汽车设计。
Deepmind创始人Demis Hassabis表示,人工智能的许多能力可能需要10年才能充分显现。他预计AI将演变为具有人类认知能力的通用人工智能。Google推出了新的音频生成模型Chirp 3,并扩展了AI代理服务Agentspace。Hassabis强调了AI代理系统的发展,包括多代理协作和专业化代理的应用,但也指出了AI规划算法中错误累积的挑战。
OpenAI 的 AI 推理研究主管 Noam Brown 表示,如果研究人员早知道正确方法和算法,类似 OpenAI 的 o1 这样的"推理"AI 模型本可以在 20 年前就出现。Brown 强调了测试时推理技术的重要性,同时指出预训练仍然重要。他还讨论了学术界与前沿实验室合作的机会,以及 AI 基准测试的改进空间。
新西兰航空公司与塔塔咨询服务公司签订五年合作协议,旨在全面升级其数字基础设施,并将人工智能技术融入核心运营。这项合作涉及航空公司多个业务领域,包括机队管理、机组排班和地面服务等。此次合作标志着新西兰航空向成为全球最先进的数字化航空公司迈出重要一步。