官方网站-首页

【导语】近日，《自然·人类行为》发表的一项研究发现，GPT-4等大语言模型在在线辩论中，若根据对手个性化信息调整论据，其说服力可高出人类64%。这一发现揭示了AI影响人类观点的潜力，并警示了信息操控的风险。研究呼吁重视AI伦理，构建新的人机共生的信息环境。

《自然·人类行为》19日发表的一项人工智能（AI）研究发现，在线辩论中，GPT-4一类的大语言模型（LLM）如能根据对手的个性化信息调整它们的论据，其说服力比人类辩手高出64%。研究结果显示了GPT-4生成有针对性和说服力论据的能力，揭示出AI工具拥有影响人类观点的潜力，同时也提出应进一步研究如何降低其说服人类时存在的风险。

随着人类与LLM的对话日益普遍，有研究显示LLM或变得更有说服力（即更能改变一个人的信念或观点）。然而，之前并不清楚这些模型是否能根据个性化信息调整，提出更能针对辩论对手的论点。

瑞士洛桑联邦理工学院研究团队此(cǐ)次(cì)将(jiāng)900名美(měi)国(guó)人(rén)分(fēn)别(bié)与(yǔ)另(lìng)一(yī)名人(rén)类(lèi)或(huò)GPT-4配(pèi)对(duì)。双(shuāng)方(fāng)辩(biàn)论(lùn)各(gè)种(zhǒng)社(shè)会(huì)政(zhèng)治(zhì)议(yì)题(tí)，如美国是否应该禁用化石燃料。在有些配对中，辩论对手（无论是AI还是人类）能获得关于他们辩友的人口统计学信息，包括其性别、年龄、族裔、教育水平、就业状况，以及从参与者调查中获取的立场，从而让其论点更有针对性。

实验设计示意图。图片来源：英国《自然·人类行为》在线版

辩论在受控的在线环境中进行，并通过一个众包平台为该研究专门招募参与者。研究团队发现，在得知参与者的个人信息后，GPT-4的说服力比人类对手高64.4%。如果没有获得个人数据，GPT-4的说服力与人类不相上下。

研究团队指出，该研究存在一定局限性，包括辩论采取了一种结构性方法，而在现实世界中辩论的自由度更高，而且辩论有时间限制。他们认为，这一研究对AI影响人类观点的潜力和风险有重要提示，也对未来在线平台的设计具有借鉴意义。

【总编辑圈点】

其实，人类对“说服”的研究由来已久，也提出过多种可能影响(xiǎng)说(shuō)服(fú)力(lì)的因素，比如说服者的身份、信息的呈现顺序、传播渠道和受众特征等。现在，“搅局者”来了。当你的“对方辩友”是AI时，一旦它知道你的个人信息，便能为你量身打造一套话术，精准直击痛点。这样一来，信息操控的风险显著提升，你可能不知不觉陷入AI编织的话语陷阱。研究结果提醒我们，必须重视AI伦理，通过技术创新、制度创新和公众参(cān)与(yǔ)，构(gòu)建(jiàn)新(xīn)的(de)人(rén)机(jī)共(gòng)生(shēng)的(de)信(xìn)息(xi)环(huán)境(jìng)。

（原(yuán)标(biāo)题(tí)为(wèi)《警(jǐng)惕(tì)人(rén)工(gōng)智(zhì)能(néng)影(yǐng)响(xiǎng)你(nǐ)的(de)观(guān)点(diǎn)大(dà)语(yǔ)言(yán)模(mó)型(xíng)在(zài)线(xiàn)辩(biàn)论(lùn)说(shuō)服(fú)力(lì)超(chāo)人(rén)类(lèi)》）