近日，六合彩心水 举行六合彩心水 南土国际金融政策圆桌会第15期暨“迎接AI时代系列”第3期。本次会议以“原生智能体金融：前沿视角探析”为主题，围绕人工智能体进入金融活动后可能带来的理论、实践和治理问题展开讨论。六合彩心水 副教授付中昊从大语言模型的技术架构和统计特征出发，讨论了智能体进入金融场景后的可靠性问题。

付中昊指出，随着大语言模型和智能体发展，人的作用不会自然减弱。尤其当模型被应用到特定领域时，专业人员对场景、模型边界和结果质量的判断反而更加重要。金融业务具有高精确性、高责任性和高风险后果的特征，不能仅以生成结果“看起来合理”作为使用依据。

从模型机制看，付中昊认为，大语言模型本质上是在给定上下文基础上持续生成最可能的后续内容。它的优势在于归纳、生成和搜索，但它生成的是概率意义上较合理的答案，而不一定是严格精确的答案。在复杂任务、长链条推理或多轮交互中，微小误差可能不断累积，最终形成幻觉或错误判断。

谈及“压缩”问题，付中昊指出，人与大模型交互时存在多重压缩。人把任务表达给模型，本身就是一次对真实问题的投影和简化；模型在有限上下文窗口中处理信息，也会再次压缩上下文并造成信息损失。因此，构建工作流、编写清晰指令、设置校验机制、利用专业知识约束模型输出，本质上都是为了降低连续误差和累积偏差。

付中昊认为，AI可以成为重要的认知工具，但它并不是传统意义上的数据库，而是一个知识压缩与生成系统。不同使用者面对同一问题，能否以更少步骤、更低成本、更准确地找到有效区域，取决于其专业知识、提问能力和校验能力。未来金融从业者需要拥抱AI，也需要理解AI的能力来源和失效边界。

以下为付中昊发言整理（已经本人审定）：

感谢杨老师邀请，非常荣幸参加今天的讨论。邵院长的报告给我很多启发，尤其是她反复提到的“压缩”这个词。我想表达的一个基本观点是：随着智能体和大语言模型的发展，人的作用可能反而越来越重要。尤其当我们想把大语言模型或者智能体应用到某个特定领域时，不能低估人的作用。

一、大语言模型给出的是合理答案，而不一定是精确答案

我想先回到大语言模型的本质。基于 Transformer 架构的大语言模型，在缺乏外部校验、任务链条较长或场景后果较高时，很难稳定保证高精确性。粗略地说，它本质上是在根据前文持续生成后文，可以理解为一种基于上下文连续生成内容的机制。

从统计角度看，大语言模型会根据问题和已有上下文，持续生成在概率意义上更合理、更自洽的后续内容，但这并不等于它一定会得到事实正确或任务上最优的答案。这个问题来自模型架构本身。

当我们反复向大模型提出同一个问题，或者提出一个非常复杂的问题时，模型就可能出现幻觉或者犯错。即使模型每一步不犯错的概率非常高，只要任务链条足够长、生成次数足够多，它最终也可能出错。

二、压缩过程会带来信息损失和累积误差

邵院长讲到“压缩”，我觉得这个概念非常重要。我们与大语言模型交互时，本身就经历了多重压缩。人在把问题或任务布置给模型时，已经做了一次投影和压缩。不同的人把同一个任务交给模型，压缩方式可能完全不同，最后结果也可能不同。

大语言模型由于算力、参数和上下文窗口的限制，也无法完整保留全部上下文。它在处理过程中会不断压缩，而压缩就会造成信息损失。这也是为什么实践中我们会通过外部工具、结构化提示、知识文档和工作流设计来约束模型输出。本质上，这些做法都是为了尽力避免模型在连续任务中产生累积错误。

我认为，这是当前大语言模型在复杂连续任务中的一个重要限制。模型可以通过工程方式变得更稳定，但从架构上看，它仍然很难完全消除这种压缩损失和连续误差。

三、AI会成为认知工具，但使用效果取决于人

我前段时间也参加过关于AI的讨论，大家都在问学生写论文用AI到底好不好。我想到自己在美国做助教时的一个经历。当时教授问我能不能直接计算一个简单加法，我很快算出来了。他很惊讶，因为在他的环境里，大家很自然地依赖计算器。后来我想到，我们小时候还学过珠算和算盘，但现在已经不再把珠算看作核心能力，因为计算器已经很容易获得。AI也可能带来类似变化。很多计算、检索、归纳和表达类工作会变得更容易，但这并不意味着专业训练不重要。相反，我在使用AI时发现，不同研究者面对同一个问题，使用AI得到的结果差别很大。这说明AI本质上可以成为未来的重要认知工具，但使用效果取决于使用者自身的知识结构、问题表达能力和判断能力。

我个人认为，AI像一个巨大的图书馆。每个人都在寻找更接近有效答案的区域。有人可能要花十步、二十步，经过很多轮交互才能找到；有的人可能用很少的步骤就能找到。这背后的差别，不只是工具差别，更是人的专业判断和提问能力差别。

四、金融从业者既要拥抱AI，也要理解AI边界

在原生智能体金融领域，金融从业者首先要拥抱AI。我也鼓励学生使用AI，甚至可以用AI辅助英文写作、整理资料和分析问题。但这并不意味着AI可以替代专业判断。你可以使用AI，但如果内容存在明显问题，专业人士通常仍然能够识别出来。

邵院长的讨论已经走向更远的未来，例如在算力不受限制、电力资源充分发达、智能体能够自由参与经济活动的情形下，我们如何理解硅基主体的行为逻辑。我可能看得没有那么远，我更关心未来五年到十年，金融从业者逐步掌握AI之后，如何把AI用到金融实践中。

比如，我用AI写了一份报告，别人用他的AI来读我的报告，中间产生的摩擦应该如何理解？我用AI写了一份法律文本，最终法律责任到底归属于AI，还是归属于使用者，还是归属于由我部署并用于对外输出的AI系统？这些问题并不遥远，可能近几年就会在实践中出现。

五、对完全自主的金融智能体应保持审慎

我今天主要想表达的是，对于智能体完全自主地参与金融活动，我是比较审慎的。原因就在于压缩和模型架构本身的限制。当前模型天然更擅长生成合理答案，而金融核心场景往往要求高度精确、可复核和可追责。模型可能以高度自洽的方式输出错误答案，但在金融实践中，这种错误可能带来真实损失。比如在信贷、交易、风险控制或者系统运行场景中，一旦发生错误，可能带来很大的资金损失或系统性后果。这个时候，仍然需要人的参与，尤其需要熟悉金融业务、理解大模型机制并具有丰富AI应用经验的人。

我不敢说这是未来十年、二十年的最终趋势，但至少未来五年，这种能力会非常重要。金融从业者需要理解大模型的能力来源和失效边界，知道如何提出问题、如何拆解任务、如何验证结果、如何控制风险。人的能力和人的作用不能被忽视。

总体来看，AI会成为重要工具，也会改变很多工作方式。但越是把大模型用于金融核心场景，越不能只看它是否能生成答案，而要看它是否能够稳定、精确、可审计、可追责。金融从业者与其把AI看作替代人的工具，不如把它看作一个需要管理、约束和校验的认知系统。