大模型的调用通常被视作函数操作：输入文本，获取回复并继续处理。长时间使用后，人们容易将其视为一种确定性的函数——相同输入持续得到相同输出，像是在执行业务逻辑。然而，一旦进入生产环境，这种假设就会以非常具体且可预测的方式崩溃。
传统软件依赖于确定性的逻辑：满足条件的输入必定输出固定结果，每次都如此，而这个过程可以被清晰地证明。相对而言，大模型基于统计概率运作：它依靠训练数据中的模式来预测下一个最可能的词，这是两种截然不同的“正确”。
当一个团队试图让这种概率型模型完成确定性逻辑的任务时，摩擦就会产生。例如，在处理发票时，模型可以从简短的发票中提取信息并进行简单计算，返回的结果通常准确无误。然而，对一张较复杂的发票，结果的准确性会大幅下降，表现出“多数时候正确”的状态。这样的结果并不能保证真实准确，尤其在未经过仔细审核时，这种“看似合理”可能会在对账时暴露出严重错误。 球友会
再考虑一个退款业务的规则：购买后30天内可退款。虽然模型可准确判断明显的情况，但在临界日期（第29、30、31天）时，其判断可能出错。这是因为确定性的日期比较保证了每次的准确，而模型则依赖于过往数据的模式来猜测退款条件，哪怕偶尔给出正确答案，操作的本质依然存在显著差异。
这种潜在的错误模式是危险且烦人的，因为在结构上，统计错误的答案与正确答案并无区别。输出自同一JSON结构，语气也同样坚定，没有任何异常标记，直到事后审计时才会显露出遗漏。这并不代表在业务逻辑中不能使用模型，而是要清楚地知道哪些部分交给模型处理。模型擅长将非结构化信息转化为结构化形式，但对于每次都要求严格一致的计算，它无能为力。
詹姆斯代言协议年收入超三倍薪水：推广橄榄球项目
为学校、俱乐部等机构策划并执行大型足球赛事，确保赛事的顺利进行。...
朱芳雨回忆接任广东主帅的未遂经历及其人生抉择
为学校、俱乐部等机构策划并执行大型足球赛事，确保赛事的顺利进行。...