企业经营的每个环节都可能面临决策难题。以库存订货为例，订多了会积压库存，订少了会导致缺货，靠经验也难以做到精准。为此，不少企业引入AI算法决策系统，期望能辅助业务管理者精准决策。
然而结果并不理想，因为大多数企业的AI系统就像一个“黑盒子”——只输出最终订货数，不披露这套算法在哪些情况下预测精准，哪些场景下可能出现失误。这导致业务管理者要么不相信、不采纳AI提供的建议，要么因过度依赖AI而出现决策失误。
但若披露算法的绩效信息，企业又担心员工因知晓AI的“短板”而拒绝使用AI系统。以往不少心理学与人机交互研究也提出过这类“算法厌恶”现象。那么企业到底要不要向业务管理者披露算法的绩效信息？
日前，浙江大学管理学院黄鹂强教授联合国内外学者，发表在国际信息系统领域顶级期刊Information Systems Research（UTD24、FT50期刊）上的实证研究，给出了这一问题的答案。他们在研究中发现，披露算法绩效信息，有助于优化管理者库存订货决策，且披露算法的负面绩效信息带来的优化效果更为突出。
论文发表截图
也就是说，披露AI的“短板”，反而会让业务管理者做出更精准的库存订货决策。这是为什么呢？怎样披露算法绩效信息，才能最大化改善人机协同决策？本期【科研】专题，一起走近这项对推动人机协同实践有着重要意义的研究。
黄鹂强，浙大管院数据科学与管理工程学系教授、博士生导师
*伊利诺伊大学芝加哥分校Lu Yingda教授、天普大学Luo Xueming教授、杭州味全食品有限公司王丹妮同为论文合作者
为何披露AI的“短板”
反而会让管理者决策更精准？
为了探究披露算法绩效信息对人类管理者决策的真实影响，黄鹂强团队以国内大型饮料企业为研究对象，开展了两组真实业务场景下的实地实验。
结果发现，无论是披露算法表现优秀的正面信息，还是披露算法出错的负面信息，都能显著优化管理者的库存订货决策，且这种优化效果具备“溢出效应”——即便仅披露部分产品的算法表现，管理者在处理其余未披露信息的产品时，决策质量同样能得到提升。
更出人意料的是，披露算法“短板”、展示算法失败案例带来的改善效果，明显优于只披露算法的“优点”。这与以往研究在实验室观察到的 “算法厌恶”现象完全相反。
也就是说，在真实的业务场景中，管理者不会因知晓算法犯错就全盘否定其整体价值，反而会因此在人机协同的过程中更加审慎决策。
原因：两大作用机制在影响
对于这背后的原因，研究团队做了进一步探究。他们发现，算法负面绩效信息可通过“审慎思考”与“遵从度”两大作用路径来改变人类决策行为。
具体而言，算法负面绩效信息会激发管理者的“审慎型认知模式”，当他们得知算法在某些边界条件下表现欠佳时，会产生一种“主动验证”的心理倾向，从而投入更多精力去审视数据、对比信息、推敲判断，最终做出更审慎的决策。
另一方面，当管理者明确知晓算法在某类产品的订货预测上容易“出错”时，会主动降低对这类产品算法决策建议的遵从。但对其他大多数产品，他们反而会更加合理地采纳建议，使决策更精准。
也就是说，披露AI算法的“短板”之所以能让管理者的决策更精准，是因为AI的负面绩效信息激发了管理者的深度思考，同时促使他们有选择性的采纳AI建议，减少了“不用AI”或“过度依赖AI”带来的决策失误。
“效果”有差别！
信息披露对特定产品和管理者更有用
通过对数据的进一步分析与对比，研究团队发现，披露算法绩效信息带来的决策优化效果并非“均匀分布”，存在明显的异质性特征。
从产品维度来看，销量较低、销售需求波动大、不确定性高的产品，从信息披露中获益最大。因为高销量爆款产品本身就受到管理者重点关注，人工积累的经验充足，改进空间有限；而冷门、需求变化剧烈的产品，依靠人力判断难度更高，算法绩效信息刚好能补齐管理者的认知与思维短板。
从人的维度来看，算法绩效信息（尤其是负面信息）对原本订货绩效较差的管理者帮助更大。这也意味着，AI绩效信息披露扮演了团队的 “能力均衡器”，可缩小不同业务管理者之间的业绩差距。
“差异化披露AI绩效信息”，
研究为人机协同实践带来重要启示
人工智能时代下，人类与AI的关系不再是“谁取代谁”，而是“如何更好地协作”。
黄鹂强团队的这项研究将视角从“AI 替代人类决策者” 转向 “AI 赋能人类决策者”，不仅填补了人机协同领域实证研究的理论空白，完善了库存业务场景下的人‑AI协同理论框架，推动了人机交互、供应链与运营管理等领域相关理论发展，还为新时代下正在部署 AI算法决策系统、开展人机协同实践的企业，带来了重要启示。
启示一
企业部署算法决策系统，要重点做好人机协同，不要盲目追求算法完全接管。因为人机协同的核心目标不是无脑照搬算法数字，而是培养决策者的判断力，激励管理者认真审阅AI 输出的建议，这样才能真正促进决策精准。
启示二
企业应当打破AI“黑盒”思维。上线 AI工具不能仅向员工输出最终结果，还需披露算法的能力边界，讲清楚算法的优点与短板。
启示三
管理者的认知精力有限，信息供给要设置优先级。优先向管理者披露算法的失败案例（负向绩效信息），价值高于只宣传算法优点。因为管理者可以理性利用负面信息，对目标产品主动避开错误算法，做出更精准的决策。
启示四
企业可进行资源倾斜，把算法绩效信息优先应用在低销量、需求波动大的产品上，同时可借助这套机制帮助业务能力偏弱的管理者，减小团队内部绩效差距，实现整体提效。这也意味着，企业需要根据产品特征、管理者能力差异化设计信息展示策略。
不只是库存订货这一场景，如今AI已渗透至管理决策的方方面面，以人机协同提升业务质量、促进产业创新发展，既是企业必须直面的高质量发展命题，也是国家建设现代化产业体系与智能社会的迫切需要——“十五五”规划纲要与《关于深入实施“人工智能+”行动的意见》都明确提出，要“探索人机协同的新型工作形态”“加快形成人机协同、跨界融合、共创分享的智能经济和智能社会新形态”。
黄鹂强团队的这项研究正是对国家战略需求的及时回应。他们以生动的实地实验给出答案：人机协作的最佳状态，不是盲从算法，也不是抗拒算法，而是了解算法“何时可信、何时存疑”，并据此做出理性决策。
附：论文摘要
Over recent years, companies have been increasingly adopting algorithmic decision systems (ADS) to replace humans. In this paper, we focus on how ADS facilitates human managers’ decision making rather than replacing humans altogether in the context of inventory ordering decisions, specifically on the effect of providing ADS performance information to human managers. Using a pair of field experiments, our results suggest that providing ADS performance information can improve their inventory ordering decisions. Interestingly, providing both positive and negative ADS performance information enhances human managers’ inventory ordering decisions, with the latter proving even more effective. Our analyses reveal that compliance and deliberation are two mechanisms through which ADS performance transparency influences inventory ordering decisions. Furthermore, we explore the heterogeneous effect and find that disclosing ADS performance information is more helpful for human managers overseeing products with lower sales and higher uncertainty, thus solving the pain points where human managers rely on algorithmic recommendations the most. Our results also show that ADS performance information serves as an equalizer that benefits low-performing managers more. These results demonstrate the importance of algorithm performance transparency in the human adoption of ADS and shed light on the managerial implications of using ADS within corporations.
信息来源：Information Systems Research
