协会监事会主席单位南京大学工程管理学院联合江苏省运筹学会邀请圣何塞州立大学卢卡斯商学院全球创新与领导力学院吴岩教授作学术报告

4月1日，协会监事会主席单位南京大学工程管理学院联合江苏省运筹学会邀请圣何塞州立大学卢卡斯商学院全球创新与领导力学院吴岩教授开展了一场学术报告。此次报告主题为 “Emergent Social Bias in AI and Mitigation Strategy”。

人工智能偏见通常被认为是人类与社会固有成见嵌入训练数据所导致。本文另辟视角，探究即便完全脱离人工数据与社会外部输入，偏见是否仍会依托智能体间的交互与学习，在人工智能系统中内生自发产生。研究采用深度强化学习智能体，仅通过信任博弈中的反复交互完成训练。实验发现：智能体会自主形成圈内偏袒、圈外歧视的行为，进而削弱整个人工智能群体的信任水平与守信程度。本文对比多种偏见缓释方案，结果表明：包容式训练、引入无偏见 AI 导师再训练等训练层面干预手段，虽能缩小群体差异，却无法提升甚至会恶化智能体间的协作效率；而架构层面干预（破坏模型内部神经表征编码），可在维持高水平协作的前提下，彻底消除群体偏见。为厘清 AI 涌现性偏见的成因，本文构建基于互信息的信息论分析框架。研究证实，深度强化学习智能体的神经网络中，群体身份信息与行为关联信息存在差异化编码特征。该研究成果可为未来构建具备社会智能、高协作性的多智能体 AI 系统，提供全新设计准则。

吴岩（Diana Wu）博士，圣何塞州立大学卢卡斯商学院全球创新与领导力学院教授、院长。宾夕法尼亚州立大学工商管理博士，主修供应链管理与运筹学双方向。学术生涯历任堪萨斯大学、圣何塞州立大学教职，曾在雅虎实验室、惠普实验室等硅谷顶尖企业担任访问学者。研究聚焦运营管理、行为经济学与人工智能交叉领域，多篇成果发表于《管理科学》《生产与运营管理》《运营管理期刊》等国际顶级期刊。