多智能体系统中的责任缺口与人工智能安全

项目概览

本项目由 Vahid Yazdanpanah 博士指导，开发计算方法来发现多智能体系统中的责任缺口、归属集体失误，并支持不确定性及部分可观测条件下更安全的监督。研究涉及应用数学、人工智能、计算数学、数学建模、运筹学、哲学、软件工程和系统工程，地点为英国南安普顿。

项目详情

当决策分散到由不同个人或组织控制的自主智能体时，人工智能安全会更加复杂。智能体可以是软件服务、机器人、决策支持系统，也可以是人类决策者。尤其在知识不完整、任务被委托、且需要多个参与者共同干预的情况下，即使没有哪个单独智能体明显造成伤害，系统仍可能产生有害结果。现有方法经常分别分析因果贡献、指定职责和战略行动能力，因而无法充分衔接谁造成了结果、谁本可以阻止结果、以及谁应当为结果负责。

课题希望建立统一框架，识别并处理这种责任缺口。三个关联挑战分别是意外伤害及疏忽的责任、需要联盟共同干预时的集体责任，以及不确定性和部分可观测条件下的责任归属。学生可聚焦一个或多个挑战，同时为共同的形式化模型作贡献；原文没有要求每个人必须同等覆盖全部问题。

可能的方法包括博弈论、时序逻辑、认识逻辑和道义逻辑、形式化验证、定理证明、自动推理，以及基于智能体的仿真。研究将把面向未来的责任与事后责任联系起来：前者明确伤害发生前谁必须监测或采取干预，后者在失误发生后进行归属。预期成果包括形式化定义、责任归属算法、自动推理原型、形式化保证、基于仿真的评估，以及支持可问责监督与控制所需的信息和日志记录指南。这些是项目计划中的研究输出，不代表已经证明某套责任归属算法适用于所有真实场景。

案例可能涉及人工智能辅助医疗、共享控制的自主系统，以及人工智能支持的建筑管理。它们是可能研究的应用，而非已确定的合作单位、患者数据或部署任务。学生将参与电子与计算机科学学院及 Agents, Interaction and Complexity 研究组的博士培训和研究研讨会，还可发展学术写作、负责任研究与创新、会议参与、公众交流等能力，并与负责任人工智能及自主系统领域的研究者和利益相关方互动。

学历要求为计算机科学、人工智能、数学、工程或紧密相关学科的英国二等一荣誉学士学位或国际同等学历。申请人应有较强分析能力，对具备数学基础的人工智能研究有兴趣，愿意构建形式化模型并实现计算原型。多智能体系统、数学或计算逻辑、博弈论、形式化验证或模型检测、自动推理或定理证明、智能体建模，以及人工智能安全、负责人工智能或自主系统方面的经验均属加分项，并非必须全部具备。编程经验和独立研究能力证明有利；相关硕士学位是期望条件，不是硬性要求。

资金途径包括：符合条件者通过 Horizon Europe 减免覆盖海外与英国学费差额，优秀申请人竞争校长助学金覆盖这项差额；学院竞争性资助通常支付英国标准学费及生活津贴。Horizon Europe减免按符合名单的居住地而非单独国籍评估；本题报告所引名单不含中国，居住在名单国家的中国公民仍应请学校评估。该减免覆盖3.5年学费差额，本身不提供津贴。资金滚动发放，鼓励尽早申请。这些途径的对象和覆盖项目不同，不能直接合并为所有国际申请人均获完整学费加生活费。

学院以 Athena SWAN 奖项介绍其平等、多样性和包容工作，欢迎不同性别、族裔、残障状况、性取向和年龄的申请人，并考虑灵活工作及职业中断经历。学校提供产假政策、校内托育设施和支持身心健康及工作生活平衡的福利，另称获得白金级 EcoAward。

申请要点

所列截止日期为 2026 年 11 月 30 日星期一。原文要求在在线系统选择 Research、2026/27 学年、工程与物理科学学院、全日制或非全日制，搜索 PhD Computer Science（7089），并在第 2 部分填导师姓名。材料包括研究计划、简历、2 份学术推荐、截至申请时的成绩单和学位证书，以及适用时的英语语言证明。初步交流联系 V.Yazdanpanah@soton.ac.uk。一般咨询邮箱原文写为 doctoralcollege-admissons@soton.ac.uk，译文保留该拼写，并提示核实。

需要进一步确认

须确认官方当前状态、截止时刻与时区、入学年份、专业代码及研究计划要求；源文所列2026/27和7089不应擅自改成其他学年或代码。一般咨询邮箱中的“admissons”可能存在拼写问题，不能据其他项目静默替换。需分别核实英国标准学费资助、海外差额减免和生活津贴的授予条件、金额及期限。英语分数和国际学历等值细则未给出。

南安普顿多智能体系统责任空缺与AI安全博士项目调研

招生与机构信息来自2026年10月资料；当前名额、实际入学安排和个人奖助条件仍须确认。

申请判断

建议评级：有前景，存在实质不确定性。现有项目资料将本题列为工程与物理科学学院竞争性资助博士项目，截止 2026年11月30日，主导师为Vahid Yazdanpanah博士。研究围绕不确定性及部分可观测条件下，多智能体系统中的责任空缺、集体失效与更安全的监督，采用博弈论、时序／认知／义务逻辑、形式化验证、定理证明、自动推理及智能体仿真，问题与方法较连贯。official project page

中国申请人原则上有国际学历等值申请路径，但资金须谨慎判断。学校称英国及国际学生有资助机会，同时明确学院奖学金通常覆盖英国标准学费与津贴，排名靠前者可通过Presidential Bursaries覆盖海外与英国学费差额。Horizon Europe减免按居住地判断，中国不在名单内；居住在名单所列国家的中国公民可请学校评估适用性。该减免只覆盖3.5年的学费差额，本身不提供津贴。因此可以申请，但全额海外学费及津贴取决于竞争结果，并非个人保证。official project page Horizon Europe fee waiver

研究问题与博士工作

工作方法与潜在产出

博士工作预计以形式化与计算为主。可能产出包括形式定义、责任归属算法、自动推理原型、形式保证、仿真评估，以及支持问责监督的信息／日志指南。一种可与导师商定的博士方向是明确表示知识、能力、义务及联盟干预，再用AI辅助医疗、共享控制自主系统或AI支持建筑管理等案例检验模型。official project page

尚未解决的问题及意义

本题关注AI安全中的实际空缺：即使没有单个智能体明显造成或能独自防止结果，分布式决策仍可能产生伤害。官网提出三类挑战：意外伤害与疏忽；需要多个智能体结盟干预时的集体责任；不确定性和部分可观测下的责任归属。英国AI Opportunities Action Plan将AI应用与治理视为经济增长及公共服务重点，也说明其现实相关性。official project page AI Opportunities Action Plan

形式保证只在模型假设内成立，不能直接等同法律责任认定或部署后的安全效果。项目允许聚焦三个挑战中的一个或多个；面向未来的监测、干预职责与失误后的归属须先区分，再建立联系。所列应用领域不代表已承诺临床数据、合作机构或部署任务。

学校、学科与培养

培养申请路线是工程与物理科学学院的PhD Computer Science。QS列南安普顿大学为2026年世界大学排名 =111。领域背景也较积极：英国数字与技术计划称该领域2024年产生1580亿英镑增加值（GVA）、雇用133万人，并将AI与网络安全列为优先前沿技术。此类数据说明领域背景，不能保证个人就业。official project page QS profile AI adoption plan: digital and technologies

官招明确ECS博士培养和AIC研究研讨会，并包括学术写作、负责任研究与创新、会议、公众交流及利益相关方互动。它们与形式化和计算研究互补；具体进度考核、共同导师、验证工具与算力配置仍需确认。综合QS排名不是AI安全学科或导师排名，数字产业总量也不能直接衡量此细分方向需求。

导师与实验室评估

导师研究方向

Yazdanpanah博士方向较匹配。学校列其兴趣为多智能体AI、基于智能体的计算及AI系统责任，并记载其博士指导方向；当前指导名额仍须确认。他所在的Agents, Interaction and Complexity（AIC）组研究安全、可验证、可信自主系统、人机团队及人在回路交互。其个人学术页也是本题的引用来源，介绍智能体、形式方法、博弈论与多智能体决策逻辑框架研究。Yazdanpanah profile AIC group Yazdanpanah personal page

近期重要论文

2023年AI & Society论文 “Reasoning about responsibility in autonomous systems” 是最直接的理论基础，主张用形式化、可计算的责任、责备、问责及法律责任概念处理责任空缺。2024年HHAI关于多智能体系统 actual trust 的论文，在不确定性下形式化信任并指向验证工具，与部分可观测场景接近。较早的 “Responsibility of AI Systems” 支持区分责任类型。导师学校发表列表还显示2025–2026年信任、责任和多智能体相关工作。responsibility paper actual trust paper AI responsibility paper Yazdanpanah profile

三篇分别支撑可计算责任概念、不确定性下的信任，以及责任类型区分。现有资料只提供这些题录和概念性概述，无法据此确认三篇均已完整阅读全文或逐一核实作者分工。定理假设、评估范围、实现与补充材料仍须直接阅读，才能作更强判断。

实验室、资源与合作环境

AIC组覆盖智能体、机器人、博弈论、众包及人机团队，适合此题。导师与计算责任项目及UKRI可信／自主系统研究的联系，也支持研究环境判断。主要指导不确定性是官网仅列一位具名导师，应询问是否有形式验证、逻辑、法律／伦理或案例领域的共同导师。AIC group computational responsibility project

资助、申请与生活成本

截止为 2026年11月30日。官网路线为Research、2026/27、FEPS、PhD Computer Science（7089），官网仍写2026/27学年，实际入学安排应向院系确认；第2部分填写导师姓名；提交研究计划、CV、两份学术推荐、成绩单／证书，以及适用时英语证明。official project page

资金是主要限制。学校资助页说明，竞争项目须获资助后才开展，有些资金只付学费，有些也有免税津贴。本题虽称英国及国际学生有机会，但学院奖学金通常只覆盖英国标准学费与津贴，排名靠前者的Presidential Bursaries才可覆盖海外差额。计算机科学MPhil／PhD国际全日制学费在2026/27年为£27,900；中国申请人须确认个人资助是否同时覆盖全部海外学费与津贴。PhD funding page official project page postgraduate tuition fees

2026/27学年及7089是材料所列路线，不应擅改成后续入学轮次。截止钟点／时区、研究计划长度、个人海外学历等值和英语数值条件仍未给出。初步咨询可联系V.Yazdanpanah@soton.ac.uk；一般邮箱在原文为doctoralcollege-admissons@soton.ac.uk，其拼写须确认。

全年预算应把个人学费缺口与房租、水电、饮食、交通和初到／签证支出分开。所引生活费与住宿页在现有资料中没有可核实金额，应取得实际全年租约、津贴金额和发放日程后评估负担与储蓄；学费差额减免并非生活收入。雇佣身份、任何职责及奖助期限也须书面明确。

申请人匹配与准备

正式最低条件是相关专业英国2:1荣誉学士或国际等值学历；相关硕士为期望条件，非硬性要求，列出的专门方法也不要求全部熟练。英语数值与豁免由学校个别确认。较匹配背景为计算机、AI、数学、工程或紧密相关专业，具有分析能力，愿建立形式模型与计算原型。多智能体系统、数学／计算逻辑、博弈论、形式化验证、模型检验、自动推理、定理证明、智能体建模、AI安全或负责任AI经历尤其相关。official project page

研究计划宜聚焦一个责任空缺、一种形式表示与一个评估场景。阅读导师责任及actual-trust论文，准备关于信息假设、联盟责任，以及证明／原型工具的问题。

可能路径包括形式验证、负责任AI、自主系统及AI治理的学术或产业研究。这是根据训练能力作出的推断，没有本项目就业率或薪资证据。证明／算法型博士与经验性多智能体学习或纯政策研究的训练重点不同，应先确认自己需要的平衡。

下一步与待确认问题

申请前

申请前确认竞争资金能否为中国申请人覆盖全部海外学费，是否须另竞争Presidential Bursary排名；确认是否附津贴，以及滚动资金决策怎样影响接近截止提交的申请。

面试时

面试时询问偏好的形式体系、自动推理或模型检验工具、已有案例，以及伦理／法律／领域验证共同导师安排。

接受录取前

接受前按资助信核对海外学费覆盖、津贴金额与期限，以及学院或Presidential资金附带条件。

证据与来源

• 官方项目与资助：official project page PhD funding page postgraduate tuition fees Horizon Europe fee waiver living costs accommodation fees

• 导师与研究环境：Yazdanpanah staff profile Yazdanpanah personal page AIC group computational responsibility project

• 论文与领域背景：responsibility in autonomous systems responsibility of AI systems actual trust in multiagent systems DBLP profile AI Opportunities Action Plan AI adoption plan for digital and technologies QS Southampton profile

岗位、培养与资助

• Official project page： Responsibility gaps and AI safety in multiagent systems

• Electronics and Computer Science postgraduate research projects

• PhD fees and funding

• Horizon Europe fee waiver

• AI Opportunities Action Plan

• AI Adoption Plan： Digital and Technologies

• Official project application requirements

• University of Southampton funding details on competition status

导师、论文与研究条件

• Dr Vahid Yazdanpanah staff profile

• Agents, Interaction and Complexity research group

• Computational Responsibility for Trustworthy Citizen-Centric AI

• Reasoning about responsibility in autonomous systems： challenges and opportunities

• Responsibility of AI Systems

• Formal Specification of Actual Trust in Multiagent Systems

机构、领域与生活资料

• Vahid Yazdanpanah personal academic page

• DBLP author profile： Vahid Yazdanpanah

• QS University of Southampton profile

• Postgraduate tuition fees

• Student living costs in Southampton

• Accommodation fees and contracts