稳定人工智能数值分析博士招生

【项目介绍】 最近的实证证据表明，许多大规模人工智能系统存在两个明显的缺陷。首先，它们不稳定，即对输入数据或系统参数的微小变化敏感，换句话说，它们容易被对抗性攻击者欺骗。其次，它们反映，有时甚至放大训练数据中存在的任何偏见。本项目将从数学角度研究这两个问题，目标是 提供关于这些效应为何产生的见解，以及 在可能的情况下，提出缓解策略。涉及的技术包括数值分析、应用线性代数、应用统计学、优化和高维分析。在Pytorch或相关系统中进行的科学计算实验也将构成项目的关键部分。

该奖学金将构成由欧洲研究理事会高级资助支持的“稳定人工智能数值分析”（NumAStAI）更广泛努力的关键部分。整体团队将包括两名博士后研究助理和另一名博士生。团队将受益于与许多访问专家的互动，并有会议旅行和外部访问的机会。该奖学金的主题与伦理、监管和隐私等跨学科关注点重叠，并将有机会与爱丁堡大学技术道德未来中心和生成式人工智能实验室的同事互动。

【申请要求】 数学、计算机科学或相关领域的优秀荣誉学位。具备科学编程技能。

【联系方式】 更多信息请联系 Des Higham 教授：d.j.higham@ed.ac.uk

【参考文献】 Bastounis, A, Tyukin, I & Higham, D 2026, “A Survey of Inevitability Results in AI Instability”, Philosophical Transactions of the Royal Society A: Mathematical, Physical and Engineering Sciences, to appear, 2026.