语言模型安全防护：心理健康危机响应机制研究

项目介绍 大型语言模型日益嵌入当代数字环境中，但其在处理危机相关交互方面仍存在不一致性，并带来重大安全风险。当经历自杀念头、自伤冲动或急性心理困扰的个人向AI系统寻求帮助时，模型可能提供不当指导、遗漏关键严重性指标，或无意中引用危险方法。这种脆弱性在风险群体中尤为突出，他们可能在急性危机期间将AI平台作为主要甚至唯一的支持来源。

本项目旨在构建可靠的保障机制，使LLM在处理自杀及其他心理健康危机相关内容时能够提供适当、支持性的响应，同时在常规对话语境中保持性能。研究计划将聚焦于创建和验证一套综合安全干预措施，以在心理健康紧急情况下减轻有害模型输出。这项工作的核心将探索表征层面的引导方法以及表征工程文献中的相关技术，这些技术可以调节模型表征以抑制不安全输出，同时保留支持性、富有同理心的沟通能力。其他方法将包括针对性微调、提示工程保障措施和响应层面的过滤机制。这种分层架构承认单一技术在高风险领域存在固有局限性，有效的保护需要多重重叠防御。

实证方法将利用异质数据，包括表达自杀倾向的用户生成内容、专业危机支持对话，以及针对多种危机表现的结构化对抗性测试。与社会护理、医学和社会科学领域的专家合作，将使安全措施建立在既定的自杀预防和应急响应临床框架之上。这种跨学科合作对于建立平衡技术有效性与临床一致性的评估标准至关重要。

全面评估是本项目的基石，涵盖代表不同危机表现、地理/语言背景和人口群体的多样化测试场景，重点关注在AI研究中历史上代表性不足的人群。评估不仅验证有害输出的抑制，还验证真正有益响应的生成：适当的危机识别、真实的情感响应，以及引导个体寻求专业帮助。研究还将包括对抗性操纵的韧性和触发虚假保护警报的边缘情况的识别。

项目旨在产出实际成果：可集成到现有LLM中的安全层、用于评估危机响应能力的评估框架，以及高风险情境下负责任AI开发的指导原则。贯穿始终，我们将解决伦理考量，包括隐私、安全与自主性的平衡，以及AI参与的适当范围，确保技术解决方案补充而非取代人类支持。

申请要求 学习方式：全日制或非全日制

请通过“Computer Science and Informatics - Study - Cardiff University”提交申请。在申请的资金字段中，注明“我正在申请计算机科学与信息学的自费博士学位”，并在提供的文本框中注明本项目标题和导师。

学术标准： 计算机或相关学科的二等一荣誉学士学位或硕士学位。具有适当专业经验的申请人也会被考虑。某些项目领域的研究需要学位水平的数学（或同等学历）。

申请人必须证明英语语言能力。非英语母语的学生必须通过雅思考试证明这一点，总分至少6.5，各技能部分最低6.0。可在此处查看接受的资格完整列表：https://www.cardiff.ac.uk/study/international/english-language-requirements/postgraduate

如有兴趣，请联系Carla Perez Almendros博士（perezalmendrosc@cardiff.ac.uk），首先发送您的简历。申请过程要求您与指导团队共同制定个人研究计划，该计划应基于本广告中提供的信息。

申请材料： • 在申请的“研究计划”部分，输入您申请的项目名称并上传您的个人研究计划。您的研究计划不应超过2000字，包括参考文献和书目。 • 个人陈述（作为大学申请表的一部分，或作为单独附件，如您愿意）。 • 简历。博士学位简历指南可在FindAPhD网站上找到。 • 资格证书和成绩单——原件及英文翻译（如适用）。 • 推荐信2封，应为学术推荐信。请注意，您需要在申请中提供推荐信文件。 • 英语语言证明（如适用）。

面试：如果申请符合上述所有入学要求，您将被邀请参加面试。

资助信息 本项目仅面向自费学生，或拥有自己资助或奖学金的学生。如适用，候选人需要承担学生签证费用、医疗附加费以及前往英国学习的任何其他费用。这些费用不包括在计算机科学与信息学学院。