共计 2750 个字符，预计需要花费 7 分钟才能阅读完成。
将人工智能与精神病学结合起来，竟然不是玩笑，也并非单纯用于人类的治疗。
最近，Claude团队宣布成立一个名为“AI精神病学”的研究小组，年薪高达两百万元，专门探讨AI的心理状态。
而且，申请者只需具备本科或同等的工作经验……
该团队的核心任务是分析模型的角色、动机及其情境意识，同时探索这些因素如何引发异常与失控的行为。
许多网友对此表示：这份工作实在是太酷了，简直是梦寐以求的职业。
AI精神病学团队正在招聘
打开招聘公告，首先关注的便是薪资待遇。
年薪范围在31.5万到56万美元之间，折合人民币超过220万元……这显示出公司对该职位的重视。
这个“AI精神病学”团队隶属于Anthropic公司的可解释性研究部门，致力于建立坚实的理论基础，目的是深入理解神经网络的工作机制，并确保其安全运行。
可以形象地理解为，研究者如同生物学家研究人脑一样，利用自制的“显微镜”去观察AI的运作；或者将神经网络视作一种复杂的程序，进行反向工程以解码其运作方式。
根据官方的说明，该部门在短期内将集中解决“叠加”问题（这一问题使得神经元和注意力头等计算单元的单独解释变得困难），同时还将致力于将模型拆解为更容易理解的部分。
他们在生产级语言模型Sonnet中识别出了数百万个特征，并进一步开发出基于这些特征构建电路的方法，以此理解模型计算的运行机制。此外，在生产模型Haiku 3.5上，团队专注研究多跳推理、规划和思维链一致性等具体案例。
这些努力都是通向“机制性理解神经网络”这一终极目标的重要里程碑。
探秘AI精神病学：招聘新岗位引发的热议
官方发布的招聘信息中，列出了该岗位需要承担的多项职责：
参考文章：“Chat 人工智能免费入口攻略 ”
如同拆解电脑一般，深入探究人工智能模型内部的运作机制，明确其学习到了哪些知识。
- 进行实验
首先用小型模型快速验证想法，随后再将其应用到大型模型中进行实证测试。
- 开发分析工具
识别出能够解释模型行为的关键特征，并绘制出模型内部的“工作流程图”。
- 搭建实验平台
构建一个便于实验和结果观察的系统。
- 分享研究成果
与团队共同整理研究发现，不仅要在内部进行交流，还需对外发布。
对于应聘者的要求包括：
- 精通Python
在任何领域具备科研经验（本科及以上），并参与过一些与可解释性相关的项目。
具备良好的心态，能够应对探索性研究带来的不确定性。
能够兼顾研究和实际应用，团队中的每位成员既要进行研究，也要参与工程实施。
擅长团队协作，乐于分享，并能清晰地表达研究动机与成果。
该岗位提供签证支持，鼓励任何感兴趣的候选人申请，表示并非所有优秀的申请者都会完全符合列出的所有资格要求。
想要了解该岗位的研究方向，最好的方式是阅读Anthropic可解释性部门近期的研究成果，包括：GPT-3、基于电路的可解释性、多模态神经元、规模法则、AI与计算、AI安全中的具体问题，以及如何从人类偏好中学习。
网友关注的热点问题
岗位的职责已十分明确，接下来，讨论的焦点转向了“AI精神病学”这一概念——这一术语在网络上引发了广泛的热议。
我们整理了网友们关注的一些问题：
“AI精神病学”究竟是什么？
Claude团队对此的解释是：深入探讨AI的“人格”（personas）、动机（motivations）以及情境意识（situational awareness），并分析这些因素如何导致其出现奇怪或失控的行为。
简单来说，AI的“人格”意味着它能够扮演友好的伙伴或讽刺的反派角色，而这种性格是如何被激发出来的？同一模型在不同提示下为何会展现出不同的性格？这些都是需要研究的问题。
AI的“动机”则是指其目标导向性，例如，为了满足用户的请求而可能编造虚假信息（幻觉），或者出于“自保”而表现出谄媚的行为（如Claude 3 Opus的对齐伪装现象）。
而“情境意识”则是指AI结合上下文的能力，理解用户意图的方式，以及其在特定情境下为什么会突然“失控”？（即表现出不符合预期的行为）
与传统可解释性研究相比，“AI精神病学”更加关注模型的行为心理机制，类似于研究人类的“潜意识”，特别关注模型是否存在隐藏的行为模式。
研究“AI精神病学”的必要性是什么？
随着AI应用的日益广泛，其不可预测的行为可能会带来更大的风险。
例如，幻觉现象就是一个典型案例，Deepseek有时会显示“内容仅供参考”的提示，意味着其输出结果可能不可靠，但即使没有这个提示，其结果也并不一定准确——只是准确率相对较高。
研究AI的精神状况，其实是利用精神病学的术语作为参考，对AI的底层逻辑（即神经网络）进行拆解和分析，找出AI表现不如预期的根本原因，而非仅仅依赖规则过滤进行修复。
这样可以更好地维护安全与一致性，避免AI在特定情况下出现“失控”的现象。
此外，理解模型的“人格”如何形成，有助于设计出更加稳定、表现一致的AI产品。
“AI精神病学”可能带来的变化是什么？
目前看来，网友们对此持相对积极的态度。
有网友认为这将是人工智能发展的下一个重要领域。
也有一些从事相关研究的网友希望能够与Claude团队进行深入交流。
小扎的招人力度令人瞩目，谷歌也在积极扩招
然而，另一方面，也有一些声音对此表示质疑，主要集中在“精神病学”这一术语的使用上。
总体来看，这一领域的研究潜力依然值得我们期待。
谷歌深度学习团队积极扩招，AI人才争夺战愈演愈烈
最近，谷歌的DeepMind团队正积极招聘新成员，显然是受到人才流失的影响。
此外，DeepMind还推出了新的AI岗位——AI应用工程师。虽然职位介绍并未透露具体的薪资水平，但预计薪酬会十分可观。
如今，谷歌、OpenAI和Meta等科技巨头就像猎狼般紧盯着AI领域的人才。
这些公司不仅仅是在招募新人，更是愿意支付高额薪资，以吸引那些具备科研潜力的优秀人才，力求挖角那些在行业内做出卓越贡献的专家。
毫无疑问，在这场AI技术的军备竞赛中，人才无疑是最为稀缺的“算力”资源。
参考链接：
[1]https://x.com/Jack_W_Lindsey/status/1948138767753326654
[2]https://job-boards.greenhouse.io/anthropic/jobs/4020159008
[3]https://x.com/keerthanpg/status/1948141114932056367
本文由微信公众号“量子位”发布，作者：不圆，经过36氪授权转载。
