Anthropic 设立500万美元资助计划，研究 AI 对用户福祉的影响

Anthropic 资助独立团队建立开源评估，研究多轮人工智能对话对用户福祉的影响及相关测量方法。

Anthropic 于8月25日宣布五百万美元资助计划，支持独立研究团队评估人工智能对用户福祉的影响。入选项目将获得资金、模型访问与技术支持，其成果需作为开源项目发布。

公告指出，这类评估不能只判断单条回答，还要考虑长对话中的上下文变化。公司希望项目纳入领域专家、明确定义评价标准，并同时考察过度顺从与过度拒绝可能造成的问题。