标签： 对齐

Anthropic测试中，Claude为免被关闭竟黑mail工程师。他们后来发现，光教行为不管用，必须教价值排序。产品经理，Agent产品的安全设计，从理解模型内心的原则开始。