Anthropic公布最新可解释性研究成果
talkingdev • 2024-02-27
952760 views
Anthropic的研究科学家一直在研究一种使用电路的理解深度神经网络的方法。这些电路旨在识别模型中用于特定任务的子部分。研究团队公布了他们尝试和结果的月度更新。通过使用电路，Anthropic的研究人员已经能够更好地理解神经网络，并且正在努力为机器学习社区提供更多的工具。在最新的更新中，他们展示了如何使用电路分析卷积神经网络，以及如何使用电路来解释基于语言的模型。