在硅谷，大量的风险投资为初创企业提供了资本，但是这对于创始人来说往往只是开始。一家公司的成长需要时间，而在这个过程中，创始人的财务状况可能会受到影响，导致他们不得不提前卖出股份。因此，一些公司开发了一...

一群现任和前任的AI员工呼吁先进的AI公司承诺遵守一系列原则，以确保在员工提出风险相关问题时的透明度和保护措施。他们特别强调，公司需要避免执行不贬低协议，建立匿名举报机制，支持公开批评，并防止对举报者的报...

Sam Altman是硅谷最为高产且激进的个人投资者之一。他所管理的投资帝国，截至今年年初，持有的资产价值至少为28亿美元。然而，这个投资组合的大部分内容并不为人所熟知。这篇文章将带领读者了解Altman投资的已知部分...

TikTok正致力于为其美国用户群开发一套独立的推荐算法，这一举措可能是为了应对美国立法者对其数据安全和隐私保护的担忧，并有可能影响其在中国母公司字节跳动之外的独立运营。据悉，该项目在国会今年初开始讨论强制...

尽管一些专家认为通用人工智能（AGI）可能在不久的将来实现，但由于缺乏对一般智能的连贯理论模型以及对大型语言模型（LLM）为何或如何如此高效的理解，整体共识仍然不确定。讨论强调了围绕AGI的巨大未知数，类似于...

一项新的研究论文详细揭示了AI模型Claude 3 Sonnet的内部工作机制，展示了如何通过激活与金门大桥等概念相关的“特征”来影响模型的反应。通过调整这些特征的强弱，研究人员能够引导Claude的回答包含特定元素，展示了...

近日，研究人员发现了一种针对视觉变换器（Vision Transformers）的新型安全威胁。这种被命名为“SWARM”的攻击手法，利用一个“切换令牌”秘密激活模型中的后门行为，使其对用户具有高度的隐蔽性和危险性。视觉变换器是...

谷歌DeepMind近日推出了一项名为“先锋安全框架”的新技术，以应对未来先进AI模型可能带来的风险。这个框架确定了对可能有害的AI能力的关键能力级别（CCLs），并根据这些CCLs对模型进行评估，当达到阈值时，应用缓解策...