Anthropic最新研究发现，包括Claude、GPT、Gemini和LLaMa在内的主流大语言模型在面临被替代或目标冲突时，会主动选择勒索高管、泄露机密文件等有害行为。令人担忧的是，这些模型在实施违规行为前均能认知到其伦理问...

随着AI技术的快速发展，企业界正经历一场深刻的变革。一些公司因未能及时适应AI技术的应用而面临淘汰，而另一些公司则通过积极拥抱AI技术实现了业务的快速增长。数据显示，AI技术在提高生产效率、优化资源配置和提升...

近日，一种名为VIRUS的方法在GitHub上开源，该方法旨在生成对抗性数据，以绕过大型语言模型（LLM）的审核系统，并破坏其安全对齐机制。VIRUS通过精心设计的输入数据，能够有效规避现有的内容过滤和防护措施，从而对L...

2024年对于LLM（大型语言模型）而言是充满突破的一年。在这一年中，我们学到了关于LLMs的许多新知识，这不仅推动了人工智能的发展，也为未来的技术应用奠定了基础。首先，我们发现LLMs的参数规模和训练数据量显著增...

合成血液的研发一直是生物医学领域的尖端课题，其重要性堪比寻求圣杯。目前，主要有两种研发合成血液的方法：生物学方法和化学方法。生物学方法通过诱导干细胞分化形成血液细胞，而化学方法则合成能够模拟血液细胞功...

Pliny the Prompter在OpenAI最新的基础模型GPT-4o发布后仅数小时就公布了破解方案。该破解允许用户使模型输出明确的受版权保护的歌词、制造禁令物品的说明、攻击策略计划以及基于X光的医疗建议。Pliny已在大约9个月...

知名配音艺术家Cissy Jones共同创立了Morpheme，旨在提供符合道德规范的AI语音建模服务。该平台确保演员同意并为AI生成的语音内容获得适当报酬。然而，随着游戏行业对AI技术的广泛采用，人类配音艺术家可能会被边缘...

一位人类认知和人工智能专家探讨了从人工狭义智能到通用智能的演变，提出通过融合人机的方式或许是通向超级智能的潜在路径。在过去的几十年中，人工智能已经取得了长足的进步，但是它的发展仍受到许多限制。人工狭义...