最近，关于开源（Open Source）的讨论再次成为热点话题。有人表示，没有开源，人工智能将一无所有，继续保持AI的开放性。这个观点得到了众多人的支持，包括图灵奖得主、Meta首席科学家Yann LeCun。
假如我们想象一下，如果工业界的AI研究实验室一直都是封闭的，没有开源代码，并且对所有内容都申请和执行专利，那么今天的AI行业会是什么样子呢？
开源的重要性
开源（Open Source）在人工智能领域扮演着重要的角色。它意味着将AI模型的代码和权重开放给公众，使研究者和开发者能够自由地使用、修改和共享这些技术。这种开放性推动了AI领域的创新和发展，让众多优秀的模型得以诞生。
想象一下，如果没有开源的PyTorch框架，以及一系列开源模型如Transformer、ResNet、Mask-RCNN等，AI行业将无法取得今天的成就。这些开源项目为AI研究和应用提供了强大的工具和基础。
模型权重的安全担忧
然而，一些公司，如OpenAI和Anthropic，不愿意开源他们的大模型权重。为什么会这样呢？原因在于模型权重被视为极为重要的知识产权，同时也存在着安全担忧。
在深度学习领域，模型权重是神经网络学习和做出预测的关键机制。这些权重的最终值决定了模型的性能。因此，保护这些权重免受未经授权的访问至关重要。
兰德公司的一项研究指出，虽然权重不是大模型需要保护的唯一组成部分，但它们与模型的大量计算、收集和处理的训练数据以及算法优化密切相关。泄露模型权重可能使恶意行为者以非常小的训练成本来利用完整的模型，从而带来潜在的风险。
公司的安全关切
为了保护模型权重的安全，一些大模型公司投入了大量资源。例如，Anthropic公司的首席信息安全官Jason Clinton表示，他将一半的时间用于保护模型权重文件。他强调，公司更关心的是防止这些强大技术落入恶意人士之手，从而产生不可估量的负面影响。
这种担忧不仅存在于公司内部，也受到政府和监管机构的关注。白宫最近发布的行政命令要求大模型公司向政府报告模型权重的所有权、占有情况以及采取的保护措施，以确保模型权重的安全性。
安全威胁的研究
一份由兰德公司发布的报告《Securing Artificial Intelligence Model Weights》指出了人工智能模型权重面临的安全威胁和未来风险。该报告列出了40种不同的攻击向量，强调这些威胁不仅是理论上的，而且已有证据表明它们正在被执行，甚至在某些情况下已被广泛部署。
这些安全研究表明，模型权重的泄露可能会对国家安全、隐私和道德产生严重影响。因此，公司对模型权重的保护和安全性非常重视。
开源与安全的平衡
在开源和保
护模型权重的问题上，存在复杂性和权衡。开源能够推动技术的创新和普及，但也可能带来安全风险。因此，需要在保护知识产权和促进创新之间寻找平衡。
斯坦福大学人工智能学院的政策简报《Considerations for Governing Open Foundation Models》指出，开放基础模型可以对抗市场垄断，促进创新，并提高透明度。然而，与封闭模型相比，其风险尚不明确，需要谨慎对待。
结语
开源与保护模型权重之争在人工智能领域引发了广泛的讨论。虽然开源为技术创新提供了巨大的推动力，但模型权重的安全问题也不容忽视。寻找开源与安全的平衡将是未来AI发展的重要议题，我们期待看到技术和政策的不断进步。
微信扫一扫 
