編者按:两种模型都面临着不同形式的“被统治”风险。开源模型的自由是相对的,其同样存在独特的脆弱性。国家权力可以通过多种间接手段施加控制:例如,通过出口管制限制训练和运行先进模型所需的高性能芯片(硬件瓶颈), 或未来可能直接管制高能力模型权重的跨境传播;通过法律责任加大开源开发者或社区的法律风险,迫使他们自我审查或限制发布;通过施压代码托管平台(如GitHub, Hugging Face)或模型市场,要求下架或限制访问特定被视为“危险”的模型,实施“平台治理”;以及利用开源模型易于被修改和滥用(如移除安全护栏、“越狱”使用)的风险,将其作为加强监管或限制其发展的理由。中国DeepSeek模型的例子也说明,技术上的“开源”可以与严格遵守国家内容审查要求并存。
Share this post
郭锐|从谷物到人工智能:被统治的选择
Share this post
編者按:两种模型都面临着不同形式的“被统治”风险。开源模型的自由是相对的,其同样存在独特的脆弱性。国家权力可以通过多种间接手段施加控制:例如,通过出口管制限制训练和运行先进模型所需的高性能芯片(硬件瓶颈), 或未来可能直接管制高能力模型权重的跨境传播;通过法律责任加大开源开发者或社区的法律风险,迫使他们自我审查或限制发布;通过施压代码托管平台(如GitHub, Hugging Face)或模型市场,要求下架或限制访问特定被视为“危险”的模型,实施“平台治理”;以及利用开源模型易于被修改和滥用(如移除安全护栏、“越狱”使用)的风险,将其作为加强监管或限制其发展的理由。中国DeepSeek模型的例子也说明,技术上的“开源”可以与严格遵守国家内容审查要求并存。