维塔利克·布特林警告：人工智能未来可能走向封闭

Vitalik最近聊AI安全，很认同Kimi新模型的风控思路：不去卡用户，而是直接砍掉模型里面搞网络攻击的能力。但他也敲警钟了，这只是比较好的一条路。要是AI带来的安全问题乱了套，以后所有AI都要实名，还要被严格监管，到时候想自由用模型就很难了。下面小编简单梳理了Vitalik点赞Kimi新模型的安全限制思路。

以太坊联合创始人Vitalik Buterin支持中国AI开发商Moonshot AI限制其新款Kimi K3.1 Pro的攻击性网络功能。他认为，限制使用场景比限制用户更好，并警告说，如果AI风险处理不当，可能会将整个行业推向严密的监查和基于身份的访问控制规则。

Buterin对Kimi K3.1 Pro的评价

据戈克斯坦引用的一篇文章称，布特林写道，他“并不反对Kimi3.1故意在其训练数据中排除高端进攻性网络能力”。他还补充说，区别对待不同的应用场景远比区别对待用户要好得多。

布特林表示，世界需要尽可能多的时间来做好准备，加固系统，检查旧代码，并在威力强大的网络攻击到来之前正式验证新代码。PANews报道称，他还警告说，如果第一波AI风险处理不当，可能会出现反乌托邦式的局面：模型被严格监管，所有访问权限都需经过KYC（了解你的客户）检查，以及无处不在的监控。在这种情况下，人们可能会根据其身份和国籍面临不同级别的模型访问权限。

Moonshot AI对模型做了哪些改变？

据Strat News Global报道，Moonshot AI于10月24日宣布了这些安全措施。这家总部位于北京的公司称，KimiK3.1Pro是其参数量达三万亿级的最强开放权重模型。该公司表示，已从训练语料库和强化学习环境中移除了网络安全相关数据，同时保留了模型的通用编码能力。

Moonshot在其技术博客中表示，其目标是不发布会拓展网络能力绝对边界的开放权重。该公司还表示，该模型的进攻性网络能力，按设计而言，低于其自身流程所能产生的能力。

该公司报告称，K3.1Pro在内部网络安全基准测试中得分81.0%，而未采用风险降低措施的类似版本得分为90.5%。据UA.News转载的《快报论坛报》指出，这些结果尚未经过独立验证。该报道还称，Moonshot计划于11月4日前公布模型权重。

这些限制措施的持久性仍存在疑问。据《人工智能周刊》报道，在最近的一期播客节目中，主持人内森·兰伯特和弗洛里安·布兰德指出，一些服务已经提供了其他开源模型的简化版，但这些版本却移除了安全措施。他们没有给出修改版K3.1Pro的时间表，而Moonshot也未说明如果出现修改版，他们会如何应对。

Buterin长期致力于人工智能的安全和隐私保护。据BigGoFinance报道，本月初，他发布了一套开源的人工智能代理隐私保护方案，该方案利用Tor路由和零知识支付技术，使模型提供商更难识别用户身份。