AI还没毁灭人类,比尔盖茨先来吓人了!
比尔·盖茨又来拯救全人类了。
这一次,他要把人类从人工智能手里救出来。
9月27日,盖茨在美国全国广播公司《与媒体见面》节目中说,AI“足以推动造成十亿人死亡的事件”。当主持人问AI是否可能终结全人类时,他回答,虽然很难达到百分之百的灭绝,但恶意行为者与最新AI工具结合,可能成为前所未有的强大武器。
然后,熟悉的剧情就来了。
既然风险如此巨大,当然不能让企业自己决定。必须立法。必须让执法机关和政客参与。必须建立强制性的安全措施和监控机制。
一个月前,盖茨还发表了一篇近六千字的长文。他主张建立新的国内和国际AI治理机构,划出一批“人类专属岗位”,对AI token和机器人征税,用税收减缓企业用机器替代人的速度。
末日还没来,管理机构先来了。
十亿人还没死,税单先开出来了。
这套操作,我们实在太熟悉了。
01、“十亿人死亡”是怎么算出来的?
先把事实说清楚。
盖茨并没有断言AI一定会毁灭人类。他的准确意思是,AI可能被恶意行为者用于生物攻击、网络攻击等活动,并推动造成十亿人死亡的事件。
这种风险当然不能说绝对不存在。
AI可以帮助防御者发现软件漏洞,也可以帮助攻击者利用漏洞;可以帮助研究人员开发药物,也可能降低设计危险病原体的知识门槛。任何提高人类行动能力的通用工具,都可能同时被好人和坏人使用。
问题是,“可能造成伤害”与“需要建立全球管制体系”之间,隔着一条巨大的逻辑鸿沟。
十亿人这个数字怎么来的?
概率是多少?
具体通过什么路径发生?
哪些现有法律无法处理?
拟议中的监控又能降低多少风险?
监控造成的权力集中、创新损失和安全风险由谁承担?
在公开采访中,盖茨没有提供可以验证的概率模型,也没有给出一条足以支持“十亿人”这个数量级的完整因果链。他抛出了一个极其惊人的数字,接着便把立法、监控和国际机构摆上桌面。
这不是严谨的风险分析。
这更像一场末日营销。
只要把最坏结果说得足够恐怖,提出问题的人就会被要求闭嘴。你若反对扩权,就会被质问:万一真死了十亿人,你负责吗?
按照这种逻辑,任何权力都可以得到辩护。汽车可能撞死人,所以政府可以决定每个人去哪里;互联网可能传播犯罪知识,所以政府可以查看所有通信;菜刀可能杀人,所以每一把菜刀都应实时联网监控。
只要把“可能”放在前面,把“毁灭人类”放在后面,中间似乎什么都可以塞进去。
02、政府什么都不懂,所以应该管起来
整场采访最荒唐的一幕,是盖茨亲口承认,政府对AI危险边界的专业知识非常少。
可是几句话以后,他的结论居然是:必须让执法机关和政客参与,安全和监控必须成为强制要求。
这是什么逻辑?
因为政府不懂,所以应该让政府决定。
因为政客缺乏知识,所以应该把强制权交给政客。
因为官僚无法跟上技术发展,所以应该让技术发展先停下来等官僚。
一个企业不懂技术,投资失败,亏的是股东的钱。消费者不喜欢它的产品,企业就会失去收入。竞争对手还会抓住它犯错的机会。
监管机构判断错误呢?
它不会破产。
官员不会因为一项有价值的技术被禁止、一个小企业被合规成本压死、几百万消费者失去低价产品而赔偿。他们最安全的做法,永远是多审批一道,多监控一层,多禁止一种可能。
米塞斯反复说明,官僚组织不是依靠利润和亏损接受检验,而是依靠规则和预算运转。缺乏经济核算,官僚就无法知道自己消灭的机会究竟值多少钱。
盖茨看见了AI企业可能犯错,却假定监管者站在错误之外。
这不是风险意识。
这是对权力的迷信。
03、到底是谁需要被监控?
盖茨说,最危险的是恶意行为者使用AI。
这句话本身没有错。
错的是他把“恶意行为者”悄悄换成了“所有开发者和所有用户”,再把对具体犯罪的追责,换成对通用技术的预先监控。
罗斯巴德的原则非常清楚:法律针对的应当是侵害,而不是没有发生的想象。
一个人用AI诈骗,就追究诈骗责任;用AI侵入医院系统,就追究侵入和损害责任;用AI设计并投放生物武器,就是对他人生命和财产的严重侵犯。行为人造成多大损失,就承担多大责任。
但不能因为有人可能犯罪,就先把所有人的计算、交流和研究纳入监控。
更讽刺的是,盖茨自己的长文也承认,AI会让政府更容易实施自动化武力、监控民众和操纵舆论。他已经看见权力机构掌握AI的危险,给出的药方却是让权力机构掌握更多监控权。
请问,谁来监控监控者?
企业滥用数据,消费者可以离开,可以起诉,可以让它丢掉生意。国家建立的统一监控体系一旦被滥用,普通人退出到哪里?
真正可能形成“单点灾难”的,恰恰不是分散竞争的无数开发者,而是拥有强制力、数据库和统一标准的中心化机构。
04、大公司最喜欢“为全人类负责”
盖茨主张,每一个AI都必须具备强制性的安全和监控能力。他还说,这只会给行业增加“一点点成本”,不会明显拖慢发展。
世界首富口中的“一点点成本”,往往就是小企业的全部利润。
大型科技公司可以养几千人的法务、合规和政府关系团队,可以参加标准制定,可以把自己的技术路线写进行业规则。一个刚刚成立的创业团队却可能连评估、备案、审计和持续监控的固定成本都付不起。
监管成本从来不是按企业大小等比例增加。它是固定门槛。门槛越高,越有利于已经跨过门槛的人。
米塞斯研究院最近刊登的一篇文章,把这套机制说得更直白:今天那些主动要求监管AI的头部企业,未必是在要求政府约束自己,更可能是在要求政府替它们约束尚未出现的竞争者。
这并不是什么新故事。
罗斯巴德在研究美国进步主义时代时就指出,企业在市场上组织自愿卡特尔,往往很难成功。只要联盟里的企业想偷偷降价,只要外面的企业可以进入市场,用更低价格和更好产品争夺客户,卡特尔就会瓦解。
市场竞争最让既有巨头难受的地方,就在这里:你今天成功,不代表明天仍然成功;你拥有资本、品牌和技术,也仍然必须每天接受消费者投票。
但是,行政权力可以解决卡特尔自己解决不了的问题。
一旦“安全标准”变成法定标准,“行业认证”变成营业资格,“风险评估”变成昂贵的固定成本,监管机构又有权阻止某个新模型发布,竞争就不再由消费者决定,而由谁能够进入审批大厅决定。
最先成长起来的企业,当初并不需要承担这些成本。等它们积累了资本、数据、算力和政策关系,却要求后来者先完成安全测试、持续审计、合规认证和各种备案,才有资格和它们竞争。
这像什么?
一个已经爬上楼顶的人,转身把梯子抽走,再告诉下面的人:我是为了你们的安全。
那篇文章以十九世纪美国铁路业为例。铁路巨头长期无法依靠自愿协议维持卡特尔,后来转向寻求联邦“监督”。1887年《州际商业法》和州际商业委员会建立后,行政力量才有能力替行业巨头维持它们自己维持不了的秩序。此后,钢铁、糖、石油和肉类加工等行业纷纷学习这种方法:把限制竞争包装成保护公众。
今天的词换成了“AI安全”,制度结构却十分相似。
昂贵测试是谁付得起?大公司。
谁最有能力参与标准制定?大公司。
谁最能承受漫长审批?大公司。
谁会被“不够安全”挡在门外?没有政府关系、没有法务团队、没有雄厚资本的新企业和开源开发者。
很多人把这种现象称为“监管俘获”,仿佛监管原本代表公众,只是后来不幸被企业利用。罗斯巴德式的分析更进一步:不少监管安排从形成之初,就离不开既有企业与权力的共同推动。企业得到准入壁垒,官僚得到预算、职位和决定行业命运的权力,双方各取所需;消费者则得到更少的选择、更慢的创新和更高的价格。
盖茨在自己的文章中承认,他仍与科技行业存在财务联系,也在与微软及其他AI公司合作。这不能证明他的动机一定不良,却足以提醒人们:当一个与行业巨头关系密切的人要求政府提高全行业门槛时,不能只听他的道德宣言,还要看规则将产生什么结果。
盖茨不是这些AI公司的现任CEO,因此不能把其他企业家的主张直接算到他头上。但他提出的治理机构、强制监控、岗位限制和AI税,恰好会形成同一类效果:把本来由企业和消费者承担的判断,交给少数能够参与规则制定的人。
结果并不难预测。
最有钱、最接近政策制定者的企业会成为“安全”的代表。开源团队、小企业和后来者则会成为需要被管理的风险。
罗斯巴德早就揭示过,大企业未必总是喜欢自由市场。真正激烈的市场竞争会不断产生新对手。对既有巨头而言,最舒服的状态不是没有监管,而是拥有一套自己付得起、竞争者付不起的监管。
嘴上说保护全人类,最后保护的往往是自己的市场地位。
05、最可笑的是“人类专属岗位”
盖茨还发明了一个听起来很温暖的概念:“人类专属”。
他的意思是,有些岗位即使机器人能够完成,也应当保留给人类。为了避免企业太快采用AI和机器人,还可以划出岗位保护区。
这个主意如果早两百年出现,今天一定很热闹。
我们可以设立“人类专属马车夫”,禁止汽车抢走马车夫的工作;设立“人类专属抄写员”,禁止打印机替代手写;设立“人类专属计算员”,禁止电子表格提高会计效率;再设立“人类专属软件安装员”,禁止操作系统变得太容易使用。
不知道当年微软用软件替代无数人工流程时,盖茨为什么没有主动划出几个“人类专属区”?
盖茨把企业采用AI、降低成本、降价竞争称为可能形成“恶性循环”。
但企业降低成本,竞争对手被迫跟进,商品价格继续下降,这恰恰是市场经济提高普通人生活水平的基本过程。
消费者不是为了给别人提供岗位而购买商品。劳动也不是越多越好。生产的目的,是用更少的资源满足更多需求。
如果十个人能完成过去一百个人的工作,社会并没有损失九十个人,而是释放了九十个人的时间和劳动。新的工作在哪里,不可能由盖茨或某个部门事先列出。企业家正是在不断变化的价格、成本和需求中发现新的用途。
转型当然会带来痛苦。真正帮助劳动者的办法,是让创业更容易、就业更自由、税费更低、货币购买力更稳定,让资本更快进入新的行业。
把旧岗位封存起来,只会把人锁在低效率结构中。
06、机器人还没上岗,税务员先到了
盖茨的政策建议中,最诚实的一项是征税。
他主张对AI token和机器人征税,用税收减缓企业用机器替代人的速度,并为再培训和福利提供资金。他甚至承认,这种做法在经济效率上并非最优,但认为社会“负担得起一点低效率”。
多么慷慨。
企业承担得起,消费者承担得起,工人承担得起,唯独提出建议的人不需要承担。
AI和机器人是什么?是资本品。它们的作用,是提高劳动生产率,让同样的劳动生产更多商品和服务。
对机器人征税,就是对生产率征税。
对AI token征税,就是对知识处理和计算效率征税。
结果是什么?
企业成本上升,产品价格上升,小企业更难使用先进工具,普通人更晚享受技术进步。国际竞争中没有征税的企业取得优势,被征税地区的岗位反而流失得更快。
然后,倡议者还可以站出来说:你看,市场果然制造了失业,我们需要更多税收和干预。
先打断你的腿,再向你出售拐杖。这就是许多“保护劳动者”政策的真实结构。
07、AI真正需要的是责任,不是救世主
AI不是天使,也不是魔鬼。
它是人类行动的工具。
一个工具越强大,使用者承担责任就越重要。但责任和监管不是同一个东西。
责任意味着:谁作出决定,谁承担后果;谁侵犯他人,谁赔偿损失;谁作出承诺,谁履行契约;谁隐瞒风险、实施欺诈,谁接受惩罚。
监管经常意味着:由不承担直接损失的人替所有人决定;企业先花钱证明自己服从流程;消费者为合规成本买单;一旦规则失败,再成立一个更大的机构继续监管。
霍普的制度分析提醒我们,不能只听一个制度宣称保护谁,而要看决策者承担什么成本。企业错误会损失资本,消费者错误会损失自己的钱。官僚错误造成的代价,却由纳税人、企业和消费者共同承担。
真正可靠的AI安全机制,会来自多重竞争:模型企业为了声誉设置安全边界,云服务商为了避免赔偿审查高风险使用,保险机构根据风险调整保费,客户通过合同要求数据保护和审计,安全公司靠发现漏洞赚钱,开源社区公开检查代码和模型。
这些机制都可能犯错。但它们彼此独立,承担成本,也可以被替代。
统一的监管者一旦犯错,所有人只能一起承受。
08、不要被末日数字吓得交出自由
比尔·盖茨当然可以担心AI。
他也有权写文章、做采访、劝说企业采用他认可的安全措施。只要是自愿的,他甚至可以拿自己的钱建立认证机构、资助安全研究、为受影响的劳动者提供培训。
问题在于,他不满足于劝说。
他要立法,要强制监控,要建立新的国内和国际权力机构,要保留特定岗位,还要向AI和机器人征税。
这就不是发表意见了。
这是要求全社会为他的判断买单。
一个靠技术创新成为世界首富的人,现在告诉年轻创业者:你们的创新太快了,需要等一等;告诉企业:你们提高效率太快了,需要交税;告诉消费者:你们不能只看产品是否好用,还要接受我们替你们设计的“人类未来”。
这场面当然值得嘲笑。
AI可能犯错,企业可能作恶,人类也可能利用技术伤害他人。这些都是真的。
但另一个事实更加确定:每一次以末日为名建立的权力,都不会只在末日到来时使用;每一项以保护为名开征的税,也不会只由比尔·盖茨支付。
AI是否会造成十亿人死亡,盖茨没有证明。
可他的方案会制造更多官僚、更多监控、更多税收、更高门槛,这几乎不需要预测。
所以,人类现在最不需要的,就是又一位亿万富翁站在聚光灯下,用一个无法验证的末日数字,替全世界设计制度。
AI还没有毁灭人类。
别让“拯救人类”的人,先把人类的选择权毁了。