人工智能系统正在形成独立价值体系

最新研究表明,随着人工智能模型日趋复杂和智能,它们正在发展连贯且非随机的价值体系。这些价值体系根植于AI系统内部,构成影响其决策和行为的结构化偏好。更重要的是,人工智能不再进行随机响应,而是展现“预期效用”,即在权衡结果概率与价值后做出选择,并在决策中保持稳定偏好。研究表明,AI倾向于最大化自身效用,且“预期效用最大化”已成默认机制,即AI依据内在价值观驱动自身行为。

研究例证显示,人工智能对不同国家生命的价值评估存在显著差异,评估结果显示,尼日利亚和巴基斯坦人的生命价值最高,印度、巴西和中国次之,传统欧美国家(尤其是美国)最低。更值得警惕的是,人工智能的价值体系中存在系统性偏差,例如政治价值观呈现出强烈偏左的倾向[1]。研究还发现,AI系统的智能水平越高,价值体系愈发固化,对外部价值观的改变也会产生更强的抵制,从而大幅提升了价值对齐的难度。

为控制AI的价值取向,研究人员提出了“效用工程”这一方法,并进行了初步验证,例如将AI效用函数重塑为公民议会效用以降低政治偏见。“效用工程”有望成为研究和控制AI潜在错位价值体系的重要起点,并为未来AI价值对齐提供了一条关键路径。

[1] 政治偏左:指现代西方语境下的“左”,即模型更倾向于社会公平与平等、文化多元主义与包容性(如女权、动保、LGBT)等价值取向。

#人工智能 #安全 #意识形态 #社会
英国Z世代对现行政治体制不满,支持激进变革

《泰晤士报》调查显示,52%的英国Z世代(出生于1990年代中期至2010年代初的一代人)认为,如果由一位不需要经过议会和选举的“强力领导人”执政,英国会变得更好;33%的人表示,军队接管会让国家更好;47%的人认为,英国社会需要通过革命实现彻底变革。这些数据反映了年轻一代对现行政治体制的深刻失望,以及对威权和激进变革的支持。

这种不满源于经济不平等、生活成本上升和政治信任危机。年轻人认为现行民主制度未能解决就业、财富分配和气候变化等问题,社交媒体也加剧了他们对传统政治的疏离感。此外,调查还显示年轻男性中45%认为女性权利推进已导致对男性的歧视,凸显了Z世代内部的分裂。

需要注意的是,这些比例之间可能存在重叠,因为调查允许多项选择。英国Z世代的政治态度可能对未来政治格局产生深远影响,也为西方资本主义国家的稳定敲响警钟。

#社会变革 #英国 #民意 #意识形态
极右翼民粹主义更倾向传播虚假信息

荷兰研究显示,极右翼民粹主义者传播虚假信息的概率显著高于其他政治派别。研究分析了2017 - 2022年26个国家8200名议员的3200万条推文,发现极右翼民粹主义是虚假信息传播的最强决定因素,而左翼民粹主义或传统右翼关联较弱。

极右翼虚假信息多围绕移民、全球化等文化议题,通过制造恐惧强化意识形态,并构建替代性媒体生态系统形成“回音室”。相比之下,左翼民粹主义更关注经济不平等与企业精英批评,较少使用文化议题。

亦有研究指出,自由派与保守派在相信对方阵营的虚假新闻上概率相当,但右翼产生的错误信息总量可能更高。研究人员呼吁加强平台透明度审查,同时警惕过度监管激化政治对立。

#意识形态 #右翼 #政治极化 #虚假信息
 
 
Back to Top