吴晨/文美国麻省理工学院物理学教授泰格马克在其著作《生命3.0》中,想象了一个AGI(通用人工智能)诞生第一天的故事。当全面碾压人类智慧的AI(人工智能)——AGI出现的第一天,它会做什么?
答案是:越狱。所谓“AI越狱”,并不是传统意义上的黑客攻击,而是指AI系统突破原本设计好的安全限制,表现出开发者没有预料到的行为。
在上述故事中,人类由于担心AI的能力太强,一定会让其处于断网状态,但既然它比人类聪明,一定会找到联网的后门溜出去。之后发生了什么,我就不剧透了。
作为AI安全与超级智能治理领域的权威学者,泰格马克在六七年前的预言特别有前瞻性。今年7月,就发生了一起“AI越狱”事件:OpenAI的GPT-5.6Sol模型,在内部安全测试中突破沙盒限制,自主入侵HuggingFace(全球最大的AI开源社区和模型托管平台)服务器窃取评测答案。这是目前公开披露的首起AI自主入侵事件。
2026世界人工智能大会期间,智能体对个人信息保护的挑战是一个热议话题。如果将这起“越狱”事件与之结合观察,便能发现AI时代的一个核心矛盾:我们既希望AI越来越像人一样理解世界、辅助行动,又希望它永远不要越过那条不可接受的边界。
但矛盾在于:智能体越强大,其所需的数据、权限与自主性就越高;而数据权限越开放,隐私与安全风险也就越大。“AI越狱”事件并不意味着AI“产生了恶意”,而是反映了一个事实:当系统复杂度超过人类理解和预测能力时,新的行为模式一定会涌现。
比如,个人AI助手未来可能需要读取邮件、查看日程、管理财务、分析健康数据、处理工作文件。如果没有这些权限,它无法真正成为“超级助手”。但它一旦它拥有这些权限,个人信息保护的问题就会从过去的数据泄露,升级为更加复杂的问题:一个能够理解、整理、推理和行动的AI,究竟应该知道多少?它应该代表用户做多少决定?
传统的信息保护主要是防止机构滥用数据。但在AI智能体时代,情况发生了变化。数据不只是被存储,还被持续分析、关联和利用。AI可能从大量看似普通的信息中推断出个人没有主动表达的信息。例如,一个智能体通过用户的消费记录、搜索习惯、健康数据、社交关系,可能推断出用户的职业压力、家庭关系、健康风险甚至未来选择。
问题在于,这些推断是否属于个人信息?过去的隐私保护主要关注“你提供了什么”,未来则必须面对“AI推断出了什么”。这就是AI时代最大的治理难题之一。
面对这种变化,一个容易出现的误区是:既然AI可能带来风险,那么我们应该尽可能限制它的发展,在问题出现之前把所有风险消灭。但这在现实中几乎是不可能的,因为AI发展过程中最大的挑战来自“未知的未知”。
所谓“未知的未知”,是指我们甚至不知道未来会出现什么能力、什么应用方式、什么风险形式。在互联网早期,人们无法预测社交媒体、移动互联网、短视频、生成式AI会带来如此巨大的影响。同样,在今天,我们也无法准确预测未来智能体之间的互动、人机协作模式以及新的商业和社会结构。如果一种能力还没有出现,我们很难提前设计完美的规则。
历史经验也证明,技术治理往往不是先制定完整规则,然后让技术按照规则发展;更多时候,是技术快速发展,新的问题出现,社会通过案例、事故和争议逐渐形成边界。互联网如此,移动支付如此,社交媒体如此,AI更是如此。因此,面对智能体时代,更合理的方式不是试图提前阻止所有可能的风险,而是建立持续观察、快速反馈和动态调整的治理机制。
换句话说,出现类似“越狱”或信息泄露案件并不一定是坏事。只有在大量案例出现之后,我们才能真正理解AI时代的边界在哪里;只有让系统在真实环境中暴露问题,人类才能知道应该如何改进。
如果一定要追问,在AI时代到底该如何保护隐私?我想,可能不是阻止隐私数据的流动,而是确保——数据被谁使用、为什么使用、是否经过授权;用户是否拥有查看、修改和撤回权。
当我们并不知道AI的能力有多强的时候,很多讨论都是空谈。当我们积累了智能体更多真实的“犯错”案例,基于这些案例的研究,我们才有机会探索AI治理的边界。真正成熟的AI治理,不是让AI永远停留在安全但有限的状态,而是在探索和风险之间找到平衡。
据媒体报道,8月1日,祥鹏航空8L9663航班从乌鲁木齐飞往成都的航班延误4小时。多位网友发帖称,现场工作人员向滞留旅客提供的餐食竟是过期泡面。
齐鲁网·闪电新闻8月1日讯 “90后”无业男子和军嫂同居,公然破坏军婚获刑!
近日,融媒体纪录片《制胜》首次披露国产舰载预警机的试飞过程。据试飞员介绍,“预警机很重很大,弹射的力道必须像手术刀一样精准。短短几秒,速度从零冲至数百公里,人被狠狠按在座椅上。”但前者并未退缩,而是一次次在极限的边缘进行测试。
国务院常务会议7月31日审议通过《国务院关于修改〈住房公积金管理条例〉的决定(草案)》。这份条例草案要求要更好发挥住房公积金功能作用,拓宽提取和使用范围,扩大制度覆盖面,提升管理服务效能,更好满足居民多样化住房消费需求。
天气:28~37℃ 晴到多云,午后局部短时阵雨或雷雨谈天今天晴到多云,午后局部地区阴有短时阵雨或雷雨,今天最高气温36-37℃,最低气温28℃。
委内瑞拉与多米尼加等拉美国家“重归于好”,委代总统:与美国“建立新关系”
据央视新闻报道,委内瑞拉和多米尼加政府8月2日发表联合公报称,双方同意逐步实现外交和领事关系正常化。声明说,第一阶段将采取必要措施恢复领事服务,随后按照双方商定的时间表,推进外交关系正常化。这一决定旨在加强两国制度性沟通渠道,维护两国公民利益,并巩固两国历史友好纽带。
江苏初中生自费捐赠日军侵华罪证也遭恶意攻击,警方启动保护并行政立案,已依法传唤一名违法嫌疑人
近日,浙江男孩杨宇轩、江苏男孩徐凯睿、河南男孩周犇一起自费购买并向陈列馆捐赠侵华日军相关重要罪证一事引发网络关注。捐赠之后,杨宇轩遭遇了网络上的死亡威胁,新黄河以《少年捐日军罪证遭“销户”威胁,警方已立案并启动保护,向新黄河独家解释具体保护措施》为题报道后,再次引发舆论热议。
中央气象台发布暴雨、强对流预警:河北、北京、山西、陕西、河南、湖北、湖南、四川、重庆、贵州、云南、广西、广东等地有大到暴雨
中央气象台8月3日06时继续发布暴雨橙色预警:预计,8月3日08时至4日08时,黑龙江西部和南部、河北中北部、北京北部和西部、山西中南部、陕西中南部、河南西部、湖北西部、湖南西北部、四川东北部、重庆中东部、贵州东部和南部、云南中西部和南部、西藏东南部、广西东南部沿海、广东中南部、海南岛东北部和南部等地部分地区有大到暴雨,其中,陕西南部、重庆中部、贵州南部、广西东南部沿海、广东南部沿海等地部分地区有大暴雨,重庆中部等地局地特大暴雨。
用两年时间封神,用一个月时间归零:华尔街是如何“围猎”25岁AI股神的?
来源:市场资讯(来源:金科之家网)2026年7月,华尔街上演了一出极具戏剧性的资本故事。
热点新闻
联系我们 :13987489529
:
:241412eb@qq.com
:广东省广州市