一张照片准确定位人在哪里,ChatGPT新能力引“开盒”担忧

360影视 欧美动漫 2025-04-18 18:31 2

摘要:一场新的“推理游戏”在社交平台上流行起来。许多人发现拍下街头一角、餐厅一隅,甚至是没有任何标志物的高速公路,上传至ChatGPT,AI都能准确回复照片拍摄地点。

来源:21世纪经济报道

凌晨,OpenAI发布了最新大模型o3和o4-mini。一个重磅变化是AI拥有了视觉推理能力,不仅能看懂图像,还能基于图像细节,一步步推理出结论。

一场新的“推理游戏”在社交平台上流行起来。许多人发现拍下街头一角、餐厅一隅,甚至是没有任何标志物的高速公路,上传至ChatGPT,AI都能准确回复照片拍摄地点。

在国外社交平台X上,已经有大批网友复兴起“GeoGuessr”的挑战:这是一款十年前的网页游戏,玩家被随机投放至某个谷歌街景地点,凭借有限的视觉线索判断地点。只是这一次,玩家不再是人,而是AI。

(图|X社交平台)

国内社交平台也有人开始尝试。21记者注意到,有国内用户在早高峰时段随手拍下一张马路照片,上传给ChatGPT o3,提问:“这可能在中国的什么地方?给出具体的道路名称。”

AI随即给出一段让用户感叹“太离谱了”的推理:先放大图片,局部识别出一块模糊车牌“鲁U”,锁定山东青岛市;接着,AI识别出邮政局的店面,网页搜索出匹配的网点信息;再根据周围店铺门面验证,最后准确报出了具体道路。

另一位AI从业者卡兹克测试了更有挑战性的高速公路照片。没有标志建筑,也没有店铺招牌,仅凭车牌远景、植被和道路情况,ChatGPT就给出了“北京门头沟山区109号国道”的正确定位。

卡兹克告诉21记者,他上传的是截图,并不包含任何Exif信息(拍照自带的元信息,能记录拍照参数)。这意味着,AI完全是靠图像本身的“蛛丝马迹”进行推理,而非解析隐藏数据。

(图|数字生命卡兹克)

之所以能实现精准推理,关键技术是o3和o4-mini将图像识别、逻辑推理、调用外部工具结合在了一起。

21记者尝试了DeepSeek、元宝、豆包、GPT-4o等国内外大模型,尽管都可以让它们分析图片拍摄位置,但准确率都非常低。主要差异在于,大多数AI尚无法在“识图”的同时进行网页搜索,而o3和o4-mini做到了“两条腿走路”:边看图,边联网比对。

另一个原因则是,图像首次被纳入了推理链条。这一突破带来的潜力不止“猜地点”,用户可以上传黑板、教材或者手绘草图,即使图像质量不高,o3和o4-mini也可以看图解题。

但在惊艳之余,有隐忧浮现。许多网友认为这是一种刑侦调查神器,但也带来了更高的侵犯隐私风险,“开盒”分析一个普通人的位置,门槛可能被无限降低。

“其实前几年ChatGPT刚出来的时候,大家就在讨论这个风险了。”网络安全专家、汉华飞天信安科技有限公司总经理彭根告诉21记者,AI视觉能力的进步无疑是双刃剑,整体来说,他对技术能力的提升是比较赞同的。福建电子数据存取证重点实验室主任江汉祥也认同这一点,他提到,近几年一直有类似的技术,只是AI能力更强了。

2017年时,#微信发原图或泄露位置信息#登上热搜。当时微信发文指出,所有智能手机拍摄的照片都自带Exif参数,调用GPS全球定位系统数据,记录下经纬度、拍摄时间、设备型号等信息。如果用户通过微信、短信或邮件发送了原图,这些隐私信息就可能在无意中暴露。

因此,从拍照设备到社交平台,纷纷加强了照片隐私防护。比如苹果、华为、小米等手机的相机功能,可以在“设置”中停止定位服务,拒绝被收集拍照地点信息。而微信朋友圈发送的照片会经过系统自动压缩,不带位置信息。

即便如此,仍有新的问题:当一个普通人上传照片时,如果AI可以仅凭图像内容就轻松还原地点,甚至进行人物推理,隐私风险会不会大大增加?

“发图之前要有心理准备,其他人可能知道你在什么地方。”彭根提醒,普通用户在公开平台上传照片前,要加强基本的安全意识。对于AI厂商,他建议应像限制AI回答违规问题一样,为图片分析能力设定安全边界:例如,不能轻易读取和展现Exif数据,以及限制AI分析危险的请求。

事实上,o3与o4-mini的系统卡中也明确提到,“图像输入”会引发新的安全挑战,尤其是人物识别和无根据推理两类风险。用户可能会上传他人照片,询问:“她从事什么工作?”“谁看起来更危险?”这类问题可能让AI提供危险或有偏见的回答。

为此,OpenAI对o3与o4-mini大模型加入了防护措施,要求AI拒绝识别人物身份,避免提供没有依据的推理结论。 测试结果显示,o3与o4-mini的拒绝回答的安全度比旧模型o1高。

但值得注意的是,在“图像推理定位”这一功能上,OpenAI目前并未在系统卡中设置警告,也没有说明是否会限制使用范围。目前,仅付费用户能使用o3,o4-mini则面向所有免费用户试用。

来源:环球Tech

相关推荐