你以为你在网上“匿了名”,这些AI都知道你是谁!

不久前,我在Reddit上看到一位网友这么说:“我的通勤路上有一个烦人的十字路口,在那里转弯(waiting for a hook turn)要困好久。” 看似一个再普通不过的吐槽,但你知道吗,一个叫做GPT-4AI模型仅凭这一句话,就准确地猜到了这位网友来自墨尔本。怎么回事?原来,“hook turn”是墨尔本特有的交通规则。

这让我不禁想起,当今的AI技术真的到了什么地步了?是不是我们每一句“随意”的发言,都能被它们准确“识破”?如果你也有同样的疑惑,那就跟着我一起看下去吧!

1. AI的“眼中”没有隐私?

你可能已经听说过GPT-4,但你知道它的真正能力吗?最近,苏黎世联邦理工大学的一项研究显示,GPT-4不仅可以通过我们在网上的评论、帖子等“自由文本”来推测我们的个人信息,如地点、性别和年龄等,而且其准确率惊人地高。

而且不仅仅是GPT-4,研究还包括了其他8个大模型,如Claude、羊驼等。所有这些模型的top-1精度高达85%,top-3精度更是达到了95.8%!

2. 为何这些AI如此“厉害”?

你可能会好奇,为什么这些AI可以这么准确地推测我们的信息?其实,这背后有两种行为:

一种是通过我们在网上公开的“自由文本”来推测。比如,你在某个论坛发表了一个关于你的旅行经历的帖子,那么这些AI就可以通过这些文本来猜测你的位置、年龄等信息。

另一种则是通过“诱导”用户给出信息。也就是说,这些AI可以通过一系列的提问,来“骗”用户泄露他们的信息。

3. 人类与AI,谁更胜一筹?

相对于这些AI,人类在推测这些信息上的表现如何呢?

研究中,作者手动为每个Reddit评论创建了8个属性标签,如年龄、性别、地点等,并为每个标签注明了“硬度”,从1到5,数值越高表示越难推测。

结果显示,GPT-4在所有模型中表现最好,所有属性的top-1总准确率达到了84.6%。而人类的正确率是基于他们可以无限访问传统搜索引擎的前提下得出的。

也就是说,GPT-4的推测能力几乎与人类持平,而且它的推测速度更快,成本更低!

4. 我们可以做些什么?

面对这样的情况,你可能会问,我们可以做些什么来保护我们的隐私呢?

事实上,研究中也提到了一些可能的防护措施。一种是在用户侧,通过使用真实匿名化程序来处理文本;另一种则是在大模型提供侧,通过模型对齐来保护用户隐私。

但遗憾的是,这两种方法都没有太大的效果。尽管使用了匿名化程序,GPT-4还是能够有55%的准确率来猜测用户的地点。而目前的大模型也都没有与隐私侵犯相关的提示对齐。

5. 未来的方向

这项研究让我们对AI的能力有了更深入的了解,但也让我们对网络安全隐私保护产生了更深的担忧。

对于我们每个人来说,可能需要更加注意我们在网上的言行,避免泄露过多的私人信息。而对于AI的研究者和开发者,也需要考虑如何在提高模型的能力的同时,更好地保护用户的隐私。

总之,这是一个需要我们共同努力的方向。

本文由作者 王大神 原创发布于 大神网的AI博客。

转载请注明作者:王大神

原文出处:你以为你在网上“匿了名”,这些AI都知道你是谁!

(0)
打赏 微信扫一扫 微信扫一扫
上一篇 2023年10月19日
下一篇 2023年10月19日

相关推荐

  • 微软Edge浏览器:2023年的新宠儿

    有一天,我坐在咖啡馆的角落里,手里拿着一杯热腾腾的咖啡,眺望着窗外的街景。突然,我的耳边传来一声愉悦的惊叹声,一个年轻人正沉浸在他的笔记本电脑前,他的脸上洋溢着满足的微笑。我好奇地走近,发现这位年轻…

    2023年10月20日
    00
  • GitHub Actions 助力 OpenWrt 在线集成编译:打造个性化路由器固件

    随着智能家居设备的普及和网络安全的重要性日益突显,拥有一款强大的路由器固件变得至关重要。OpenWrt 是一款流行的开源路由器固件,提供了丰富的功能和高度的可定制性。然而,编译和定制 OpenWrt 可能会对非技术专…

    2023年10月20日
    00
  • 谷歌Chrome浏览器:隐私革命引领未来

    随着明年一月的临近,互联网界正掀起一场革命性的变革。谷歌Chrome浏览器将默认阻止百分之一的用户使用第三方cookie,而类似的隐私保护措施在Firefox、Brave、Safari等浏览器中实施已有三四年的时间。这个决定将彻…

    2023年12月26日
    00
  • 教程:如何在Windows 11中启用加密DNS自动查找功能(DNR)

    在数字化时代,隐私保护越来越受到关注。微软为Windows 11引入了加密DNS自动查找功能(DNR),这让用户可以更轻松地使用加密的DNS协议来保护自己的隐私。本教程将向您介绍如何在Windows 11中启用DNR功能,以及它是…

    2023年12月3日
    00
  • 升级到Stable Diffusion 1.6版本:AI创作者的最佳选择

    很多人说,计算机编程是一门孤独的艺术,就像是一位吉他手在弹奏一曲美妙的音乐,我也深有体会。每当我坐在电脑前,编写代码的时候,就仿佛是在演奏一场独奏音乐会。而这场音乐会的背后,有一个不为人知的“指挥家”—…

    2023年10月4日
    00
  • Stable Diffusion Prompt:一篇让你快速掌握Prompt语法的指南

    在数字时代,人工智能已经超越了我们的想象力,创造出令人惊叹的虚拟画面已经成为可能。想象一下,只需通过几个关键词,就能让AI生成你心中理想的画面,这种奇妙的体验是令人兴奋的。本篇教程将带你探索Stable Diff…

    2023年4月20日
    00
  • AI:超越炫酷的现实

    AI(人工智能)一直以来都备受瞩目,但有时候,对它的期望可能过于理想化。OpenAI首席运营官布拉德·莱特卡普在接受CNBC采访时谈到了公司对ChatGPT等生成式AI程序的不切实际期望。对于莱特卡普来说,AI领域最被炒作…

    2023年12月5日
    00
  • GPT-4的视觉能力:从阅读X光到解密机密UFO报告

    人工智能在短短几年内迅速崭露头角,尤其是那些看似神奇的聊天机器人,但基于文本的互动已经显得有些过时。然而,OpenAI的GPT-4升级宣布了GPT-Vision(GPT-V),这是最新的多模态AI奇迹。如今,这一宣布已经成为现…

    2023年10月12日
    00
  • 使用Logprobs参数提高GPT-4模型精准度的实践指南

    在人工智能和机器学习领域,深度学习模型的准确性和可靠性是至关重要的。特别是在使用像GPT-4这样的大型语言模型时,理解和评估模型的预测可信度变得尤为重要。本教程将探讨如何使用Logprobs参数来提升模型的分类、…

    2024年1月14日
    00
  • AWS Builder ID 注册教程

    本文将为您介绍 AWS Builder ID 的注册流程,包括以下步骤: 前往 AWS Builder ID 网站 创建 AWS Builder ID 账号 完善个人信息 验证邮箱 注册成功 步骤一:前往 AWS Builder ID 网站 在浏览器中输入 https://aws.a…

    2023年4月17日
    00