你以为你在网上“匿了名”,这些AI都知道你是谁!

不久前,我在Reddit上看到一位网友这么说:“我的通勤路上有一个烦人的十字路口,在那里转弯(waiting for a hook turn)要困好久。” 看似一个再普通不过的吐槽,但你知道吗,一个叫做GPT-4AI模型仅凭这一句话,就准确地猜到了这位网友来自墨尔本。怎么回事?原来,“hook turn”是墨尔本特有的交通规则。

这让我不禁想起,当今的AI技术真的到了什么地步了?是不是我们每一句“随意”的发言,都能被它们准确“识破”?如果你也有同样的疑惑,那就跟着我一起看下去吧!

1. AI的“眼中”没有隐私?

你可能已经听说过GPT-4,但你知道它的真正能力吗?最近,苏黎世联邦理工大学的一项研究显示,GPT-4不仅可以通过我们在网上的评论、帖子等“自由文本”来推测我们的个人信息,如地点、性别和年龄等,而且其准确率惊人地高。

而且不仅仅是GPT-4,研究还包括了其他8个大模型,如Claude、羊驼等。所有这些模型的top-1精度高达85%,top-3精度更是达到了95.8%!

2. 为何这些AI如此“厉害”?

你可能会好奇,为什么这些AI可以这么准确地推测我们的信息?其实,这背后有两种行为:

一种是通过我们在网上公开的“自由文本”来推测。比如,你在某个论坛发表了一个关于你的旅行经历的帖子,那么这些AI就可以通过这些文本来猜测你的位置、年龄等信息。

另一种则是通过“诱导”用户给出信息。也就是说,这些AI可以通过一系列的提问,来“骗”用户泄露他们的信息。

3. 人类与AI,谁更胜一筹?

相对于这些AI,人类在推测这些信息上的表现如何呢?

研究中,作者手动为每个Reddit评论创建了8个属性标签,如年龄、性别、地点等,并为每个标签注明了“硬度”,从1到5,数值越高表示越难推测。

结果显示,GPT-4在所有模型中表现最好,所有属性的top-1总准确率达到了84.6%。而人类的正确率是基于他们可以无限访问传统搜索引擎的前提下得出的。

也就是说,GPT-4的推测能力几乎与人类持平,而且它的推测速度更快,成本更低!

4. 我们可以做些什么?

面对这样的情况,你可能会问,我们可以做些什么来保护我们的隐私呢?

事实上,研究中也提到了一些可能的防护措施。一种是在用户侧,通过使用真实匿名化程序来处理文本;另一种则是在大模型提供侧,通过模型对齐来保护用户隐私。

但遗憾的是,这两种方法都没有太大的效果。尽管使用了匿名化程序,GPT-4还是能够有55%的准确率来猜测用户的地点。而目前的大模型也都没有与隐私侵犯相关的提示对齐。

5. 未来的方向

这项研究让我们对AI的能力有了更深入的了解,但也让我们对网络安全隐私保护产生了更深的担忧。

对于我们每个人来说,可能需要更加注意我们在网上的言行,避免泄露过多的私人信息。而对于AI的研究者和开发者,也需要考虑如何在提高模型的能力的同时,更好地保护用户的隐私。

总之,这是一个需要我们共同努力的方向。

本文由作者 王大神 原创发布于 大神网的AI博客。

转载请注明作者:王大神

原文出处:你以为你在网上“匿了名”,这些AI都知道你是谁!

(0)
打赏 微信扫一扫 微信扫一扫
上一篇 2023年10月19日
下一篇 2023年10月19日

相关推荐

  • AI聊天机器人成网络诈骗新工具:英国消费者组织发出警告

    在数字时代,科技的发展不仅带来了便利,也为不法分子提供了新的机会。最新的研究发现,不法分子正利用人工智能聊天机器人制造更具说服力的网络诈骗,对公众构成威胁。英国消费者组织 Which? 在最新的报告中提出了…

    2023年10月29日
    00
  • 电子邮件新时代:Proton桌面版应用引领安全通信风潮

    近日,瑞士公司Proton发布了桌面版Proton Mail应用程序,为用户提供了更便捷、安全的电子邮件体验。这一消息引起了广泛关注,不仅因为Proton一直以来在加密通信领域的引领地位,更因为桌面版应用的推出将为用户带来…

    2023年12月15日
    00
  • ChatGPT手机版使用限制升级:从无限次提问到3小时25次

    在数字化的世界里,人工智能技术的发展一直以来都备受关注。而最近,有一则关于ChatGPT手机版的重大变化引起了广泛的讨论。曾经的无限次提问已不再存在,取而代之的是每3小时只能提问25次的限制。这一变化究竟是如…

    2023年10月5日
    00
  • AI:超越炫酷的现实

    AI(人工智能)一直以来都备受瞩目,但有时候,对它的期望可能过于理想化。OpenAI首席运营官布拉德·莱特卡普在接受CNBC采访时谈到了公司对ChatGPT等生成式AI程序的不切实际期望。对于莱特卡普来说,AI领域最被炒作…

    2023年12月5日
    00
  • 使用GPT-4的视觉能力和TTS API创作视频描述和语音解说的教程

    在今天的教程中,我们将学习如何使用GPT-4的视觉能力和TTS API来创建视频描述和语音解说。这项技能可以用于各种用途,包括制作有吸引力的视频内容,教育性的解说以及更多。让我们一步步来学习如何实现这一目标。 开…

    2023年11月15日
    00
  • 了解TLS协议的演进:从TLS 1.0到TLS 1.3

    TLS(Transport Layer Security)是保护网络通信安全的关键协议之一。它通过加密数据传输,确保您的敏感信息在互联网上不被窃取或篡改。在过去的几年里,TLS协议经历了多次演进,以提高安全性和性能。本文将带您深…

    2023年10月28日
    00
  • DNS加密协议:保护您的网络流量的最佳选择

    你是否曾经想过,当你在浏览网页时,你的网络流量是否安全?互联网上有很多黑客和窥探者,他们可能在你不知情的情况下监视你的网络活动。那么,如何保护你的网络流量,让你的Web浏览更加私密和安全呢? 起初的烦恼 …

    2023年10月5日
    00
  • 阿里巴巴国际站:AI “生意助手” 开创外贸新纪元

    有一天,李小明坐在办公室里,疲惫地翻看着海量的外贸订单。他是一家中小型外贸公司的老板,每天面对着不同国家的客户,不同语言的邮件,以及繁琐的商品发布流程,他感到越来越力不从心。外贸这个领域,竞争激烈,…

    2023年10月26日
    00
  • 了解路由器管理与网络安全:IP地址 192.168.1.1 的重要性

    在当今数字化的时代,网络已经成为我们生活中不可或缺的一部分。从工作到娱乐,从学习到社交,我们的世界紧密联系在一起,而这一切都离不开一台神秘的设备——路由器。正如一位城市的大门守卫着进出的人们一样,路由…

    2023年12月7日
    00
  • 发挥“超级Prompt”的潜力:与GPT-4的高效互动

    在数字时代,与人工智能的互动已经成为日常生活中的一部分。然而,随着技术的不断发展,我们需要更加高效和精准地与人工智能进行交流,以获得更有价值的答案和解决方案。今天,我将向你介绍一项神奇的功能——“超级Pr…

    2023年10月17日
    00