为了保护 Android 用户免受电话诈骗的侵害，谷歌正在开发新的保护措施。据谷歌工程副总裁戴夫·伯克 (Dave Burke) 称，谷歌正在测试一项利用人工智能识别与诈骗相关的模式并在怀疑正在进行欺诈时通知 Android 手机用户的技术。

谷歌周二在 I/O 开发者大会上透露，它正在开发一种新的通话监控功能，该功能将提醒用户其通话对象可能正试图欺骗他们，并提示他们取消通话。

谷歌向用户保证他们的数据是安全的

据谷歌称，该功能利用了 Gemini Nano，这是一款针对 Android 智能手机的缩小版、本地版和离线语言模型，基于该公司的 Gemini 大型语言模型。

该公司表示，

“这种保护全部发生在设备上，因此您的对话对您来说是保密的。”

来自“银行代表”的电话会要求提供合法银行永远不会要求的信息（例如您的密码或信用卡 PIN），或者要求使用礼品卡付款或紧急汇款，这些就是可能引发这些警报的几个例子。

谷歌声称，由于这些新的保护措施都在设备上，因此 Gemini Nano 所监听的谈话将会保密。

隐私专家对此有不同的看法

该公司使用生成人工智能进行实时扫描，以发现语音通话期间与诈骗相关的模式，这让安全和隐私领域的专家感到担忧。

另请阅读：Gemini AI 在 Google I/O 大会上的精彩演示

专家担心，在发现诈骗行为后，不久他们就会注意到与政治倾向、人权问题或与人们工作相关的私人困难有关的趋势。

人工智能安全解决方案设计师兼工程师 Andriy 在 X 平台上发帖，分享了 Meredith Whittaker 的帖子，称谷歌的人工智能呼叫扫描工具让他产生了分歧。他说，虽然他赞赏这种防欺诈措施，但这会损害他的隐私吗？

这非常危险。它为集中式设备级客户端扫描铺平了道路。从检测“诈骗”到“检测通常与寻求生殖保健相关的模式”或“通常与提供 LGBTQ 资源相关的模式”或……只需一步之遥 https://t.co/Zb0TWmzsaX

- Meredith Whittaker (@mer__edith) 2024 年 5 月 15 日

他说他是网络安全专家，因此他知道客户端扫描很容易演变为监控。

专家预测，这只是冰山一角，未来将发展为中心化审查。

Gemini Nano 的兼容性有限

尽管谷歌表示客户必须选择使用诈骗检测功能，但它声称将在今年晚些时候公布更多细节。目前还不清楚该功能何时可以访问。

另请阅读：Google Photos 将通过 Gemini 集成获得由人工智能驱动的“Ask Photos”功能

因此，兼容性可能会限制这种技术适用的申请人范围。Gemini Nano 的开发者支持网站指出，

“Gemini Nano 是 Gemini 系列中最小的版本，可以在功能强大的 Android 设备上直接执行，首先是 Google Pixel 8 Pro 和三星 S24 系列。”

尽管有些人经过多年的宣传努力和掌握避免骗局的建议后，可能很容易发现骗局，但成为骗局受害者的可能性始终存在。

根据全球反诈骗联盟去年10月发布的一项调查显示，全球每4人中就有1人在去年因诈骗或身份盗窃而损失超过1万亿美元。