这种程序权限一般都很高,比如每分钟会截图和访问剪贴板记录。数据记录在本地,加密约等于没有,因为本地存储了解密的密钥。
任何一个取得文件访问权限的程序都能读取你的操作记录,简直是隐私噩梦。更别提温馨遗言等国产LLM会上报数据,这种操作系统集成的AI简直是大规模监控的最佳选择。
我觉得最大的风险是厂商随时可以推送一个更新,然后让AI发疯。这种事情真的发生过,比如有一次小爱同学疯狂重复“中国是民主国家”,原因是厂商错误的推送了一个更新。
也许就不该有一个权限这么高的“助理”,像是CrowdStrike事故就提醒我们,大公司也会犯错。你愿意接受一个更新导致你的整个电脑崩溃吗?