聚热点 juredian

苹果禁用ChatGPT,为防机密泄露!大模型版Siri即将升级推出

明敏 杨净 发自 凹非寺

量子位 | 公众号 QbitAI

前脚ChatGPT刚刚上线iOS嗨翻全球,火速霸榜APP Store;

后脚却曝出消息—— 苹果自家员工不能用ChatGPT ,而且已经好几个月了。

这事儿马上引发巨大讨论。

要知道,从ChatGPT趋势到来后,苹果就几乎保持“隐身”,好不容易iPhone拥抱ChatGPT了,现在好像又泼了盆冷水。

有人已经开始嘲讽:

苹果是害怕员工发现AI真的有用吗?

所以他们要用自己的?最好别像Siri那样。

诶?还真说不定。

借着这次大新闻,苹果研究自家大模型的消息也不胫而走, 而且Siri也将很快上线AI新功能 。

最新库克公开表态: 生成AI技术潜力很大,但有问题需要解决 ,也侧面印证了他们的AI进展。

所以苹果不是不搞,或许只是发布时间没到。

担忧数据泄露

据《华尔街日报》消息,苹果禁止员工使用的包括ChatGPT和Copilot。

知名苹果产品追踪记者也在推特上进一步爆料,ChatGPT在苹果员工禁用名单上已经好几个月了。

会有这样的决策倒也不稀奇。

一方面,ChatGPT本身在数据使用方面一直备受争议 。

最初,除了API用户以外的所有用户聊天记录,都会被用来训练和提升模型性能,这意味着用户数据有被泄露的风险。

事实上,今年3月确实发生这样的意外事故。

一个bug导致一些用户的对话标题泄露,其他人能在自己的界面上看到这些信息。当时这个bug一度导致ChatGPT临时关闭。

上个月,OpenAI正式推出新规定,以进一步保护用户数据安全:

用户可以通过关闭聊天记录功能,来避免自己的个人数据被官方拿去训练。

另一方面,出于安全方面的考虑,不少大型企业都出台相关政策要求员工不要使用ChatGPT。

如亚马逊在1月就要求员工不要将代码输入ChatGPT,此前有消息称,它们发现了ChatGPT会模仿亚马逊内部代码。

摩根大通在2月限制全球员工使用ChatGPT,原因是出于合规方面的考虑。

还有更加离奇一些的,三星曾表示20天内因ChatGPT发生了3起数据泄露事故。

而一直以强调安全著称的苹果,做出类似举措也就合情合理了。

毕竟一旦员工不小心将机密项目的信息输入系统,这些内容就可能泄露给OpenAI。

还有人表示,ChatGPT的输出结果还是有出错的可能,或许会导致bug产生、数据漏洞等,所以大公司禁止使用也合情合理。

不过,ChatGPT爆火几个月以来,它在工作效率、工作创意上的提升是不可否认的。

很多人都将它加入到了自己的工作流,包括陶哲轩这样的大佬。

最初明令禁止学生使用ChatGPT的纽约公立中学,也在这两天内取消禁令。

所以不免有人担心,苹果这样封闭ChatGPT,是否会扼杀自身的创新能力。

值得一提的是,曾经禁止员工使用ChatGPT的亚马逊,近期也加入了大模型浪潮,发布自家大模型平台。

这也开始让人猜测,大厂不是不拥抱ChatGPT,只是要拥抱自己的ChatGPT?

事实上,苹果的最新语言大模型,真的有消息了。

Siri被曝很快上线新AI功能

据9to5Mac爆料,Siri将很快上线新的AI功能。

新技术代号为Bobcat,早在今年3月就被爆出已经在进行测试了——

首先是在最新tvOS 16.4 beta上测试,新框架叫做Siri Natural Language Generation (Siri自然语言生成) 功能,之后这一功能进入到苹果的其他操作系统中。

但爆料显示只不过是实现了在Apple TV上与Siri讲笑话。除此之外,还在试验如何将语言生成用于计时器。

与此同时,这一新项目的领导人也被爆出。

John Giannandrea ,目前是苹果负责机器学习和AI战略的高级副总裁,直接向库克汇报。

他早在2018年就加入苹果,负责监督整个公司的AI和ML战略以及Core ML和Siri技术的开发。在加入苹果之前,他曾在谷歌呆了八年,领导机器智能、研究和搜索团队。

而就在最近的投资者电话会议上库克表态,也侧面证实了他们在做相关的研发,只不过发布时机还没到。

此前,就有苹果员工曾抱怨Siri工作效率低下。Siri之所以逐渐走向没落,是因为 内部团队混乱、决策缓慢、代码笨重 ,导致在Siri和AI开发上受到严重阻碍。

更本质的原因,还在于技术研发和判断上。

比如现在ChatGPT所展现的核心功能和技术,就曾被苹果高管否决过。

就像长对话能力,他们认为会导致对话容易失控,而且“很花哨”。

为了防止Siri胡言乱语,苹果选择让人工团队预先写出答案,并且还多次拒绝允许用户对Siri回答问题进行反馈,导致开发团队无法理解模型的局限。

虽然不能肯定苹果禁用ChatGPT,与自身开发AI工具有关。

但是苹果Siri上线新AI功能,想必也是不少人所期待了。

参考链接: [1]https://www.wsj.com/articles/apple-restricts-use-of-chatgpt-joining-other-companies-wary-of-leaks-d44d7d34 [2]https://9to5mac.com/2023/05/18/apple-bans-employees-from-using-chatgpt/

— 完 —

量子位 QbitAI · 头条号签

关注我们,第一时间获知前沿科技动态约

本站资源来自互联网,仅供学习,如有侵权,请通知删除,敬请谅解!
搜索建议:禁用  禁用词条  机密  机密词条  泄露  泄露词条  模型  模型词条  苹果  苹果词条  
热博

 “我佛要你”面试现场和考题曝光

近日,广东韶关东华禅寺的“我佛要你”招聘文案爆红微信,引发过百万点击量,其中竟有4000多人有意应聘。而《南方都市报》也跟踪报道,发回了面试现场的图片。据悉,参...(展开)

热博

 小学生描写天空的作文400字

小学生描写天空的作文400字集合七篇在日常学习、工作抑或是生活中,许多人都写过作文吧,作文是人们把记忆中所存储的有关知识、经验和思想用书面形式表达出来的记叙方式...(展开)