日前网络安全公司 Surfshark 发布关于“AI incident”(AI 事故,也称 AI 翻车)的一份报告。报告列举了 2010 年以来由 AI 所导致的事故情况,并对 AI 事故的详细内容作出分析。


【资料图】

在过去的数十年间,尤其是进入 21 世纪 10 年代之后,人工智能开始拥有长足的发展,已经影响到了我们生活中的方方面面。随之而来的代价,就是 AI 造成的事故也越来越多。

▲ 图源 Surfshark,下同

数据显示,2010-2013 年的最初阶段,出现了 18 起 AI 事故。

2014-2019 年间,即人工智能的发展阶段,总共发生了 207 起 AI 事故。

终于,当人工智能发展到 2020-2023 年时,来到“应用阶段”,数据已经记录了 293 起 AI 事故,相较 2010-2013 年增长了大约 15 倍。

其中在 2010-2014 年,每年 AI 事故的数量均不足 10 起。从 2014 年起,每年事故数量均出现大幅增长,唯 2018、2019 年稍有回落。

而随着 2020 年 OpenAI 开发的 GPT-3 架构(ChatGPT 即是基于 GPT-3 研发)问世,AI 事故总量开始急剧上升,2022 年达到 91 起。

据报告显示,截至 2023 年 5 月,今年 AI 事故总量已经超过去年的一半,预计增长仍会继续。

另据软件评论服务公司 G2 的数据,从 2022 年 2 月到 2023 年 2 月,聊天机器人的搜索流量增长了 261%。而且,G2 整个数据库中增长最快的三个软件产品都是 AI 产品。考虑到近年来 AI 的使用量开始暴增,AI 事故数量明显增加也是“合乎情理”。

在这些事故中,Facebook、特斯拉、OpenAI 造成的 AI 事故占据目前所有已知事故的前三名,占比分别为 9.3%、7.7%、7.5%。

报告发现:

特斯拉所产生的 AI 事故多聚焦于其 Autopilot 辅助驾驶和 FSD 全自动驾驶,会使汽车要么意外刹车、要么无法识别前路物体;

Facebook 的 AI 事故是无法发现、识别暴力内容和深度伪造的影音文件,予以不法分子可乘之机;

OpenAI 的 AI 训练容易造成数据侵权问题、用户隐私问题,这些往往会给公司带来种种麻烦。

推荐内容