新研究:人工智能的3个隐患

人工智能的发展能给我们带来很多改变,它也会放大各类不法行为的危害。牛津大学、剑桥大学、斯坦福大学、电子前沿基金会和人工智能研究组织OpenAI等机构进行了联合研究,《财富》中文网编译了这项研究的结论,研究报告列出了人工智能发展可能带来的3个隐患。

第一,网络钓鱼或将愈演愈烈。随着人工智能的发展,犯罪分子在邮件中隐藏恶意链接的做法或将更加普遍和有效。比如犯罪分子根据社交媒体上获得的网民信息和行为模式,能够自动生成定制化的欺骗邮件来引诱网民点击。这些恶意邮件、网站或链接可以从伪造的账号中发出,而那些伪造账号可以模拟网民的亲友的写作风格,从而使这些钓鱼邮件更具欺骗性。

第二,假新闻和假宣传也将愈演愈烈。研究人员已经可以在音视频中将虚拟的政治人物形象做得与真人几乎一样。比如华盛顿大学的人工智能研究人员最近就制作了一段前总统奥巴马的演讲视频,看起来极为真实,但却是彻底虚构的。以后,不法分子有可能使用AI技术开展“自动化、个性化的虚假宣传活动”。在这些宣传活动中,“不同地区的人可能会收到定制化的宣传信息,以吸引他们投票。”

第三,人工智能将使武器更具毁灭性。随着人工智能技术进步,哪怕一个普通人也具有了广泛制造暴力的能力。比如随着面部识别、无人机导航等开源技术的传播,使一些犯罪分子利用这些技术实施犯罪成为了可能。想象一下,如果一架自动飞行的无人机具备了面部识别能力,然后精准发动攻击,这将是一幅什么样的情景?

以上是人工智能发展所面临的一些现实风险,技术进步给我们带来便利的同时,我们也应该针对这些潜在风险进行防范。

Leave a Comment

Your email address will not be published. Required fields are marked *

Scroll to Top