我看李飞飞的书的时候,这个号称 AI 教母,一众学生现在在各大 AI 头部企业中任职,而她则依然保持在斯坦福教书,做个科学家,另外,开始着手之前从未有过的领域,就是 AI 的伦理和安全方面的课题,而这已经是几年前的事情了。
当 ChatGPT 被疯狂刷榜的时候,每个月都会有个 AI 新产品问世的时候,大家的注意点都在 AI 产品的性能哪个更强,哪个更先进,一些关键领域可能不太被人们关注,或者说,即便有人发声,也很快被淹没在茫茫比特海中。
我们一直以为,好像 AI 产品的安全问题离我们很遥远,而现在逐渐开始深入到我们身边,甚至于还有一些领域没有被发现而已。伴随着的,肯定是监管的介入。
最近不少财经大 V 都遇到了一个棘手的事情,我前两天也在星球里面分享了。
就是利用 AI 合成技术,可以骗过目前不少城市的政务验证系统。很多大 V 的账号都是用企业认证的,那么他们就采用 AI 合成技术,变更企业法人,从而完成主题变更,实现盗号。甚至利用这个假的营业执照在其他平台注册 「官方账号」,用以发布一些可能是犯罪的内容,比如叫你买什么理财产品,付费加什么群,甚至有些还有点像电诈。
这可能有点集中爆发的趋势,不少人都收到了私信关于卖不卖公众号,开价 500-2000,不能再高了。甚至暴力破解密码,目前腾讯发方面技术还算雄厚,拦截掉了不少这种恶意尝试登录的行为。这种趋势正在蔓延到其他平台。今天看到新闻,官方行动了,为时两个月清朗行动正式展开,重点是发布不可信的信息,诱导网民的未经证实的信息,震惊体等,一方面,对 boss 直聘上那个冒充他人虚假发布简历导致舆情,大概这种事情还不少。另一个重大就是有蔓延扩大趋势的这种教育 AI 的犯罪行为。
可能很多人会说,之前好像也有,但是基本上都是非常罕见的个例,而这种利用 AI 技术可以批量完成各种假证件,最重要的是,直接去欺骗政务系统,这种踩钢丝的行为,犯罪者可能早就知道后果,不排除有处于海外的犯罪分子,因为他知道,即便你查到了,他人在海外,你抓不到他。
接下来 AI 相关的立法会加快,打击 AI 的犯罪将成为常态,谁也不知道犯罪分子还会利用 AI 技术干出什么事情。
有人感慨,还没用上 AI 的科技点亮生活,犯罪分子已经用上 AI 了。不可否认的是,AI 正以前所未有的速度嵌入我们每个人的生活中,也将影响我们每个人的生活。尽早开始熟悉和使用起来 AI,并没有什么坏处。
