AI诈骗爆发有人10分钟被骗430万!人工智能“破坏力”显现,野蛮生长后将迎强监管?

据平安包头微信公众号消息,近日,包头警方发布一起利用人工智能(AI)实施电信诈骗的典型案例,福州市某科技公司法人代表郭先生10分钟内被骗430万元。

4月20日中午,郭先生的好友突然通过微信视频联系他,自己的朋友在外地竞标,需要430万保证金,且需要公对公账户过账,想要借郭先生公司的账户走账。由于视频聊天核实了身份,郭先生没有核实钱款是否到账,就分两笔把430万转到了好友朋友的银行卡上。郭先生拨打好友电话,才知道被骗。

随着人工智能技术的飞速发展,利用这项技术进行诈骗的行为也越来越多。美国联邦贸易委员会领导人表示,ChatGPT等最新的人工智能工具可能导致诈骗行为激增,该机构将追究滥用人工智能技术来进行欺诈的公司。

最近几个月,随着OpenAI公司的ChatGPT等人工智能软件快速走红,引发了全球监管呼声。马斯克、苹果联合创始人沃兹尼亚克以及上千名专家联名呼吁暂停训练比GPT-4更强大的AI系统。

5月4日,美国副总统哈里斯会见了微软、谷歌和OpenAI的CEO,讨论AI潜在风险。美国总统拜登则明确表示,这些AI企业必须在推出产品之前确保其安全性,"你们正在做的事不仅有巨大的影响力,还将带来巨大的危害。"

5月16日,美国国会参议院举行一场名为“AI监管:人工智能的规则”的听证会。有“ChatGPT之父”之称的美国人工智能技术公司OpenAI首席执行官山姆·阿尔特曼首次出席美国国会听证会。阿尔特曼呼吁立法者监管ChatGPT等人工智能系统。“如果这项技术出问题,那将是很大的问题。”阿尔特曼提出了成立监管机构、引入许可证制度、建立一套安全标准等监管建议。

无论结果如何,这场AI监管风暴即将打响。包括ChatGPT在内的全球AI新热潮正在迎来技术监管倒计时。