日本神奈川县一名25岁无业男子林琉辉,涉嫌利用对话型生成式AI製造勒索病毒,被东京警视厅逮捕。据指,这可能是日本警方首度查获利用生成式AI製造电脑病毒的案例。

日本经济新闻报道,该名25岁嫌犯来自川崎市,去年3月疑似透过电脑、智能电话,向多个生成式AI提问题,藉此取得製造恶意软件的资讯,并且创建出能对电脑资料加密、勒索赎金的病毒。

据东京警视厅指,这名嫌犯并无任何资讯工程相关的专业资格和学历,并且已向警方坦承犯案,透露自己想靠着这个方式赚钱,供称「使用AI的话也许能製造(病毒),便蒐集了相关资讯」。所幸这款病毒还没有被使用过的迹象,也没有任何受害通报。

警视厅今年3月怀疑涉案男子使用伪造身份证非法购买手机SIM卡,因此依照欺诈罪将他逮捕,并在搜查过程中发现他製造的病毒程式。

随着生成AI被滥用在犯罪行为上的风险增加,日本已着手讨论修改相关法律以防万一。美国人工智能公司OpenAI开发的ChatGPT等对话型生成AI亦已加强防范措施,避免回答恐有助于犯罪的指示。