日本方面消息，5月27日，日本警视厅逮捕了25岁的林琉晖。日本警方说，他于去年3月向多个生成式AI系统发出指令，隐瞒了他创建电脑病毒的目的，获取了加密文件和勒索赎金所需的设计信息，然后利用家里的电脑和智能手机，将创建恶意软件程序的信息结合，制造出设计的电脑病毒，执行诸如加密目标系统上的数据，并要求加密货币作为赎金等操作。他涉嫌制作包含未经授权命令的电子或磁记录。这也是日本第一起涉及使用生成式AI系统创建电脑病毒的案件。

生成式AI系统是人工智能产业发展起来之后的新型业态。这是一类特殊的人工智能系统，它们通过学习现有的数据并生成新的数据，能实现类似于人类创造的功能。其应用场景非常广泛，包括自然语言处理、图像识别、音频处理、视频合成等领域。目前，市场上主流的生成式AI系统包括OpenAI的AI聊天机器人ChatGPT、微软旗下的人工智能助理Copilot等。

这类AI系统进入市场之后，立刻得到了广泛的应用，其优势也非常明显。例如，生成式AI系统能够创造出全新的、之前不存在的内容，如文本、图像、音乐等，完成从0到1的创造，显著降低人工成本。生成式AI系统还能够快速地生成大量数据，尤其是在处理重复性和模式化的任务时，其效率远超过人类。除此之外，通过分析大量用户数据，生成式AI系统可以定制个性化内容，满足用户的特定需求，这在营销、客户服务、教育等领域具有显著优势。

然而，这种自由的、无序的发展状态也产生了一定的负面影响，尤其是在版权、隐私、机密泄露等法律风险方面。此前，《纽约每日新闻》、《芝加哥论坛报》、《丹佛邮报》和《先锋新闻》等八家报社在纽约联邦法院提起诉讼，控告OpenAI和微软侵权，利用大量版权新闻文章来训练聊天机器人ChatGPT和人工智能助理Copilot，这正是生成式AI系统的法律风险之一。此次日本男子用生成式AI系统获取设计电脑病毒的信息，也是生成式AI系统在法律建设方面不完善的集中体现，这表明了，前互联网上的一些交互式AI系统提供了可用于犯罪目的的无限信息，并且能毫无保留的提供给用户。

这起案件发生之后，penAI的AI聊天机器人ChatGPT等平台已加强措施，防止犯罪活动相关的输出。日本执法机构表示生成式AI系统在规避法律问题时，需要从数据来源、模型开发、测试验证、市场竞争、内容审核等多个方面进行综合考虑和行动。尤其是要建立滥用风险评估机制，对用户输入数据和生成内容进行双重审核，包括机器审核和人工审核相结合的方式，建立违法和不良信息特征库，以有效识别和处理违法违规内容。