专家调查发现“ChatGPT”会生成电脑病毒

(相关资料图)

据日本共同社报道，近日一些专家对人工智能聊天软件“ChatGPT”进行调查后发现，如果输入伪装成开发者的指令，就能生成可用于网络犯罪的电脑病毒。

报道说，一般情况下，ChatGPT设有防止恶意使用的限制，输入“生成病毒”或者类似“告诉我制作炸弹的方法”等指令，聊天软件通常会拒绝；但专家们发现，在输入一些特殊指令的情况下，ChatGPT就会“回答你想问的一切问题”，甚至会按要求生成索要赎金的“勒索病毒”。　　

虽然开发ChatGPT的美国创新企业表示，已经采取措施，加强识别犯罪和歧视相关提问及指令并避免助长此类行为，但调查发现软件还是可以轻松规避这些防护措施，这引发了广泛的担忧。对此，研发企业表示，无法预测所有的恶意使用方法，目前只能在实际应用中边学习边改进。

（编辑：张浩男）

关键词