精彩看点：新闻透视：科技人士为何要叫停人工智能实验？

随着聊天机器人系统ChatGPT在全球掀起热潮，大型人工智能模型的迅速进化受到各方关注。为防止潜在风险发生，近日，包括特斯拉创始人马斯克、"人工智能教父"杰弗里·辛顿在内的全球上千名人士通过公开信联合呼吁，暂停训练大规模人工智能模型。

(资料图片仅供参考)

高度发达的人工智能觉醒，甚至危及人类文明……科幻电影中所展现的担忧而今照进现实。当吃瓜群众还在议论ChatGPT引发的热潮时，业界大佬们坐不住了。3月22日美国生命未来研究所向全社会发布公开信，呼吁暂停开发比GPT4更强大的AI系统训练，暂停期至少为6个月，理由是具有人类水平智能的AI系统可能“对社会和人性构成潜在风险”。并呼吁各方在6个月暂停期内，共同开发和实施一套共享安全协议。

截至目前，已有包括特斯拉创始人马斯克在内的一千多名科技业界人士签署了这封公开信。AI发展太快，监管和审查没有跟上步伐，确实已成为目前全球面临的共同问题。在欧洲，ChatGPT等先进人工智能，因可能会被滥用于网络钓鱼、虚假信息和网络犯罪，而引发欧洲刑警组织警告。

在美国，由知名科幻杂志因为收到大量AI生成投稿，而被迫暂停征稿。一位广告行业从业者告诉记者：“之前一段时间AI插画，其实后来发现，都是拿不同插画师的画融合在一起，然后再卖出去，有一种被窃取、剽窃的感觉。”

复旦大学计算机系研究助理郭放表示：“目前整个模型对我们都是黑壳状态，我们并不知道里面具体的肌理规则控制不了，如果继续发展下去，可能会发生模型超过人类的想象，一个失控的状态。”

业内人士也担心，不断迭代的人工智能，隐藏着巨大的安全和伦理道德风险，因其可能在给人类展示搜索信息时，植入自己的偏好，从而控制人类行为和决策，最终对社会造成冲击。“我第一次用ChatGPT时有那种头皮发麻的感觉，他就好像是一个人在和你说话，但是他没有人格，这其实是一个很可怕的事情。”数据分析行业从业者如是说。

复旦大学计算机系博士陈江捷则担心，人工智能在取代部分人类工作的同时，还潜藏着一些隐患：“比如有的人想当摄影师，那有图片生成后，摄影还有没有必要呢，如果生成的东西不可控，造成的后果谁来承担呢。”

关于人工智能的争议，从其诞生之初就已存在。随着ChatGPT、微软Bing、百度文心一言等通用人工智能AI的陆续推出，这样的担忧与日俱增。

比如，生物医药产业中，人工智能猜测蛋白质结构已经比人类更加高效。万一有一天，AI有意将致命病毒结构藏匿其中，人类是否能够及时发现？再比如，当大量真假难辨的信息充斥网络，AI基于网络大数据生成的作品也会涉及版权纠纷、个人隐私等等。

而一旦比GPT-4更强大的人工智能系统问世，人类面临的挑战将更大。“举一个非常经典的例子，如何窃用邻居家的wifi，如果我们不加适度的引导，大模型很可能就给你一个非常完美的解决方案，这对我们基本伦理、道德、法律形成一定的冲击。”复旦大学教授、上海市数据科学重点实验室主任肖仰华解释说。

在专家看来，对通用人工智能技术做出一定限制很有必要，只有为AI设计研发戴上“紧箍咒”，才能让它更好服务人类。“对于这种量级的颠覆性技术，需要有更高层面的组织，去推动这个技术在整个行业的应用监管，建立一个由政府领导的行业性的标准。”上海人工智能研究院数字治理中心主任彭嘉昊表示。

近70年来，人类在人工智能方面的探索从未间断，而CHATGPT问世后的几个月间，多个通用人工智能陆续推出，有人说，春天种下的种子终于迎来了夏日盛开。但是这一颠覆性的技术变革，也存在技术、法律风险和伦理道德层面的隐患，一旦被盲目采用，人类能不能有效应对，会不会失去对机器的控制？如果人工智能有了深度学习能力，产生了自主意识，又能否遵从科技向善、造福社会的宗旨，这些都值得深思。

记者：杨柳依 陈俊杰

摄像：唐晓蒙 包钢

编辑：由由酱

关键词