当前位置:首页|资讯|人工智能|GPT-4

上千名科技界领袖罕见公开发声,欲暂停研发人工智能,在害怕什么

作者:邵永灵发布时间:2023-03-30

原标题:上千名科技界领袖罕见公开发声,欲暂停研发人工智能,在害怕什么

随着人工智能技术在近年来的飞速发展,其在带来更多成果和可能性的同时,也引发了诸多科技领域人士对人类未来命运的担忧。据环球网报道,美国科研机构“未来生命研究所”发布了一封公开信,呼吁所有人工智能实验室立即暂停开发比GPT-4更强大的人工智能系统。

人工智能技术发展迅猛

据悉,这封信得到了科技界高达一千多名权威人士的支持,包括特斯拉CEO马斯克、苹果公司联合创始人史蒂夫·沃兹尼亚克,以及被称为“人工智能教父”的杰弗里·辛顿等重量级人物。这封信明确提出,相关的研发工作应暂停至少半年,并且必须公开且可验证,所有参与者不得私下进行研究活动。而如果这种安全性得不到保证,政府应当介入其中并实行强制暂停。

Chat GPT被认为可颠覆人类社会

这究竟是怎么一回事呢?近期,我们常常听到有关Chat GPT将颠覆人类社会的消息。这种人工智能系统的应用被视为具有革命性意义,可与上世纪的互联网诞生相媲美。尤其是随着GPT在不断的训练中性能愈发成熟,外界认为,许多普通的白领和技术岗位在未来将会被替代或减少,这也引发了舆论对于“机器淘汰人类”的热烈讨论。

人工智能技术或取代人类

话说,大多数人可能暂时尚未感受到这种变革所带来的社会变化,怎么就有科技界大佬开始呼吁暂停研发?难道科幻电影中所展示的“人工智能威胁人类社会,天网和机器人接管世界”的场景,真的有可能成为现实吗?

有人担忧人工智能或掌控世界

或许这会人产生强烈的不真实感,但这的确有一定概率实现。“我们是否应该发展最终可能比我们更聪明,并取代我们的非人类思维?我们要冒险失去对我们文明的控制吗?”这是信中向公众发出的两个疑问。在这方面,杰弗里·辛顿和马斯克都认为,“超级人工智能”可能会对人类社会构成严重威胁。

人工智能技术或取代人类

此外,除“超级人工智能”外,相对平庸的人工智能技术所带来的隐患,更是迫在眉睫,这其中就包括Chat GPT。相当一部分专业技术人士认为,今天的人工智能工具可以帮助不法分子实施“犯罪活动”。

AI工具或被用于网络诈骗

举例来说,一些AI工具可用来模拟特定个人或群体的讲话风格,进而被用于网络欺诈等违法犯罪活动。此外,人工智能产生的大规模宣传效果,或被恐怖分子所利用,这可能会导致恐怖组织发展势头的愈演愈烈。还有人不无担忧地指出,随着AI越来越多地介入人类生活,一个掌握核武器代码的危险分子,只需要一点情报和额外的访问权限,就可能摧毁全世界。

人工智能应处于人类可控状态下

在这种情况下,信中呼吁人工智能开发者与政府合作,加快发展强大的人工智能治理体系和新的监管机构,包括明确若AI系统对人类社会造成伤害,该如何进行处理和责任追究,以及需要适当的机构来应对这种潜在的重大经济和政治破坏等。在解决了这些问题后,科技界才可以继续开发更强大的人工智能系统。说白了,他们的意思就是人工智能技术必须时刻处于人类可控的状态中。

通过炒作获得投资

平心而论,这种担忧确实是有道理的,但也不乏这些人还有另一个目的,那就是“炒作”。通过对人工智能技术的炒作,进而吸引外部投资和融资,这也是高科技公司经常干的事情,毕竟距离人工智能真正能威胁到人类之时,恐怕还有很远。


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1