人工智能的发展突飞猛进，特别是生成式人工智能系统如ChatGPT和Midjourney正在迅速改变专业活动和创作过程。
GPT-4等先进的生成式人工智能系统在展现其巨大潜力的同时，也带来了潜在的危险，需要公共和私人利益相关者的特别关注。
技术进步带来了双刃剑效应。一方面促进了经济生产力和福利改善，另一方面可能导致工作岗位流失和不平等加剧。
最近，人工智能的发展速度大幅加速，一大批专业活动和创作过程都被ChatGPT和Midjourney等生成式人工智能系统迅速改变，而以某些可以将风险最小化和利益最大化的方式指导这一强大技术发展的机会之窗则在快速关闭。
基于人工智能的能力存在于一个（相邻两者相似但首端与末尾截然不同的）连续体中，而GPT-4（ChatGPT的最新版本）这类生成式人工智能系统则属于其中最为先进的类别。鉴于这类系统在拥有最宏大前景的同时也可能构筑最危险的陷阱，它们值得公共和私人利益相关者给予特别关注。
几乎所有技术进步都会对社会产生正负两面的影响。它们一方面促进了经济生产力和收入增长，扩大了信息和通信技术的获取渠道，延长了人类寿命并改善了整体福利，另一方面又导致工人失去工作岗位、工资水平停滞不前、不平等状况加剧，资源日益集中在某些个人和企业手里。
人工智能也不例外。生成式人工智能系统在产品设计、内容创作、药物发现和医疗保健、个性化教育和能源优化等领域开辟了大量机会，同时也可能被证明对我们的经济和社会具有高度破坏性，甚至是有害的。
那些高级人工智能业已带来以及可以合理预见的风险都相当巨大。除了劳动力市场的广泛重整，大型语言模型系统可能会增加虚假信息的传播，并长期固化那些有害的偏见。生成式人工智能也有可能加剧经济不平等。这种系统甚至可能对人类构成存续性风险。
对一些人来说这是一个叫停人工智能研究的理由。今年早些时候，包括埃隆·马斯克（Elon Musk）和史蒂夫·沃兹尼亚克（Steve Wozniak）等超过1000名人工智能技术专家联署了一封公开信，建议各个人工智能实验室“立即暂停”比GPT-4更强大系统的训练至少六个月。他们认为应当在这一暂停期间设计并实施一套共享的安全协议，并“由独立的外部专家严格审计和监督”。
这封公开信以及它所引发的激烈辩论凸显了各利益相关者迫切需要加入一个广泛的善意过程来就开发和部署高级人工智能的强有力共同准则达成一致。这种努力必须考虑到自动化和工作岗位替代、数字鸿沟以及对技术资产和资源（如数据和算力）的控制权集中等问题。而且首要任务必须是不断努力消除人工智能训练中的系统性偏见以使ChatGPT这类系统最终不会再现甚至加剧这些偏见。
关于人工智能和数字服务治理的各类提案已经在美国和欧盟等地涌现，而包括世界经济论坛在内的组织也在对此做出贡献。2021年论坛发起了全球数字安全联盟，旨在联合利益相关者处理网上有害内容并促进关于监管网络安全最佳做法的交流。论坛随后创建了“数字信任倡议”以确保人工智能等先进技术的发展能考虑到公众的最佳利益。
现在论坛正在紧急呼吁展开公私合作以应对伴随生成式人工智能涌现而生的各种挑战并就开发和部署该技术的下一步措施建立共识。为了推动进展，论坛与AI Commons这个由AI从业者、学术界和专注共同利益的非政府组织支持的非营利组织合作于今年4月在旧金山举行关于生成式人工智能的全球峰会。各利益相关者讨论了该技术对商业、社会和地球的影响并共同制定各类手段以减轻负面外部因素，同时传递更安全、更可持续也更公平的成果。
无论我们喜欢与否，生成式人工智能都将改变这个世界。在这一技术发展的关键时刻，我们必须采取合作的手法以尽一切努力确保这一进程与我们的共同利益和价值观相一致。
本文作者：
克劳斯·施瓦布，世界经济论坛创始人兼执行主席
李响，世界经济论坛人工智能、数据与元宇宙总负责人，执行委员会成员
编辑：江颂贤
本文原载于Project Syndicate。
