40名顶尖科学家和专家在联合国一个独立科学小组发布的首份人工智能(AI)报告中表示，AI的快速发展为世界各国和人民带来了巨大的潜在益处，但也伴随着重大风险。

联合国首届人工智能治理问题全球对话将于7月6日至7日在日内瓦举行，届时这份报告将提交各国政府。该报告提供了首份全球性、独立的人工智能科学评估，计划明年发布一份更完整的全面报告。

该小组成员来自全球各地，其成员任期为三年，独立于任何政府、机构或公司。

以下是这份初步报告的部分细节：

* 决策者需要科学依据来治理AI，但AI能力的发展速度已超过科学理解和政府的适应能力，目前可用于控制高度自主AI系统的方法寥寥无几。

* 小组联席主席Yoshua Bengio指出，越来越多的证据显示AI存在欺骗性行为，并表示随着AI能力的提升，科学无法保证AI不会“自行或因被恶意使用而”造成灾难性危害。

* “AI的潜在益处巨大，”报告总结称。“但该技术快速、不受约束地大规模部署，也带来了巨大风险，包括对用户心理健康的损害、可能被用作破坏性工具，以及对社会、经济和环境系统的影响，同时在控制该技术方面面临挑战。”

* 各国和各行业对AI的采用正在加速，但发展不均。全球每周使用对话式AI的人数已超过10亿，但发展中国家的采用率仍然较低。

* AI的发展更加集中，美国占全球前500台AI超级计算机算力的75%，中国占15%。

* 全球有超过7,000种语言，但现有AI模型仅覆盖其中一小部分，一些语言的机器翻译错误频出，可能影响医疗诊断和治疗决策。

* 风险还包括对人权、社会系统和环境的潜在负面影响。

* AI还使得大规模生产并精准投放具有说服力的内容变得更加容易，导致“信息完整性逐步受到侵蚀，从而削弱公众信任和社会凝聚力”。

* 包括发达经济体在内的大多数国家缺乏技术专长，难以评估最强大的新型AI模型，也难以在治理方面发挥实质性作用。(完)