Site Loader

飞速体育客户端下载-苏世民:人工智能启蒙来自马云,AI伦理发展有五大核心原则

  中新网北京7月9日电 (夏宾)2020世界人工智能大会云端峰会9日开幕。黑石集团董事长、首席执行官兼联合创始人苏世民在开幕式现场连线中分享了对于人工智能的想法,并回忆了他接触人工智能的往事。

  “我在人工智能方面的启蒙最初来自马云,我们都是清华大学经济管理学院顾问委员会的委员。”苏世民称,马云表示,人工智能是革命性的新技术,将会改变人类世界的几乎每一个领域。马云还提到,对于“人工智能会成为积极的力量,抑或是会成为消极的力量,进而干扰组织和人们的生活”的议题,业界存在很大的分歧。

  苏世民说,我相信,马云的观察是正确的。如何负责任地利用人工智能的无限潜力是世界正面临的关键挑战,而我想为此做点事情。因此,我决定向麻省理工学院提供3.5亿美元启动资金,以开设苏世民计算机学院,该学院将专注于人工智能的跨学科研究和开发,以及相关伦理和政策考量的研究。

  苏世民表示,近年来,世界各地的很多组织都发布了人工智能伦理发展原则和指南,为全球讨论提供了良好起点。尽管在某些问题的解释和相对重要性、以及执行意见上仍存在复杂的地区和文化差异,但全球似乎对以下核心原则达成一致:透明、公平、安全、责任和隐私。

  一是透明原则,该原则要求创建决策易说明、可解释、可审核,且在设计和实施的过程中可监督的人工智能系统。人工智能系统和软件不能只是成为黑盒子,我们需要能够轻松了解该系统可以应用于哪里、何时使用以及如何使用。

  二是公平原则。科技不应该加剧不平等、偏见和歧视,而是应该促进包容性,让尽可能多的人受益。

  三是安全原则。人工智能技术绝不应造成可预见或意外的伤害。人工智能技术的设计应可靠且不易受损。

  四是责任原则。如果人工智能系统的决策导致了问题的产生,就需要明确责任,并在必要时进行强制性补救。与此同时,研究人员和开发人员需要考虑人工智能技术的一切风险,并证明他们已采取具体行动来降低风险。

  最后是隐私原则。因为如此多的人工智能应用依赖数据,所以需要有适当的机制来保护人们的权利、利益和个人隐私信息。人工智能系统需要以易理解的方式披露如何使用、存储和保护个人信息,用户也应该能够随时撤销其使用个人信息的权利。

  “越早通过共同治理结构协调和应用这些原则,就越有可能避免人工智能的负面后果。”苏世民强调,革命性的技术,尤其是像人工智能这样的军民两用技术,需要人们,特别是那些开发这些技术的专家给予极大的关注。即使是面对不可避免的、前所未有的新压力,我还是希望大家遵循和平与稳定、包容与安全的原则。(完)

【编辑:王诗尧】

admin