主持：石谦，上海市科学学研究所所长
对话嘉宾：何积丰，中国科学院院士，华东师范大学教授；洪小文，微软全球资深副总裁，微软亚太研发集团主席，微软亚洲研究院院长；Jaan Tallinn，欧盟人工智能专家组成员，Skype创始工程师，美国未来生命研究所联合创始人，剑桥大学生存风险研究中心联合创始人；吴明辉，明略科技集团创始人、董事长兼首席执行官；Allan Dafoe，牛津大学人工智能治理研究中心主任；林晖，流利说联合创始人、首席科学家。
◆ ◆ ◆ ◆ ◆
石谦：人工智能正在改变人类的生活、生产方式，同时也在法律伦理等方面带来了新挑战。习近平主席致2018年世界人工智能大会的贺信中指出，“把握好人工智能发展机遇，需要处理好人工智能在法律、安全、就业、道德伦理和政府治理等方面提出的新课题，需要各国深化合作，共同探讨。中国愿在人工智能领域与各国共推发展，共护安全、共享成果”。所以今天的话题既是一个重要话题，也是一个热门话题。今天这次高端对话的主题是“人工智能治理的趋势与实践”。有请6位专家到台上来跟大家作分享、对话、交流。
何积丰院士、洪小文副总裁、Jaan Tallinn、吴明辉先生、Allan Dafoe、林晖先生。有请。
石谦：今天这6位专家既有来自学术研究界的大咖，也有产业界一线实践的企业家，还有专注人工智能治理研究的专家。可以预想接下来将会展开一场精彩的思想碰撞。大家都知道人工智能的技术发展非常得迅猛，相应治理的工作也必须快速地跟进。今天上午我参加了大会的开幕式，在所有的专家、领导的致词、报告中，都提到了“治理”的重要性。所以，人工智能的治理也是需要快速发展、快速迭代的领域。首先提出第一个议题，你们认为人工智能治理的关键命题是什么？首先从何院士这边开始跟大家作一个交流。
何积丰：人工智能治理问题，范围比较广，一句话说不清什么东西该治理，什么东西不在治理范围内。个人觉得有这样几个方面，大家都很关注。
第一，道德伦理。现在不少人工智能技术是依赖于大数据，当然它算法很好，帮助挖掘了很多过去你看不到的关系，但在某种情况下，数据管理不到位，很容易被破坏。偷拍照片是小意思，但是如果掌握了很多数据，拿它卖钱，就可能会触碰到法律底线。现在智能服务很多，大家会提到公平，这个概念在社会里面意指我们的社会应该为绝大部分人提供服务。可是因为资源限制，有的人没得到服务。在互联网时代，我们说要解决城市跟农村的数字鸿沟问题。城市享受比较多的数字资源，而农村享受不到。在以后的人工智能发展过程中，使全体老百姓都能享受到人工智能带来的好处，这个问题应该需要仔细讨论。
第二，应用技术分析的问题。在科学发展中，我们很关心技术的工作原理，它干不了什么，哪里又比较危险。前几年不少实践证明，人工智能技术并不是在每个地方都是很安全的。这当然跟技术局限性有关。算法设计者关注算法质量还是有一定道理的。一般的服务稍微差一点，可以把电脑关了。但是在社会服务普遍的情况下，跟人家打交道，走在马路上都用到很多人工智能服务，该闯祸马上就发生了，不是关电脑就能解决的。人工智能是以人为本的，如果这个工作没做好，其他工作是没办法做好的。我就这些看法，不对的话请大家批评指正。
石谦：公平性和以人为本。下面听洪小文副总说说。
洪小文：技术上来讲，一把刀好事坏事都可以做。话题是人工智能，但是人工智能涵盖很多方面，比如数据规范，比如内线交易。在股票市场上，假如你知道了某些信息，有些事情就不能做。所以，对数据的管理实际上很直接。大家在谈所谓的人工智能、伦理也好、道德也好、管理也好，重要的是对整个高科技业，包括数据、应用的管理。
与管理相关的，一个是法律层面，什么是犯法？当然还有社会上大家所认可的道德。比如假新闻问题，全世界每个地方都有，有的地方叫谣言。很多时候这个界限很模糊，它不一定犯法，但是大家知道你这样做，或者某个公司数据被某些人用了，做了很特殊的广告，影响政治选举的结果，虽然不见得触犯现有法律，可是他可能破坏了社会认同的道德，或者大家所接受的常态。很高兴的是，几年前微软是少数几个首先提出人工智能管理的公司，大家需要谈，到今天已经变成常态，越谈越有好的结果。立法需要经过很长的过程，有一个专家说过，为了安全一定要绑安全带这条规定，弄了将近一百年才立法，所以立法肯定需要经过一个时间。在中国或者在其他地方，立法立得太早、太快，可能会让一些创新变慢。所以立法过程需要一些时间。道德这件事情通常是指大家所接受的规范，真正到法律层次将是非常严重的程度。所以，这些东西真的需要由各行各业的人讨论，包括做高科技的法律专家、社会学家、人类学家、哲学家，更不必说政府，以及公共关系治理者。虽然过程需要时间，但是希望在讨论过程中有些东西能沉淀下来，这将是全世界可以合作的命题。欧盟也好，美国也好，都会讨论这个问题，不断形成社会、世界的规范。
石谦：下面请Jaan Tallinn给我们交流一下。
Jaan Tallinn：非常感谢，非常荣幸能够来到这里。我参加的委员会是理性主义委员会，他们有一系列的技术帮助改善我们的思考，一个叫做“pull of word”，它涉及到如何扩大对这个词语的理解。有的时候我们在讨论人工智能的时候，我们把人工智能和机器等同起来，用机器替代了人工智能。
人工智能其中一个非常显著的问题是，人工智能和其他技术是不同的，因为它更普遍。当我们在下放决策权给机器的时候，会涉及到很多人类领域，这个不是线性的关系。我们要确定它涉及到哪些相关的领域。
第二个非常显著的问题是，我们必须非常地小心，可以将哪些决策权下放给机器。这样就会出现一种危险，可能会在各个国家之间展开一场将一些决策权下放给机器的竞赛，但是也会保留一些国家政府的决策权。因为如果我们把一些权利下放给机器，机器会自动地思考作出自己的选择。如果我们将这个决策权下放给机器人的话，我认为不是一个很明智的选择。
大家如果关注世界各地，特别是在上海，我们会发现所有环境都是由人类的决策所决定的，而人类和其他的种群相比，我们是高一等种群，因为我们是更好的决策者，我们可以作出自己的决策。所以，我们不应该有这样的竞赛，把我们的决策权下放给机器。
本文网址：http://www.afeijie.com/gulouqu/25408.html ，喜欢请注明来源河南开封新闻网。
郑重声明：本文版权归原作者所有，转载文章仅为传播更多信息之目的，如作者信息标记有误，请第一时间联系我们修改或删除，多谢。
