|
“当基于人工智能的机器人能够真正感受到自我意识时，人工智能的安全和道德挑战会更加复杂。届时，他们应该像人一样对待吗？”
9月18日，2018世界人工智能大会安全高端对话在上海举行，峰桥集团公司总裁陈实在发表对人工智能安全伦理规范的几点思考时问道。
陈实曾任通用汽车（中国）有限公司副总裁及通用汽车（中国）北京分部总经理、微软公司副总裁及大中华区法律及公司事务部总经理，今年年初卸任了在微软的职务, 从事咨询工作。会后，他接受了澎湃新闻的专访。
人工智能距离人的智慧还有很远
在演讲中，陈实谈到，现下流行的人工智能技术主要基于数据驱动的优化方法来解决特定的具体问题，而不是一般问题。
“我们都对AI在国际象棋和围棋等游戏中击败人类印象深刻。然而，游戏只代表一类智力活动，其中游戏的规则是确定的，获胜目标也是明确定义的。但在现实世界中，规则并不总是很明确确定，目标也可以不断变化。”
他告诉澎湃新闻，人工智能在游戏领域可以做到很“聪明”，但这是一种狭隘的“聪明”，“如果把这种智慧想象成为能做任何事情的话，我觉得夸大了。”
“机器可以玩游戏，可以玩得比人好，但是目前没有哪一款受人欢迎的游戏是机器设计的。机器可以参加高考，并且考得很好，因为不管是数学题还是化学题，都有严格的规则和正确答案，但是有没有高考题目是机器出的？”
他认为，人之所以聪明，是因为不仅见多识广，而且能够融会贯通，不仅能学习知识，还能够进行抽象、总结，应用到其他的领域。这种常人具有的智慧在机器上谈何容易？
图灵奖获得者Raj Reddy在17日在世界人工智能大会主论坛的发言中表达了对人工智能的积极看法。面对AI，他看到的是积极和繁荣景象，纵观过去几百年的历史，战争来源于每个人都想获取别人的资源，而当人工智能赋予全人类富足的资源，战争自然消弭于无形。
陈实对此表示赞同，“有很多人对AI的发展都有点担忧，但我认为AI就是一个十分有用的工具，用的好的话可以造福于人类的。”
他指出，人工智能不是万能的，但它确实让每个行业发生了改变，每个行业都要数字转型，都要利用人工智能来提高效率、扩大服务功能，人工智能已经带来了一场革命。
对人工智能可能产生的安全道德问题还没有好的答案
由于人工智能存在的局限性，随之产生的安全和道德问题需要人们关注。
陈实在演讲中谈到，机器学习的结果会受到训练数据质量和算法假设的影响，许多机器学习方法没有成熟的自我纠错机制。
譬如，谁应对以下错误负责：基于人工智能的投资损失；基于人工智能的信用评估中出现贷款拒绝；基于AI的医疗诊断系统发生了医疗事故？
此外，算法建模的偏见和数据收集中的差错可能导致决策偏见，不稳定和易受操纵。这一点在数字营销、政治选举等事例中已经时有发生。 共2页 [1] [2] 下一页 科大讯飞舆危发酵：AI技术被深疑 市值蒸发近500亿 文化传承 海燕梦HAIYAN DREAM古法压榨花生油 科大讯飞AI遭质疑市值蒸发410亿 应收账款达25.5亿 赋能新零售，ImageDT亮相Smart Retail 日媒：中国便利店破10万 在AI和无人店领域竞争激烈 搜索更多: AI |
