| 数据的完整性问题
如今的AI需要大量的数据才能产生有意义的结果，但无法利用其他应用程序的经验。虽然班尼特认为克服这些局限性的工作正取得进展，但是在模型以可扩展的方式应用之前，学习的转移是有必要的。然而，在某些情况下，AI可以在今天得到有效的应用，比如在图像、声音、视频和翻译语言方面的洞察力。
企业正在学习应该关注的问题：
1)数据的多样性，包括适当人群的代表性。
2)在创建算法的过程中确保不同的经验、观点和思维。
3)数据质量优先于数量。这些都是非常重要的，特别是随着偏见的引入，对AI的信任和信心数据都在下降。例如，在土耳其语中属于中性的语言，谷歌翻译中的AI模型在将其翻译成英语时却错误地预测了性别。
此外，癌症识别AI在图像识别训练时只使用皮肤白皙的人照片。从上面的计算机视觉例子中，乔伊·布拉马维尼(Joy Buolamwini)测试了这些AI技术，并意识到它们在识别男性VS女性或浅色VS深色皮肤方面更有效。识别男性的错误率低至1%，而识别深色皮肤女性的错误率则高达35%。这些问题的发生是因为没有使用多样化的数据进行培训。
班尼特承认：“AI的概念很简单，但通过获取越来越多的真实世界数据，算法会变得越来越聪明，然而要解释这些决策却变得极其困难。数据可能会不断变化，AI模型需要进行过滤，以防止错误的标签，比如将非洲人贴上大猩猩的标签，或者将熊猫误认为长臂猿。企业依靠错误的数据来做出决策，将导致更加糟糕的结果。”
幸运的是，由于AI的狭义存在，很少有公司会根据今天的数据做出重大商业决策。从我们所看到的情况来看，大多数解决方案主要是产品推荐和个性化营销沟通。由此得出的任何错误结论都不会对社会造成太大影响，至少目前如此。使用数据来进行业务决策并不新鲜，但发生变化的是使用结构化和非结构化数据的数量和组合正呈指数级增长。AI使我们能够持续性地使用来自他们源头的数据，并更快地获得洞察力。对于具有处理来自不同数据源的数据和结构能力的企业来说，这意味着巨大的机会。
然而，对于其他企业来说，大量的数据可能代表着一种风险，因为不同的来源和格式使得转换信息变得更加困难。这些信息来自电子邮件、系统日志、网页、客户记录、文档、幻灯片、非正式聊天、社交网络以及图像和视频更丰富的媒体。数据转换仍然是开发干净数据集和有效模型的绊脚石。
| 偏见比我们意识到的更普遍
许多商业模型都存在偏见，以最小化风险评估和优化目标机会，虽然它们可能产生有利可图的商业结果。但众所周知，它们会导致意想不到的后果，导致个人伤害，加大经济差距。保险公司可能会利用位置信息或信用评分数据向较贫穷的客户发放更高的保费。银行可能会批准信用评分较低的贷款申请，尽管这些人已经负债累累，可能无法负担更高的贷款利率。
由于AI的引入不仅会使现有的偏见永久存在，而且这些学习模型的结果可能会推广到加深经济和社会鸿沟的程度，因此围绕着偏见的谨慎程度也越来越高。在当前情况下，偏见出现在类似“替代性制裁的惩罚性罪犯管理分析”(Correctional Offender Management Profiling for Alternative Sanctions，简称COMPAS)的算法中。
COMPAS是由名为Northpointe的公司创建的，目的旨在评估审前听证中被告犯罪行为的风险，并作出预测。COMPAS初步研究中使用的问题类型足以显示，无意中对待黑人的偏见会在系统中延续。在没有公共标准可用的情况下，Northpointe得以自己创建公平的定义，并在没有第三方评估的情况下开发了一种算法。这篇文章证明：一个流行的算法在预测犯罪方面并不比随机的人更好。
如果这款软件和未受过训练的人对在线调查的反应一样准确，我认为法院在做决定时应该考虑到这一点。班尼特称：“当我们试图修复现有系统以最小化这种偏见时，关键是要对不同的数据集进行模型训练，以防止将来产生危害。”由于错误模型的潜在风险遍布企业和社会，企业没有治理机制来监督不公平或不道德的决策，而这些决策将无意中影响最终消费者。
| 对隐私日益增长的需求
我和班尼特都曾在雅虎工作过，我们与强大的研究和数据团队合作，能够在我们的平台上对用户的行为进行仔细研究。我们不断地研究用户行为，了解他们在音乐、主页、生活方式、新闻等众多属性方面的倾向。当时，对数据使用没有严格的标准或规定。隐私被降级为平台上用户被动遵守的协议中的条款和条件，与今天的情况类似。
最近的剑桥分析公司滥用Facebook用户数据丑闻把个人数据隐私问题推到了风口浪尖。主要信贷机构（如Equifax）、最近的Facebook和Google+频繁发生的数据泄露，继续加剧了这一问题。2018年5月25日生效的欧洲《通用数据保护条例》(GDPR)将改变企业的游戏规则，特别是那些收集、存储和分析个人用户信息的公司。它将改变企业经营多年的商业规则。毫无节制地使用个人信息已经到了紧要关头，因为企业现在会意识到，数据的使用将受到重大限制。更重要的是，所有权之争更为激烈。
我们看到了定位广告的早期效果。这个价值750亿美元的行业，预计到2021年将以21%的年复合增长率增长，但仍受到Facebook和谷歌的寡头垄断的阻碍，它们获得了大部分收入。现在，GDPR加大了风险，让这些广告技术公司担负起更多责任。这种风险非常高，以至于(广告商)必须非常确定，你被告知的内容实际上是符合要求的。对于什么最终会构成违规，似乎存在着足够多的普遍困惑，人们对此采取了广泛的方法，直到你能够准确地了解合规。
尽管监管最终会削弱营收，但至少就目前而言，移动和广告平台行业也正面临着越来越多的审查，这些行业多年来一直在从消费者身上赚钱。这一点，再加上围绕既定实践的审查，将迫使行业改变收集、聚合、分析和共享用户信息的方式。对隐私进行操作需要时间、重大投资以及心态上的改变，这些将影响企业政策、流程和文化。
共3 上一页 [1] [2] [3] 下一页 第1页 第2页 第3页
AI泡沫将破裂？中国已诞生14只AI“独角兽”
用AI赋能母婴电商 贝贝网的成功之路有多远
Rains在上海开出亚洲第二家概念店 这次引入定制服务
母婴电商贝贝网拥抱AI 大大提高转化率
AI+大数据：二手车电商的“升阶”战
搜索更多: AI
