如何防止AI变成终结者

2019-01-17 23:42:27 / 打印

人工智能(AI)长期以来在我们的集体想象中扮演了巨大的角色,从纸浆科幻小说到詹姆斯卡梅隆大片。当AI是敌人时,它是有形的,不可能忽视,就像终结者一样。即使在现实世界中,关于流氓技术的讨论往往集中在公开和戏剧性上,例如埃隆马斯克在推特上的劝告,人工智能的危险可与核武器的危险相媲美。

也许人类正在走向压迫性的人工超级智能。与此同时,人工智能已经融入我们的日常生活中。它为我们提供了我们喜爱和需要的东西,从生产力建议到电影推荐。然而,当我们不仔细考虑它对我们的民主国家,司法系统和我们的福祉的影响时,我们就会面临真正的风险。

马克苏尔曼今天的人工智能对我们大多数人来说都是看不见的,但无处不在。我们经常与之互动的一个例子是互联网上的推荐引擎 - 推荐YouTube上的下一个视频或Facebook上的帖子的代码。这些算法汇集了大量的个人数据,以了解我们并在线策划我们的体验。在这种情况下,AI只是将您的个人数据与具有相似兴趣的人的数据混合在一起 - 然后指向您。结果可能是偶然和令人愉快的。它也可能很危险。去年,硅谷巨头向纽约杂志开放了关于当今社交媒体是如何吸引用户成瘾的。使用我们的数据操纵我们留在网站本身可能也可能不是有害的。但即使你不为自己担心,也有越来越多的证据表明这些系统倾向于激进化和极化。去年,北卡罗来纳大学教堂山分校研究员Zeynep Tufekci 称 YouTube为“伟大的激进者”:观看一个反疫苗接种视频,YouTube将建议第二个; 观看一个事实上不正确的政治视频,YouTube将推荐续集。此外,这些算法可以被人类游戏以播下更多的不和谐。民主研究员和Mozilla研究员Renee DiResta的数据揭示了反疫苗活动家如何利用谷歌的算法来传播危险的虚假信息。怎么样?通过发布大量含有热门关键词和搜索词的误导性文章。她最近还在国会作证说,俄罗斯特工如何通过冒充美国新闻媒体和美国选民来操纵Facebook的AI来影响美国选民。(注意:Mozilla是一家非盈利组织,是开源Firefox浏览器的创建者,是谷歌Chrome浏览器的竞争对手。)

这篇专栏文章不是由AI编写的当然,问题不在于技术本身 - 人工智能本身并不是恶意的。但它确实复制并放大了人类的偏见。计算机程序由人类制作,他们烘焙某些设计目标并利用某些数据集。所有这些都是人类正常的矛盾:慷慨和贪婪; 包容和偏见; 善与恶。想一想:如果一组程序员的目标和激励是为了增加广告收入,那么他们创建的内容推荐算法让人们尽可能长时间地观看视频就不足为奇了。而且,由于这些算法学习和适应以更好地实现目标,因此像Facebook,YouTube和Instagram这样的应用程序正在成为Ronald J. Deibert教授,并且已经托管过Mozilla研究员,最近被称为“成瘾机器”的人并不奇怪论文题目为“ 三个痛苦的真相社交媒体。 ”此外,这项技术是由少数几家公司开发的 - 像你知道的Facebook这样的名字,以及像Palantir这样的其他公司,你可能不会这样做 - 几乎没有透明度。公职人员,调查记者和具有公民意识的公民不能同意代码来发现问题。简单地说:“公众没有工具来保持算法的可靠性。”我们真正需要问的问题是:我们如何以负责任和合乎道德的方式制定AI?幸运的是,越来越多的人和公司提出这个问题。

微软总裁:世界需要与AI03:29 保持同步像Tufekci和DiResta这样的研究人员是至关重要的声音。像人道技术中心这样的团体正在研究“成瘾经济”的运作方式。像纽约大学的AI Now Institute这样的组织正在研究AI影响基本自由的方式。即使像微软这样的老牌企业和像Element AI这样的创业公司也在呼吁监管。其他人则强调需要更多的工程师和产品设计师在构建AI时考虑责任和道德。想象一下,一位社交应用设计师问:我如何增加利润并保证用户安全?创造毒品和汽车的人会问这些问题; 为什么不开发者?考虑到这一点,Mozilla(我的公司),Omidyar Network,Schmidt Futures和Craig Newmark Philanthropies 正在领导负责任的计算机科学挑战赛,这是一项耗资350万美元的计划,旨在将道德规范纳入本科计算机科学课程。最后,值得注意的是,少数政府也开始加强。2018年,纽约市市长办公室宣布了一个AI监督小组。最近,加拿大和法国政府宣布了一项联合倡议,以审查人工智能与道德的交叉点。而且,在芬兰,政府正在培训 1%的人口基础知识,例如部署时和“机器学习”和“神经网络”等术语的定义。

随着人工智能变得越来越普遍,促进公众更好地了解其对社会的影响至关重要。笨重的机器人可以成为一个好的电影,但不能准确地表达人工智能如何能够做到并且确实对今天有害。我们需要关注真正的解决方案,例如在绘图板上规划道德和负责任的技术,而不是事后。一句话:我们需要在人工智能达到数百万人之前预测并消除人工智能的偏见。

智车宝是一个全民参与的全国性车载广告投放平台。私家车,网约车,营运车辆,公司用车,快递车都可以利用自己的车体承接广告获得收益。广告主可以通过平台选择目标车辆的类型和行驶习惯进行广告投放,广告费按车辆行驶的里程计算,平台对广告投放过程进行检测和管理,广告投接双方可以通过终端实时查看收益和消耗情况。

智车宝是一个全民参与的全国性车载广告投放平台。私家车,网约车,营运车辆,公司用车,快递车都可以利用自己的车体承接广告获得收益。广告主可以通过平台选择目标车辆的类型和行驶习惯进行广告投放,广告费按车辆行驶的里程计算,平台对广告投放过程惊醒检测和管理,广告投接双方可以通过终端实时查看收益和消耗情况。

更多福利

关注服务号