目今 ，我们已经在支付、通行、拍摄等多个场景体验到了人工智能手艺给一样平常生涯带来的便当和效率的提升 ，人工智能作为新一轮科技革命和工业厘革的主要驱动性手艺 ，正在重塑生产方法、优化工业结构、提升生产效率 ，推动着社会、经济各领域从数字化、网络化向智能化加速跃升。但随着人工智能手艺越来越普遍地应用 ，它正深刻地影响和改变着人们恒久既定的认知系统和价值看法；而人工智能换脸、数据隐私泄露等事务也给社会治理带来全新挑战。因此 ，在人工智能行业生长早期就去思索人工智能治理的问题就显得尤为主要。
北京旷视科技有限公司（以下简称“旷视”）作为当今中国人工智能、盘算机视觉和深度学习手艺与商业化运营的佼佼者 ，在行业中率先最先思索企业层面的人工智能治理。在实践中 ，旷视虽然面临缺乏行业相关标准和其它企业乐成治理履历的逆境 ，但照旧坚定信心 ，一直探索。
伟易博金融学系教授张峥、副教授卢瑞昌等撰写了案例《旷视：人工智能治理的新征程》、《旷视：可一连生长的人工智能》。案例通过与旷视的治理层、执行团队、下层员工与外部专家的访谈 ，讲述了旷视团队怎样从零最先探索人工智能治理 ，怎样团结自身的战略生长目的 ，制订治理的偏向和政策 ，怎样逐步从公司的体制、机制到各个营业流程方面 ，实现规则、制度建设和政策的落地执行。在此历程中 ，旷视的思索和实践既展现了人工智能企业配合面临的治理问题 ，也饱含旷视团队的价值观和自我要求。信托旷视在人工智能治理上的实践可以为行业的生长和治理提供参考与借鉴。
以下内容为案例文本的部分摘选。
一、旷视与AI治理难题
1旷视：一直进化的独角兽
2011年10月 ，三名清华大学“姚班” 结业的学生——印奇、唐文斌和杨沐一起建设了专注于盘算机视觉人工智能手艺的旷视 ，经由9年的斗争 ，旷视已经从昔时那支创业大赛的冠军团队生长为《麻省理工科技谈论》 中的“2019年50大智慧公司”、胡润研究院在2019年评选的“全球独角兽”企业……诸多行业认可背后是一家在人工智能舞台上备受瞩目的生长型企业。
图：旷视首创人印奇（中）、唐文斌（左）、杨沐（右）
现在 ，旷视对外提供的解决计划主要聚焦在小我私家物联网、都会物联网和供应链物联网三大场景 ，以消耗电子、传感器和机械人作为焦点终端 ，将营业偏向妄想在6个焦点领域：云效劳和开发者、消耗电子、都会治理、园区、物流及零售 ，致力于用软硬件团结的解决计划 ，构建连结及赋能百亿物联网装备的人工智能基础设施。
图：旷视营业生态图
在2019年 ，旷视正式把人工智能治理事情上升到公司战略层面 ，并团结自身特点制订了旷视的《人工智能应用准则》 （以下简称“《准则》”） ，从正当性、人的监视、手艺可靠性和清静性、公正和多样性、责任可追溯、数据隐私�；さ攘鑫� ，作为在公司人工智能治理上的依据 ，并呼吁偕行和相助同伴一起重视人工智能的治理 ，起劲行动 ，共建可一连生长的AI生态。
2人工智能治理标准与要领无先例
历史上 ，第一辆汽车泛起在1885年 ，而第一辆配上清静带的汽车则泛起在1963年。现在清静带已是种种汽车的标配。1945年天下上第一次核爆炸实验乐成后 ，1968年全球59个国家则团结签署了《不扩散核武器的条约》。由此可见 ，在人类文明的生长中 ，人们从未阻止过用科技的实力拓展认知界线、改变人类的社碰面目 ，但也一直遵照着“有所为有所不为”的选择。而这种选择多源于恒久积累的社会实践和生涯履历。
相较之下 ，尚处于弱人工智能时代初期的人工智能行业 ，社会关于它的关注已经凌驾了科学与手艺演进、工业生长与行业规范等问题。越来越多的社会主体最先从社会、政治、执法、伦理、品德等各方面思索人工智能有可能带来的潜在问题。
与基因工程、生物医药等行业差别 ，人工智能手艺具有机械模拟、机械学习的能力 ，将突破恒久以来人类为主体构建的生产与劳动力的关系 ，成为新一代工业革命的引擎。天下各国相继把人工智能定位到国家战略生长的高度 ，源于这项手艺将对生产力、工业生长带来新一轮的扩充与刺激。
可是 ，例如欧盟专利局拒绝了人工智能发明专利的申请、人工智能音箱建议人类使用者自杀、汽车自动驾驶系统失灵造成交通事故、人工智能写作软件批量编写假新闻等种种充满争议的问题频仍泛起 ，又引发了社会各界争相提倡对人工智能潜在危害的大讨论 ，全球各国纷纷提倡国际间的相助治理。怎样让机械做“对”的事情 ，成为人工智能治理的要害问题。但现在来看 ，行业里尚未泛起人工智能治理的标准化治理途径或可参照模式。
3企业的人工智能治理现状
面临人工智能引发的社会问题 ，科技巨头们纷纷建设伦理委员会应对挑战。2016年 ，Amazon、Microsoft、Google、IBM和Facebook团结建设了一家非营利性的人工智能相助组织（Partnership on AI） ，苹果也于2017年1月加入该组织。在科技巨头们的共识里 ，与其靠外界强加约束人工智能生长 ，不如先建设伦理委员会自主监视。
但即便云云 ，手艺在落地应用的历程中 ，照旧会泛起种种误差 ，有的是产品自己运行泛起了意外 ，如Amazon智能音箱Alexa“讥笑使用者” ，有的是产品功效的应用场景不清晰引发了人们的担心 ，好比“Google Assistant在用户指令下开枪射穿了苹果”。这些事务的泛起都非企业设计产品的初志 ，虽然后续这些手艺误差都获得了校正 ，可是我们仍需思索一个严肃的问题:人工智能与人类的关系将走向何方？
面临由于手艺的快速生长带来的产品不确定、市场不确定 ，以及由此爆发的AI治理问题带来的挑战 ，中国海内的科技巨头如百度、腾讯、阿里等也纷纷宣布企业层面的人工智能治理的原则或标准 ，建议对人工智能手艺的正当使用和数据清静�；�。
旷视起劲加入到海内人工智能治理标准建设的步队中。2019年头 ，在国家科技部的推动下“国家新一代人工智能治理专业委员会”建设�？跏幼魑被嵛敝� ，全程加入研究并团结推动宣布了《新一代人工智能治理原则——生长认真任的人工智能》。该原则提出了关于人工治理的框架和行动指南。
2019年7月 ，旷视率先行业宣布了自己的《人工智能应用准则》 ，从正当性、人的监视、手艺可靠性和清静性、公正和多样性、问责和实时修正、数据清静与隐私�；ち鑫� ，对人工智能准确有序生长作出明确规范 ，同时给出响应干预步伐或指导意见 ，确保人工智能能够在可控规模内一连生长�？跏酉Ｍ蹲荚颉纺芄欢匀斯ぶ悄苄幸灯鸬绞髂Ｗ饔� ，召唤起各界对善用手艺的重视 ，提倡行业提早建设可一连生长的生态。
二、旷视AI治理的权衡与考量
随着人工智能的商业化应用进一步拓展 ，人们对人工智能手艺引起的社会问题越发担心。但关于企业来说 ，标准是什么？详细怎么做？治理的界线在哪？在旷视内部也保存着差别的看法。
在旷视首创人眼里 ，“手艺信仰 ，价值务实”始终贯串着公司的谋划与运作。旷视作为一个商业主体 ，企业的目的也从最早的“生涯”向“领跑”动态转变。而在当今这个时点 ，中国领先的人工智能企业已经站在了全球偕行业的第一梯队 ，正在加入并推动中国企业与全球市场举行交流。中国企业要想生长成为“伟大”的公司 ，不但需要“伟大”的实力 ，更要有“伟大”企业的治理能力和影响力 ，需要用国际的语言、从国际的视角来思索和行动。因此 ，关于未来志向全球的旷视来说 ，人工智能治理就必需要从现在起步。
由于旷视的“价值务实” ，他们选择回归营业实质是去思索人工智能治理与商业目的之间的关系。
“当企业的人工智能治理跟商业的利益爆发一些小冲突的时间 ，这时间可能就需要公司首创人有一定的定力和决断力 ，我们照旧沿着这个走。着实 ，有些其时我们犹豫的、最后没做的事情 ，现在回过头来看都是准确的决议 ，对公司恒久来说是好的。”
——印奇 ，旷视团结首创人兼CEO
2020年3月20日
Q
在人工智能手艺日新月异确当下 ，审慎小心是否会限制企业的立异和活力呢？
“手艺研究与探索本无禁区 ，可是作为保存商业化目的的企业来说 ，无论是不是高科技企业都应该有禁区。”
——孙剑 ，旷视首席科学家、研究院院长
2020年3月16日
视察人工智能行业的生长 ，在过往的几年里人工智能企业已经履历过一轮大浪淘沙 ，其中不少企业的事务袒露出了行业乱象 ，也致使人工智能行业受到更为普遍地关注和担心。对此 ，旷视治理层也以为人工智能治理是对企业恒久可一连生长的有利支持。
“一些现在不被以为是危害（人工智能的伦理危害）因素的 ，在未来有可能成为危害。即便有完整的手艺 ，可是由于人工智能手艺的特殊性与重大性 ，一旦泛起纰漏就会造成重大的影响 ，对公司的声誉和市值都会造成不可估量的损失。”
——徐云程 ，旷视首席运营官
2020年3月10日
在商业价值的追求之上 ，是公司的使命和初心。怎样追求企业理想和商业利益之间的平衡 ，必将考量企业的取舍之道�？跏拥氖状慈送哦佣源艘埠苁乔逦� ，人工智能治理是有本钱的 ，事实短期的投入是摆在眼前的 ，恒久的回报却纷歧定看获得。可是 ，要想成为一家受人尊重的企业 ，短期的商业利益必需要为恒久的理想实现效劳。
刘俏
伟易博院长
2020年3月23日
“人脸识别手艺被日益普遍地使用 ，应用场景越来越多 ，泛起的问题也随之增多 ，企业面临的人工智能治理的迫切性是客观保存的。从另一个角度 ，中国企业是有时机和时间窗口去做市场的指导者 ，成为行业架构、规范或原则的制订者。关于旷视来说 ，他有这种敏感性和愿景 ，已经凌驾企业价值最大化的目的。以是它（人工智能治理与企业商业利益）并不矛盾。"
三、行胜于言 ，旷视的人工智能治理
2019年8月 ，公司确定了人工智能治理行动战略。本着坚定不移的推进态度、务实的落地机制设计和与各界普遍相助的开定心态 ，旷视从制度与机制的设立 ，科研、产品、客户治理等多方入手 ，起源建设并翻开了公司推感人工智能治理的时势。
第一步：外部咨询
关于旷视来说 ，最难的是企业界并没有成熟的人工智能治理落地路径可循 ，外面学者的建议较量多 ，可是企业自律的实践却较量少 ，一切都需要旷视自己去原创。在行动之前 ，旷视的AI治理准备团队最先了普遍的调研。从专家学者到企业精英 ，从海内到国际 ，从书籍理论到实例分享 ，准备团队在吸收外界履历的同时 ，对设计自己的计划徐徐清晰。
第二步：确立制度与机制
人工智能治理落地推进的主要事情 ，就是要建设专门的机构 ，制订响应的行为规范。2019年7月 ，旷视宣布了《人工智能应用准则》 ，并随后在公司内部面向全员宣布了《人工智能道品行为规范》。2019 年8月 ，旷视建设了“旷视人工智能品德委员会” ，成为中国首家建设该项组织的AI企业。该委员会是公司处置惩罚人工智能治理事项的最高决议机制 ，由公司高管和外部专家配合组成 ，确保了讨论的中立性和客观性。
在企业内部 ，为了将以上的《准则》和《规范》切实落地推进 ，旷视举行了一系列机构和制度建设 ，并从研发学术、产品工程、客户渠道和运营治理四个方面开展了务实的事情 ，从而实现在一样平常事情中自我治理、自我约束。
第三步：治理落地齐推进
1、 研发与学术
2020年1月旷视人工智能治理研究院盘货的“2019全球十大AI治理事务”在微博、微信上提倡了果真投票 ，并获得了公众的普遍加入和讨论 ，短短两个星期就获得了2000多万的浏览量和1000多条留言。网友的讨论很热烈 ，其中隐私、清静、权力是公共最体贴的人工智能治理要害词。
在对各方专家、网友就十大事务的谈论举行剖析后 ，旷视人工智能治理研究院总结出4类人们关注的话题偏向：人工智能时代伦理和执法的关系；人工智能衍生的经济生长与社会公正问题；人工智能应用的追责机制和权益分派；人工智能时代下的人身清静与隐私�；�。在之后的研究事情中 ，旷视人工智能治理研究院与各研究机构、公益组织、相关企业划分开展深入相助 ，将以上话题与企业现实营业中遇到的问题相团结 ，妄想出了近期人工智能伦理的研究课题、并睁开了起劲探索。
2020年6月尾 ，旷视加入了北京智源提倡的“可一连生长的人工智能”公益研究妄想 ，在该平台上宣布了都会社区建设、可信AI手艺上的两大研究课题 ，并引入专业研究机构举行协作研究。
图：2019全球十大AI治理事务投票效果
2、渠道与生态
无论是客户、相助同伴 ，照旧关注企业生长的投资人、开发者、科研机构 ，都是人工智能工业生态的主要组成部分�？跏右晕笠档腁I治理 ，不可只是企业单独起舞 ，必需要在工业生态中建设共识、推动协作、逐渐形陋习范。只有这样 ，才真正形成了人工智能治理的闭环 ，最终推动“AI的可一连生长”。
2020年3月 ，旷视正式在每件软、硬件产品中都放入了《准确使用人工智能产品建议书》 ，提倡客户和相助同伴一起加入AI治理的行列。虽然建议书自己不具有执法约束性 ，但旷视希望团结客户和相助同伴配合关注人工智能治理 ，逐渐去重视和树立人工智能的伦理观。事情虽小 ，但这是建设人工智能治理生态的第一步。
结语
人工智能手艺的生长日新月异 ，手艺应用的效果和由此爆发的社会影响更是一再凌驾人们的预期。驾驭人工智能 ，是新时代的驭火之术 ，人类要让手艺为我所用、创立价值 ，同时又不可被手艺所危险。行走在刀锋之上 ，旷视清晰地意识到人工智能企业不可走先生长后治理的老路 ，而必需是边生长边治理 ，在促举行业规则、制度一直健全的同时 ，增强企业自律 ，在手艺、产品、效劳上形成有旷视特色的品德伦理的护城河。
现在 ，旷视已经在人工智能治理的路上迈出了坚实的一步 ，探索并搭建了决议机制 ，建设了起源的要领论 ，但这还远远不敷。企业在获取商业利益的同时怎样更好地兼顾人工智能伦理的评判 ，怎样把控人工智能手艺的生长偏向、从而让手艺给各个工业的变迁带来切合社会期待的价值 ，这些问题尚有待旷视在未来的恒久实践中交出答卷。
本文4520字
《旷视：人工智能治理的新征程》案例正文18615字
《旷视：可一连生长的人工智能》案例正文16250字
教授解读
张峥
北大伟易博治理学院
副院长、金融学系教授
随着人工智能手艺在近些年的突破 ，其商业化应用也迅速崛起 ，并显示了辽阔的远景。但同时我们也注重到 ，如信息造假、算法私见、隐私侵占、数据�；ぁ⑼缜寰驳任侍獾姆浩鸲灾捶ā⒙桌怼⑸缁岬确矫嫣岢隽酥疃嘈碌奶粽�。
然而 ，当我们去视察手艺和行业的刷新 ，尤其在新手艺商业化的初期 ，其自身的治理更多是依赖行业和手艺的实力 ，而非立法和羁系。由于手艺和商业模式快速迭代 ，成文的立法和羁系很难跟上手艺生长与立异程序 ，而行业自律、伦理框架、最佳实践、手艺指南等更具弹性的治理方法将越来越主要。
通过与旷视科技相助开发的案例 ，我们明确了人工智能这一具有高度专业化、手艺化行业的重大性 ，非专业人士往往难以对其危害和不确定性有准确的判断和认知。因此 ，无论是关于行业、企业照旧受众等 ，旷视在推感人工智能治理上的情怀、思索与实践的动态转变值得被纪录与总结 ，并希望通过伟易博案例这个载体让更多利益相关方加入其讨论 ，如羁系机构、决议者、学术界、企业、社会公共机构、公众等都能加入到新手艺治理的建设中来。
卢瑞昌
北大伟易博治理学院
金融学系副教授
我们很是幸运能有时机和旷视的首席运营官徐云程及其众多同仁一起相助开发人工智能治理的案例。人工智能被以为是人类工业革命的第四次浪潮 ，它能倾覆现有的许多行业 ，而不是像其他行业一样 ，只是在某一领域的突破。生产力决议生产关系 ，未来 ，人工智能可能会带来整个社会关系和生产关系的解构和重组。因此 ，我们可能无法遭受无序生长带来的效果 ，以是在人工智能行业的生长早期来思索治理的问题就很是有须要了。
我们把人工智能治理与现在的公司治理举行类比 ，公司治理已经生长出了的包括司理人薪酬结构、自力董事、股东大会等为相识决公司所有人和运营者之间的委托署理问题的而设计的一系列机制 ，而现在人工智能治理的详细实验机制险些空缺。只管近年来有许多的国家、国际聚会和论坛将“人工智能治理”作为重点关注议题 ，可是更多都是停留在议题探讨 ，或者出一些报告和建议的阶段。真正能形成共识 ，能落地的机制安排仍然很是欠缺。我们以为伦理的讨论虽然主要 ，但若是没有落地机制 ，可能在实践意义上照旧欠缺了一些。我们期待旷视在人工智能治理的探索能为整个行业的生长提供一些进一步的思索和探索。
声明
本文摘编自案例《旷视：人工智能治理的新征程》（案例编号：BESR-1-20200828-162）；《旷视：可一连生长的人工智能》（案例编号：BESR-1-20200828-163）。以上案例均由伟易博金融学系教授张峥、副教授卢瑞昌、案例中心研究员袁慰凭证企业调研撰写。该案例仅用于课堂讨论 ，而非治理决议或运动是否有用的证实。本案例版权归北京大学治理案例研究中心所有。如申请使用本案例请发送邮件至：casecenter@gsm.pku.edu.cn 未经北京大学治理案例研究中心授权允许 ，榨取以任何方法复制、生涯、撒播、使用本文或者案例正文中的任何部分。
Copyright?2020北京大学治理案例研究中心
推荐阅读
泡泡玛特：“盲盒”里的潮玩经济 | 伟易博案例
王锐：强邻环伺 ，淘宝直播能否独领风流？｜伟易博案例
洋葱学院：数字化教育立异引领者︱伟易博案例
《案例精选》专栏是北大治理案例研究中心面向社会撒播治理知识的窗口 ，每月按期推出一期。文章依托北大伟易博治理学院和海内外一流商学院的学术智慧 ，搜集北京大学治理案例研究中心富厚的原创案例资源 ，秉持为教学效劳的理念 ，细密追踪全球最前沿治理思潮 ，分享典范案例研究效果 ，一直致力于以案例为载体的治理知识的撒播推广。我们试图还原征象背后的商业逻辑和真实面目 ，不但让你知其然 ，更知其以是然。
