2015年12月22日 报社邮箱英文网 厦门网首页
人工智能时代法治新课题:机器人要承担刑事责任吗?
2018-09-07 11:35来源:文汇报

  机器人要承担刑事责任吗

  ——回应人工智能时代的法治新课题

  本报见习记者陈瑜

  不论是弱人工智能时代,还是强人工智能时代,人工智能与大数据对法学和法律实践所造成的变革都已是不争的事实。法学研究对人工智能时代所提出的新课题的回应,将会为未来的司法实践赢得主动权。

  关于人工智能和法律,前美国国家安全顾问和国务卿基辛格在近日发表于《大西洋月刊》的文章中曾谈及一个自动驾驶汽车版本的“电车难题”:如果自动驾驶汽车因突发情况,被迫在杀害老人和杀害孩子之间作出选择,它会选择谁?为什么?再进一步思考,如果这辆汽车撞死撞伤了人,谁又该为此负刑事责任?是这辆车,还是这辆车的设计者?

  这个假设的场景只是人工智能面对法律问题的一个缩影。伴随着人工智能和大数据技术的迅速发展,一系列类似的问题也接踵而来:人类生产生活方式的深刻变革将会给法律制度和社会治理带来哪些挑战?现行法治体系又该如何调整和应对?近日,由华东政法大学人工智能与大数据指数研究院主办,上海市大数据社会应用研究会和律新社协办的“人工智能、国家治理与法治论坛”在华东政法大学举行,与会专家们针对上述问题展开了讨论,为我们勾勒了人工智能时代下法治世界的图景。

  人工智能如何实现未来的精准法治

  在美剧《西部世界》中,主角福特有一句著名台词:“我们给机器编码,是为了解码人类。”在人工智能时代,随着越来越多的社会活动转移到互联网上进行,人们在互联网上留下海量数据,使得原本不可预测和追踪的社会行为变得可以被计算。无论是对企业的经营还是政府的管理来说,这种“社会的计算化”都意义重大:企业可以通过分析客户数据、投放定制化广告来兜售自己的产品,政府可以利用海量数据对个人进行分类、评分和社会信用评级来实现预测性执法,从而更好地进行精准化治理。

  但是,由于如今的“社会计算化”主要由商业力量推动和控制,这给政府的治理工作带来了新的问题。上海交通大学凯原法学院教授郑戈就指出,传统上人们认为,政府掌握了最充分的个人数据,从出生、入学、就业、婚姻、生育到死亡,但这些数据都是静止的,它并不能生成对一个人动态的行为模式的分析。现在,由于人的大部分线上活动不是在政府平台上进行,而是在搜索引擎、购物平台、社交网络等由私人企业运营的商业平台进行,因此大量的数据实际是掌握在私人企业手里。政府虽然可以在行政、司法和执法的过程中要求企业提供特定的个人数据,但这种要求只能在具体个案中针对特定人物,不能成为可供机器学习的大数据。而且,也可能遭到企业以保护商业秘密或合同关系为由的拒绝。

  郑戈的担忧并非空穴来风。在近日发生的“女孩坐滴滴顺风车遇害案”中,滴滴公司就以保护司机隐私为由,未在第一时间向警方提供车牌、驾驶人信息,致使救援行动延误。更为“讽刺”的是,滴滴一方面拒绝与政府合作披露用户信息,另一方面又偷偷地滥用用户的个人信息,典型的例子即是前不久因“空姐遇害案”引发争议而下线的顺风车用户标签和车主评价功能。

  “从法律的角度来看,我们在考虑人工智能在所谓的精准治理中的应用时,首先要面对的就是政府和企业的关系问题——政府既需要与企业合作来获取数据、购买产品和服务,又需要作为企业与消费者之间的中立第三方来对企业进行监管,保护消费者的个人数据。”在郑戈看来,基本公共服务领域的公、私权力关系是未来治理需要解决的首要问题:“一方面,要将透明、公开、程序合法、说明理由等对公权力行使者的要求延伸到实际上行使着‘准公权力’的企业,使算法等技术化的监控和决策手段不再是无法被问责的‘黑箱’;另一方面,要调整传统的公法概念和规制手段,以应对现时代公私合作、公私共治的普遍现象。”

  人工智能可以替代法律工作者吗

  如今,“智慧司法”已然是大势所趋:已在上海市全面推广应用、覆盖上海刑事案件的90%以上的“刑事案件智能辅助办案系统”,就是人工智能新科技和司法改革深度融合的典范。在对上海几万份刑事案件的卷宗、文书数据进行“深度学习”后,该系统已具备初步的证据信息抓取、校验和逻辑分析能力。今年8月,一场法律界的“人机大赛”在重庆举行,由重庆研发的人工智能法律机器人“大牛”与从全国公开招募的6名资深律师进行了法律服务比拼,比赛结果令人瞠目结舌——“大牛”的得分远远高于这6位资深律师。

  上述这些例子都表明,法律从业人员的许多具体工作可以被人工智能所取代,这是否意味着人工智能会全面取代法律工作者?答案显然是否定的。“人工智能所体现的技术理性有明显的化约主义倾向,我们可以借助它来提高效率,取代一部分无需创造性和价值判断的工作,比如闯红灯罚款,但不能由它来做出事关人类福祉的最终决策。在涉及事实争议和价值选择的复杂问题上,人工智能只能被用来强化人类智能,而由人来作出最终的选择和判断。”郑戈这样说。

  上海市法学会党组书记崔亚东则进一步指出:“在未来的法律人才培养上,一方面要在高校设立法律人工智能研究中心,开设相关法律科技等方面的课程,培养法律和科技的复合高端人才。另一方面,我们也要明确在人工智能时代,法学教育的主业仍然是法律,人工智能的引入应该是辅助法律从业人员更加高效、便捷、公正公开地处理法律事务,至于这个证据能不能用、怎么用,如何量刑等问题,最终的决定权仍在法官、检察官手中,这一点决不能走偏。”

  人工智能偏离人类的预设怎么办

  美国波士顿动力公司曾设计出一款可以“随机应变”的机器人:给它设定一个“搬箱子”的任务,无论实验人员怎么妨碍它(把箱子移到别处,或者直接把机器人推倒),它还是会“顽强地”爬起来完成任务。但是,有学者担心,给机器人植入一个“排查妨碍”的程序,如果它突然产生意识、学会自我学习,它发现每次害自己完不成任务的人是这个实验人员,那它会不会为了完成任务直接把这个实验人员撂倒?可见,当智能机器人被设定为一种由程序编码而成并由此产生深度学习能力的物体时,它完全有可能超越人类对它的预设,独立实施某些犯罪行为,这就对现有的刑罚体系产生了冲击。

  对此,华东政法大学刑事法学研究院院长刘宪权教授在他的新书《人工智能时代刑事责任的演变》中指出,人工智能已经远远不是作为犯罪工具那么简单,它影响着刑事责任的分配。他这样说:“现在一般将人工智能时代分为三类:前人工智能时代、弱人工智能时代、强人工智能时代。前人工智能时代中的机器人,我们称之为普通机器人,比较典型的是ATM机和工业机械手。如果ATM机出了问题,我们不太可能去追究它的研发者和使用者。但在我们正处于的弱人工智能时代中,在自动驾驶技术日益普及的当下,我们对研发者和使用者的责任定义就有了很大变化。比如,委内瑞拉无人驾驶的炸药,还有韩国的杀人机器,从法律的角度来看,这应当是研发者的责任。未来,如果强人工智能时代到来,机器人拥有了自由意志,就需要独立承担刑事责任。”尽管目前在“强人工智能时代是否会到来”这一问题仍有很大的争议,但刘教授认为法律工作者的态度应是宁可信其有、不可信其无:“我们必须预先设定一些应对的法律,否则一旦强人工智能时代到来,关于人类的颠覆性问题就会出现,甚至到时候,不是人类制定法律规制它,而是它制定法律规制人类,这并不是天方夜谭。”

  类似地,《华东政法大学学报》主编马长山教授也强调了要对现有法学理论进行颠覆性创新来应对眼下的这场人工智能革命,他指出:“这个重建分为以下几个方面:一是研究理念的转向。我们传统的研究理念是建立在以罗马法学为基础的法律体系,罗马体系是以人和人、人和物的关系为重要基础,但随着生产关系的变化,当下的智能社会是以数据、信息、算法为基础,这意味着整个生产管理和人们的生活方式都发生了巨大变化,沿用传统的理念可能无法解决许多问题。二是知识谱系的更新。现代法律体系是建立在理性主义和个人主义的基础之上,但现在社会发展的去中心化、扁平化趋势使得原先的‘理性人假设’等基础理论被颠覆。此外,如果将来机器人产生意识,我们还需重新考虑主客体关系。三是理论与逻辑的重建。我们现在处理一些网络信息、人工智能的案件是完全套用原本物理空间的逻辑而进行,但存在许多问题,比如网络赌博案件,很难找到合适的管辖范围,因此必须重建适用于智能互联网时代的新逻辑。”

  由此可见,不论是弱人工智能时代,还是强人工智能时代,人工智能与大数据对法学和法律实践所造成的变革都已是不争的事实。法学研究回应人工智能时代提出的新课题,将会为司法实践赢得主动权。未来已来,法律工作者们将手执正义女神朱斯提提亚的长剑,用法治为人工智能的健康发展护航。

展开阅读全文

责任编辑:李奕佳,赖旭华

相关新闻
  • 诈骗用上人工智能 网络黑色产业链专案82人被捕

    近日,浙江省绍兴市越城区检察院以涉嫌诈骗罪对董健伟、吴波、赵雪妍、边春婧4人提起公诉。这是公安部督办的“1· 03”网络“黑产”系列专案中第一批被提起公诉的犯罪嫌疑人。此前,该院以涉嫌提供侵入、非法控制计算机信息系统的程序、工具罪,非法获取计算机信息系统数据罪,非法侵入计算机信息系统罪,侵犯公民个人信息罪,诈骗罪,对这一网络黑色产业链系列专案的犯罪嫌疑人李琦、杨克群、张鑫、张明伟等82人依法批准逮捕。目前,除董健伟等4人被提起公诉外,其余均在审查起诉之中。[详细]

    检察日报
    2017-12-12
  • 孩子学编程成时尚 人工智能时代家长不必做“虎妈”

    在人工智能时代,机器和算法可能会为我们解决那百分之九十九的汗水问题,而教育的本质,可能就是要回归到去获得那百分之一的灵感。[详细]

    新京报
    2017-12-28
  • 南京一中学开设人工智能选修课 不到两小时抢完

    9日,在南京师范大学附属中学树人学校的课堂上,30多名初一学生正在学习“人工智能进课堂”的第一课。树人学校相关负责人告诉记者,该课程在选课平台开放后,不到两小时就迅速满员。[详细]

    中国新闻网
    2018-03-09
  • 机器人10秒为癌症患者开处方 20年后还要医生护士吗?

    8日,同济医院导诊机器人“童童”第一次上岗,引发读者网友高度关注。其实,“童童”的伙伴们早已深入全球医疗业,默默为人类服务了。在全球,医用人工智能正处于高速成长阶段。目前,我国已将机器人、智能制造和数字诊疗装备等纳入了国家科技创新的优先重点领域,随着“脑计划”“人工智能2.0”“智能制造和机器人”等科研技术在医疗领域的使用,医生护士会下岗吗?这一天什么时候会到来?[详细]

    武汉晚报
    2018-04-12
  • 全球首场神经影像诊断“人机大战”落幕 AI胜名医

    人脑,电脑,谁更了解大脑?昨日,备受关注的首场神经影像领域的“人机大战”在国家会议中心落下帷幕,在脑肿瘤和脑血管影像判读比赛中,医疗AI最终以高出20%的准确率战胜了医学界的“最强大脑”。据悉,如果这款AI产品投入使用,核磁检查的出片速度将从现在的几天缩短至几分钟。[详细]

    北京青年报
    2018-07-01