就在上周，人工智能领域接连迎来两条重磅的法律监管消息。你可能也在新闻上关注了：4月21号，欧盟委员会公布了一份人工智能法案的草案。
在草案当中，欧盟委员会指出，虽然人工智能技术的确能创造广泛的社会和经济利益，但它的风险也是有目共睹的，比如人工智能技术驱动的监控系统，如果使用不当，可能会侵犯人们的隐私。所以草案把各类人工智能技术划分为三个等级，分别是高风险、低风险，以及需要被禁止的。
给你举一个，在他们看来需要被“禁止”的例子：有一类技术可能会在“不知不觉中对人类意识进行操控，从而影响他的决定或者扭曲其行为，进而给人造成心理或者身体伤害”。这种技术属于完全被禁止之列。而这条条例，让不少人联想到亚马逊、脸书等等大公司的智能算法。
同样是在上周，就在欧盟发布AI法案的前两天，美国的联邦贸易委员会FTC也在网站上发表了一篇文章，文章被解读为，FTC将要追击那些算法自带偏见的公司。比如说，如果一家公司声称，我们的算法丝毫不带有种族歧视，但是查看公司的数据库，发现用来训练算法的数据显然倾向于某个种族，这就不行啦。这种欺诈行为将会受到严惩。出售这种有偏见的算法也会被禁止。
在欧盟和FTC的监管消息发布之后，我看到不少关注科技的媒体评论说，AI自此进入了一个新的监管纪元。
那为什么在当下这个时间点，AI监管会成为焦点呢？
我想，这不仅仅因为AI应用越来越多，还因为托马斯·弗里德曼说的那个判断：世界正在变深。这个判断的意思是，传感器越来越小，价格越来越低廉，越来越深入物理世界的各个角落，比如你可以在衬衫里携带传感器，监测自己的身体机能，连接电商平台的销售。AI技术越来越深地埋入我们看不到的角落，这种隐蔽性让监管日益迫切。
前两天，《纽约客》杂志上发表了一篇有意思的文章，这篇文章就展现了AI技术深入物理世界的一个极端情况：深入人的大脑。当这种情况发生的时候，被改变的不仅仅是人的行为，还有人对自我的意识。而由于种种原因，比如研究的缺乏或者监管的忽视，我们对这种可能的影响依然知之甚少。
接下来，我就来跟你分享一下这篇文章里的案例。友情提醒：今天的节目比较长，需要15分钟左右，感谢你的耐心。
《纽约客》这篇文章的标题叫做《大脑机器: 大脑植入设备会改变你的自我身份吗？》。这篇文章讲的是，全世界最早植入脑机接口设备的一批人。
今天咱们都知道，马斯克的公司正在研发植入式的脑机接口设备：在他的设想当中，一个小缝纫机式的手术机器人，在头上切一个微小的创口，就能把一个微型芯片植入人脑。并且马斯克说他希望这样的技术能够首先用来治疗疾病。
我们都会觉得这样的技术特别前沿。不过其实，在国外，从25年前开始，美国的食品药品监管局就批准了一类脑机接口设备的使用，就是所谓的“深脑部刺激设备”，用于治疗帕金森、肌张力障碍或者其他颤抖类的疾病。这类治疗的原理是，在脑部的特定位置植入一个设备，利用设备发出的电刺激来调解脑部的活动，控制肌肉运动方面的症状。
也有的设备更加智能，它们可以通过采集脑信号，预测某种疾病发病的频率和时间。
那有多少人接受过类似的植入治疗呢？你可能想不到，今天全世界，出于治疗目的而携带神经植入设备的人，总共有20万人。如果我们想观察脑机接口设备对人的影响，这20万人是一个相当庞大的样本群体。
对于大部分的患者来说，深脑刺激的治疗往往很有效。但是2006年，一个法国的研究团队发表了一篇论文，他们发现了一系列的特别案例：从病理的角度来说，患者的治疗非常成功，达到了预期的效果。但是，患者的行为方式却发生了一些意想不到的改变，以至于给他们的生活造成了重大影响。在他们的研究当中，65%的患者在接受了大脑设备植入之后，婚姻和亲密关系破裂；64%的患者想要换工作，甚至离开自己原有的职业赛道。
跟设备植入之前相比，他们的智能和焦虑水平并没有改变，甚至焦虑水平还下降了。但是这些患者往往会感到他们和“自我”产生了疏离感。比如，有一个人觉得自己就像是一个电动玩具，另一个人觉得自己像是随时被一个遥控器操控一样。
显然，这些人对于“自我”的认识，在接受脑机接口植入之后发生了巨大的变化。
这是怎么回事呢？
澳大利亚塔斯马尼亚大学有一个哲学讲师弗德里克·吉尔伯特（Frederick Gilbert），一直都在研究自由意志。他对这些患者的情况产生了好奇心，于是找到了一系列这样的患者进行了深入访谈，他想知道这些人的生活出现这么大的变化，到底是什么造成的？
一开始他怀疑，这些患者的生活之所以发生巨变，是因为他们的生活本来是围绕着疾病“建模”的。比如说，一个人因为患病的原因，原本对妻子很依赖，但是因为疾病康复了，这种依赖关系瓦解了。夫妻关系最重要的联结就断裂了。
但是经过研究，这位学者发现情况远远没有这么简单。他发现一些患者的变化实在是太大了，显然不是他的“建模”理论可以解释的。
比如说，有的人在植入之后，感受到了前所未有的自信和愉快。有一个女性感觉自己比之前年轻了15岁，有一天非要强行用手抬起一个台球桌，一下子伤了后腰；有一个男士，本来很温柔，但是在植入设备之后性格变得非常强势，他的老婆觉得完全难以忍受；还有一个女士，在接受了设备植入之后，总是想起一出是一出。比如她刚刚接受手术9天之后，身体还没痊愈呢，非要步行10公里去医生的办公室。她的性格变得太冲动，以至于她的家人觉得，他们失去了曾经的那个人，为此他们感到难过。
你看，说这些患者性格大变，治疗前后完全不是一个人，可能都不夸张。
这种变化是怎么来的？有一个最显而易见的可能性，就是这些设备的植入改变了大脑的化学物质、神经元连接的方式，甚至大脑结构。而这种植入带来的脑部变化，远远超出了科学家的预期。
这当然是一个非常合理的解释。不过，吉尔伯特针对一些患者做了一些深度的访谈，发现情况也并不全都是如此。他发现，对于一部分患者来说，植入设备带来的心理变化，可能比物理层面的直接改变更有解释力。
什么意思？他追踪了6个植入过脑机接口设备治疗癫痫的患者。有一家总部在西雅图的公司叫NeuroVista，他们为癫痫患者开发了一个脑机接口产品。
我在文稿里放了一张图，你可以看到这个产品大致的形态。
简单来说，这个产品的功能是预测癫痫的发作：你可能也知道，癫痫俗称羊角风，发作的时候，轻者突然失神、一部分肌肉僵硬，严重的可能会浑身抽搐、倒地。因为没法预测癫痫发作的时间，不少患者都会在发作的时候不小心受伤。
而NueroVista公司就针对这个痛点，开发了一个产品：他们会在患者的大脑皮层植入一个硅材料的、十字形状的接收器，上面有16个电极。癫痫发作的时候，患者的脑部会出现异常的、突发的放电现象。这些电极就是用来采集信号的。
而在设备的另一端，是一个信号传输器，埋在患者的胸口。传输器接收到脑电信号之后，会再通过无线的方式，把数据传输给一个体外的处理器。患者需要随身携带这个处理器，它就像是一个BP机一样。
NeuroVista公司首先会监测患者发生癫痫时异常的脑信号，然后他们会用一个智能算法来学习脑信号，对下一次发生癫痫的时间进行预测。每当癫痫快发作的时候，处理器就会亮起红灯，提醒患者本人采取措施。
进入人类临床试验之后，NeuroVista发现，在10个接受植入的患者当中，有3个人的癫痫发作可以被精准地预测。
按理说，这是一个很有用、很好的产品。但是吉尔伯特在研究的时候却发现，其中两个预测效果特别好的患者，在使用设备之后，性格乃至人生轨迹，都出现了完全相反的巨大变化。
两个患者都是在青年时期患上的癫痫，都因为癫痫时常发作，生活严重受到影响。一个患者不得不放弃了自己热爱的表演生涯，另一个患者从小就在学校受到霸凌，成年后经常因为癫痫突然发作而进医院。他们后来都植入了NeuroVista的设备。
一个患者，在植入之后，第一次感到自己终于拥有了一个正常人的生活，这位患者的名字叫Rita。因为NeuroVista设备的预警信号，一般比癫痫发作要提前至少15分钟，Rita说，这让她有充足的时间找一个更安全、更隐私的地方躺下来，预防突发情况。
后来她发现，因为预警引号足够早，所以她完全可以在接到预警的时候，吃抗癫痫的药物，阻止癫痫发作。以前每次癫痫发作之后，Rita都觉得自己失去了一部分记忆，那种空落落的感觉会让她害怕。但是有了这个设备之后，她第一次觉得，她可以信任自己了。植入之后，她第一次尝试了线上约会，并且很快遇到了一个心意相投的人，两个人结婚了。
但是遗憾的是，NeuroVista由于缺乏经费，在2013年停止运营了。那些植入了设备的人，后来也因为缺乏设备维护，感染风险太高，不得不把设备取出。
《纽约客》杂志采访这位患者的时候，虽然距离她取出设备已经过去了6年时间，但是她依然忍不住流眼泪。她甚至用了“思念”这个词，来形容她对设备的感受。你看，这种强度的情感联结，显然不仅仅是一个人和一个治疗工具的联结。
对于这种现象，吉尔伯特是这么解释的：他认为NeuroVista设备和患者的融合，已经创造了一个全新的，机器和人脑共生的身份。用Rita自己的话来描述，她觉得她和那个植入设备完全融为了一体，那个设备就是她的一部分。
但是，同样的治疗经历，在另外一个患者身上，却产生了完全相反的效果。这位患者的名字叫Galvin。在她的设备植入之后，癫痫发作的预警信号就一直响个不停。并不是因为设备出问题了，而是因为，Galvin的癫痫每天发作上百次，甚至在她睡觉的时候，癫痫都在发作。
但是，Galvin和她的医生，以前却从来不知道她的病情已经严重到这个程度，因为有一些癫痫的发作比较轻微。可想而知，当Galvin从一个脑部设备得知这个情况，对她来说是一个多大的冲击？以前她还能假装自己不在乎，但是每天处理器上的红色警报一直都在响，无时无刻不在提醒她，她并不是一个正常人。她很快就觉得自己的生活失控了，自此陷入了深深的抑郁。
所以对于Galvin来说，当NeuroVista公司关停，她取出设备的时候，她感到并不是难过，而是一种如释重负的感觉。
你看，这两个患者的反应虽然截然相反，但从这两个例子里我们都能感受到，脑机接口设备会给人的心理状态带来巨大的改变，甚至深刻地影响一个人的“自我”。
吉尔伯特认为，目前科学界对于这方面的研究实在是太少了。大部分发表的论文，都聚焦于设备针对疾病的疗效，但是很少讨论设备本身的伦理问题和风险。甚至按照规定，做相关实验的公司，也不需要详细地描述失败的案例情况，他们只需要提供一个成功比例的数据就可以。这些缺失导致我们对脑机接口设备的应用，并没有一个“全景式”的，从物理到心理的认知。
如今，脑机接口的应用范围越来越广。美国食品药品监管局已经批准了开展脑机接口用于治疗老年痴呆症，以及一些精神性疾病的实验，比如精神分裂症、抑郁症、厌食症等等。但是显然，我们对于这些治疗手段的伦理影响知道的还远远不够。
好，《纽约客》杂志的这篇文章，我就给你介绍到这里了。
你看，过去，科技产品对人来说，一直都是工具，是媒介，是人能力的一种外延。但是今天的很多科技产品，越来越不像工具，而是变得像“我”的一部分。拿走你的手机，你是不是会难受半天，觉得寸步难行？当然，那种情况下，生活依然能继续。但是有了脑机这样的技术，情况不一样了。它可以直接改变“我”是谁，甚至成为“我”。 如果一部分“我”被拿走了，这可不得了了。
这篇文章让我感受到，世界在变深，其实也体现在，科技对于人性的介入变深，人对科技的“瘾”也在变深。