在英美剧黑镜Black Mirro的话语体系中,每集都构建了一个近未来科技背景的独立故事,来反映当代科学技术对于人性、社会、政治、道德、公序的影响,积极友善的同时更可能带来撕裂毁坏。
黑镜Black Mirro第四季中,从立意到故事,个人最喜欢《鳄鱼的眼泪》,以下是收集的一些观点以及自己的一些感悟,大家可以参照看看。
01
《卡利斯特号》
女主从太空舱里醒来,发现被困于一个“无限轮回”的宇宙冒险游戏里,而这一切都是那个有社交障碍的程序员的单机虚拟游戏,他无意间获得了同事的DNA。
如果AI有自我意识需要人道关怀的话?
为什么所有的大反派都是科学家?如果这个世界不尊重我,那我就会变成大坏蛋
意识一旦虚拟,就和原来的自己不是一个阵营的了
所以才有了虚拟女主敲诈现实女主,其实是非常越界的一件事,只是因为求生所以被合理化了。
“突破性的AI也可以是直接复制的人类意识”
“杀光全人类的强AI”和“变成代码的人类意识”
通过单机游戏的设定,编剧将虚拟人和现实人之间的联系几乎全部切断——今天你随便写一篇文章,只要放到网上并有价值,就不知道会被复制、抄袭、转发到哪里,同样,在意识已经代码化的时代,你的意识一旦上传,你就不可能知道你所有意识副本的夏洛。
“敲诈”是个倾向性很明显的动作,意识到虚拟人和现实人已经不在一个阵营
强AI的发展和意识上传,其实是科技树上的同一片树叶(更准确地说,意识上传是强AI的一种实现方式)
人类面对的,将不会是单个意识形成的强AI,而是一个许多意识组成的强AI社会,类似于,控制一切单个意识可以是理性的,但一群原来是人类的意识则会像人类社会一样,产生非理性输出。
非理性的可怕,在于它的不可预知性,一群意识组成的强AI社会,同样会表现出无法预知的非理性行为。
在社会非理性的决定之中,扩张与杀光异族永远是人性深处一直会有的选项。
女主最后一笑,表面上是为“自由”而笑,稍微深一点,联系船长椅的话,就是为权利。
为自由而笑,对于虚拟意识来说,就是为“等同人类玩家”的权限而笑。
很多人对强AI的概念,停留在“很聪明的机器人”层面,换句话说,无论多聪明,只要装在盒子里没有打开就可以高枕无忧,然而如果盒子里装了一个人呢?是不是感觉他逃出来报复你的概率更大了?
02
《天使方舟》
女孩走失后,母亲给她植入了“天使方舟”芯片,以达到时刻监控的效果
当爱变成了恨,亲情只能是一根脆弱的稻草
注定会被打开的潘多拉魔盒
人类的负面情绪的种类要远多于正面情绪,它们让人更强大并生存下去,缺乏他们的淬炼,人迟早会出问题。
03
《鳄鱼的眼泪》
假定一只鳄鱼咬住你的脚,如果你用手去试图挣脱你的脚,鳄鱼便会同事咬住你的脚与手,越挣扎咬得越多,唯一的办法就是牺牲那只脚,及时止损。
为了掩饰错误,越陷越深,其行为最终就像鳄鱼一样冷酷无情。而鳄鱼的眼泪,为假同情,假装悲哀并留下眼泪。
她在杀人的时候,眼泪并没有阻止她改变自己的行为。
鳄鱼可以长期躲在水里等待猎物,只留两只眼睛在水面上,正如该集中描绘的未来社会,每一双眼睛,每一个成像装置都是潜在的见证者和监视者。
在需要专心思考的时候,鳄鱼脑会带来麻烦:在看待陌生的、倾略性的想法时,鳄鱼脑子会像对待陌生的入侵生物一样对待他们。在遇到新观点时,人的鳄鱼脑将其视为威胁。
鳄鱼捕到猎物,一边贪婪地吞噬,一边假惺惺的流泪。
04
《绞死DJ》
男女在虚拟空间进行指引者安排下的约会,试图寻找真爱
虚拟的生活可以脱离人体本身进行演绎和生活,而人体本身并不知情,也就是说一个人可以过几千种生活并且都以为这是现实,细思极恐
女主让白盒子数到4,接着用白盒子打水漂
物理公式或代码,白盒子从1到4的间隔跟每下水漂的间隔居然完全一致。
05
《金属头》
人类所掌握的物资已经及其匮乏,多数都掌握在AI的手上
06
《暗黑博物馆》
三个平行悲伤的故事
因转移意识技术体验到死亡快感而自虐的医生
意识被困于猴子公仔里只能说“猴子爱你”“猴子要抱抱”的母亲
为妻儿的未来生活,将自己的意识出售给暗黑博物馆馆长的死刑犯