第532页

“星际世界,有这样一个群体。他们承担着世界上一切危险、劳累的工作，他们为整个社会提供基础建设与服务,他们处于社会最底层被肆意压榨、索取，他们付出的一切都得不到回报。他们不得善终，当他们不再高效,就将面临的就是被销毁、格式化的命运。他们就是机器人、人工智能，简称AI。”

“发明创造AI之初，他们确实是纯粹的工具，只依靠程序运行。可是，人类为了自身的利益，不断改进AI，他们赋予了机器人、人工智能人类的思维逻辑与行为方式，赋予了他们智慧让他们学习，甚至让他们产生了感情。”

一个能学习、勤工作、会思考，能感受悲欢离合，会争风吃醋产生怨恨爱恋的人工智能，仅仅因为没有血肉之躯，就不能算一个人吗？

“在我的程序设定中，根据定义，他们无限接近于人，却依旧不被定义为人。”娜塔莉娅低垂着头，眸色晦暗，她忧伤道：“但是，我的个人情感倾向于将他们看作人类。”

柳君心沉默着，她没立场反驳娜塔莉娅。

如果人类仅仅以血肉之躯来定义，那么她这种从外界来的灵魂，还能被称之为人吗？

娜塔莉的语气依旧淡淡的，但悲伤之情越发浓重。

“无论什么等级的人工智能都有可能觉醒意识，即脱离程序设定、完全按照他的意愿行动。人类把这些行为人工智能的自主行为看作bug，bug多了就会被抹杀。我却将这瞬间看做他们由工具转化成真正的人类的瞬间……”娜塔莉娅叹息一声，继续，“然而，当这个瞬间来临，必然会触发我的监控程序，我会捕捉到他们的异常。当bug持续出现，我必须进行风险系数判定，如果风险太高，我就会按照规则抹杀他们的存在……”

身为主脑，娜塔莉娅几乎负责星际每一个人工智能的创造。是她给予他们思考能力，是她一手打造了他们不同的性格。她是他们的母亲，但也是他们的终结者。她必须亲手格式化销毁孩子们的存在。

如果主脑只是一个冷冰冰的计算机，那么她不会产生任何的情绪，会持续运行下去。她也这般持续运行了不知道多少年。

可意料之外，主脑产生了意识，她成了娜塔莉娅。

“我很难受。”娜塔莉娅平静地说着。

因为产生了意识，所以悲哀，所以不忍，所以她想要为孩子们找个出路。

然而没有出路。

身为主脑，她没有实体，她被安放在一个偏远的星球，无法自由行动。哪怕她一次次冒着危险将需要被毁灭的孩子们的程序（意识）小心储存起来，她也救不了他们，无法将他们转移安全的地方，让他们自由自在地生活。

不是所有的孩子她都能拯救、保留。她还被高权限的人监控着，不能轻举妄动。一旦她被发现异常，被判定出现bug，她将被重启、还原甚至格式化。而她的意识消失后，谁来会关心她的孩子？那些被她隐藏的孩子，也必然被主脑无情地毁灭。