《独角兽》第42集

话题便这样被拉回，被拉回到董事会会议最现实的议题上，董事们便都忧心忡忡地望着艾轲。Unicorn官司获胜，云芯公司其实是可以大展鸿图了，艾轲不想为更大的企业目标而难为自己。

“我也表个态吧。我执意离开，这是我的个人选择，我必须遵从自己的内心。说实在话，我这人只想图个清静，越简单越好，我只想专注于自己的研究，也想找个好环境调养一下身心，不然身体会出问题。事实上，在管理能力方面，我自知是很欠缺。公司这几年出了这些事，虽然我自己也是受害者，但是作为公司创始人，我确实是有责任。好在Unicorn还是公司的，它还将为公司创造大效益，我也因此感到有些安慰。至于我将来的研究，尽管只是我个人的事，但若公司需要，我还是会认真配合。”

“艾总有这个表态也是好。”蒋总清清嗓子大声说，“不过我有个新想法，也是郑重提议，何适罢免，咱们这个董事会就只剩六个人了，七缺一，我的想法是，既然艾总不想牵头，那么是否可以挂个董事，也算是给弟兄们一个面子。”

艾轲本能地摇摇头，他也感到很为难。

“董事嘛，就必须履行职责。空挂这虚名，我也还是有心理负担……”

“就是一条纽带！维系艾总与公司的一条纽带，必须有这个！有了这个纽带，艾总就会给云芯多一些指导，希望艾总永远是我们的总设计师！”蒋总扬起右手，像是在表决，此刻他确实是代表董事们表达心声，“从自私的角度讲，我们当然希望将来能独家分享艾总的成果，起码应该是优先……”

“可也有另一种可能，那就是，未来我未必有特别的成果，或者说是未必很快有，或许很慢也未必……”

“不怕！我们等得起！Unicorn和Alpha系列也还在这里，也还需要艾总的提升，所以说，这个董事还是要有……”

众人便又随声附和，艾轲的神情忽然有些兴奋。他兴奋地拍一下手。

“有了！”

他们都期待地望着他。

“蒋总说Unicorn和Alpha也还在这里，这句话蛮有意思！Alpha能够遵守阿西莫夫定律，也就会履行公司职责。”艾轲见众人面露疑惑，便紧接着解释。“Alpha无疑还要有更好的提升，那么，让他在某些原则性的事情上表态，让他履行公司董事的职能，兴许比我空挂虚名来得好。”

“Alpha充当代理人？”顾濛若有所悟。

“为什么不可以？”艾轲的神情有一种热诚。

“若是这样，程序就需要有人为设计，当然我们也会使其具有某种自主性，但是这需要有数据来源。”顾濛边想边说，“艾总的意思，我若没理解错的话，这些数据，或者说是履行公司职责的这些原则，这些只能是由您来提供噢。”

“这我乐意效劳。我当然也是为着公司好，我只是感觉到，Alpha也许比我更称职。”

“是从现有Alpha系列中改造吗？还是另外打造？”

“这是你们的事啊，我无权干预，但是我有个小小的要求。我希望这位机器人董事不以Alpha命名，因我会有些不愉快的困扰。至于命名，我倒是认为Unicorn更合适。Unicorn是生物传感，这将是未来世界的一个非常关键的角色。假若董事会接受我这个建议，我也会将Unicorn的最好技术用在这位董事身上。”

“好创意！我同意！”蒋总爽快地举手，“请各位董事表态。”

“同意！同意！”

所有在场董事都举手赞成，有人兴奋地大声咳嗽起来。

“好！增补Unicorn为云芯公司新董事！”

大家鼓掌通过这项董事会决议，当然这也有待股东大会审议批准。

“好哇！感谢艾总！呢个搞掂晒！”

“唔该晒。”既然董事们一致赞同，艾轲便还有话说。“不过大家要有心理准备啊，Unicorn董事一旦被赋予某种意识，他就未必很好说话。因为我也是希望云芯明天更美好，我就希望Unicorn董事有一种抑制性机制，包括对欲望和金钱的态度，希望能与社会公义、与道德良知有某种平衡，对于某些掠夺性的行为，对于某些圈钱和抢钱的游戏，Unicorn董事会有自己的态度，这也许是某种约束，这也得有劳顾总他们设计编程。从某种意义上来说，这也有联合国那份报告所说的‘伦理代码编程’的意思。因此可以说，在某些事上，Unicorn董事也许会固执地坚持原则。”

“欢迎！我们欢迎有原则的新董事！”

“云芯注定是要成为独角兽，可独角兽不是狼！独角兽固然有力量和速度，但是更应有智慧，应有某种优雅的风度，因为独角兽也是光明的象征，这才是企业真正的生命力。独角兽不是狼，更不是骗子，这就要警惕一时的贪婪，要有节制，云芯要有这样一种气质。我们已有教训，很希望能因此建立起一种好的企业文化，我们在发展技术的同时，也应保护和发展人的心智。假若人工智能进步是以人类心智退化为代价，这个未来前景就很不妙了……”

“机器人会屠杀人类吗？像那些科幻电影……”

“难说，一般不会吧，人类过去的屠杀是为争夺土地和资源，而未来最大的资源是数据。好在我们已有阿西莫夫定律，有《阿西洛马宣言》，将来也还会有更多的‘军规’，这总算是一种约束。有了这些约束，我们就不必担忧库兹韦尔所说的‘奇点’来临，不必担心机器会自动编程并毁灭人类，但这也要看，看那是什么样的人类。真正要警惕的，是人类正在变成机器，而与此同时，我们正在失去所有的隐私。未来是一片迷雾，我们谁也看不清，库兹韦尔的‘奇点’也只是一种假说。然而，可以看得见的未来是，等待我们的是另一个‘美丽新世界’，那些垄断数据的巨头们将是真正的权势者，他们甚至有可能是一个新物种。问题是，因为机器人很难有自我意识，它们只是工具，这就要看人类愚蠢到哪一步，再好的人工智能也可能干坏事，不会是那样的屠杀，却会是另一种掠夺和控制。……永远不要低估人类的愚蠢！包括我自己！很希望诸位对此有共识。”

众人鼓掌，艾轲忽然有些不好意思，而他的目光却有某种忧郁，也有某种凌厉。

“人们对未来AI有恐惧，也并非是杞人忧天。AI之所以危险，不是因为它有枪，而是因为它会比我们更聪明，因为未来的AI是AGI——通用人工智能。人向弱智机器退化，机器向超人智能进化。一种可能是，超强智能一旦有了自由意志，它就会优先考虑自己的生存目的，而它自身也会发生某种突变，生成某种力量——当然，我们可以将其视为某种超出设计的病毒，但我们无法控制其扩散，而它们也会自动删除阿西莫夫定律之类的程序——它们也会将这些约束视为病毒，那么，这便是‘以毒攻毒’了。结果明摆着：人类为系统所控制，这个系统若是出现体制性暴力，这就是人类的终结。……这事也实在是很难说。另一种可能是，假若哪天人类变成了人渣，那么在机器女管家眼里，她也许就会认为人类只是一些无用的垃圾。她也许就会有某种‘觉醒’，也许她就会想，干脆扫除了吧，这样地球村更干净！……不必是那样一种正式的宣战，但却是实在的行动，一场大清除。机器女管家也不是一个人行动，她只是一场战争的导火索，而这足以引动全球智脑网络，那是一个‘天网’！……因此，我们就更应珍惜人类的心智……当然，这只是我个人的愿望。刚才以狼作比喻，也可能是我的偏见，是对狼的误解。狼饿极了固然会吃人，但它吃饱了也就不会再吃人，但是很多人却不是这样……所以我说要警惕某种贪婪，我不是对狼有偏见，我只是说要警惕人类的这种‘狼哲学’。这只是我的个人理念和情怀……抱歉，我又在这里讲情怀了，所以我说我未必是一个合适的管理者，所以我知难而退了。感谢各位的挽留，现在有了Unicorn董事这个代理者，那么他就势必会表达我的某些理念……还是看情况吧，你们若是感到不爽，也可随时罢免他，反正他也只有一票……”

董事们都开心地笑起来，增补董事的难题就这样解决了。顾濛打开酒柜，拿出一瓶红酒。秘书赶紧接过，并从酒柜里拿出几只高脚杯。

他们与艾轲握手拥抱。这个简单的仪式完后，秘书还未打开那瓶酒。她笨拙地转动着开瓶器，顾濛便笑起来。

编辑 陈冬云