您的位置:首页 >保险快报网 > 资讯 >

让AI坚持人类价值观的方法

2020-03-04 11:10:04    来源:人民网-人民日报海外版

如果你早年留过学,你一定用Skype给国内的亲人、朋友打过电话,这款全球免费的语音沟通软件拥有超过6.63亿的注册用户。贾恩·塔林(JaanTallinn)就是Skype的联合创始人兼首席科技官。

塔林在爱沙尼亚长大,他毕业于爱沙尼亚共和国及波罗的海国家最高学府塔尔图大学,并获得理论物理学学士学位。他是一名优秀的计算机编程专家,他和伙伴们开发的Skype软件,全世界很多人都用过。但他也是较早退出Skype的联合创始人。2005年,eBay斥资25亿美元收购Skype,当时塔林就抛售了全部股份。

多数人创业成功后,就在创业之路上走下去了。塔林则不然,他出了名挣了钱之后,就开始思考做什么才是更有意义的事。最后他选定的目标是:减低人类面临的生存风险。在塔林看来,风险主要分为两类:一是自然风险,如小行星撞击地球;二是技术风险,很多新技术的滥用或大规模应用都可能伴随着不确定的巨大风险。他选择全力解决技术风险。

2012年,剑桥大学成立生存风险研究中心,除了剑桥大学知名的天文学家和哲学家外,塔林也加入其中。他们集合了一批跨学科人才,针对生物科学、人工智能(AI)与气候变化等潜在的生存风险进行研究。塔林说,他是坚定的结果论者,“我们有责任科学理性地分析自己,并采取能产生最佳结果的行动。”

近些年,塔林对AI及其安全性产生了浓厚兴趣,他不断环游世界,与哲学家、研究人员、AI程序员等不同领域的专家交谈并获取自己想要的信息。塔林相信,人工智能正在经历一场复兴。总有一天会出现一种超级AI,它会是一个集许多功能为一体的多面手。

塔林希望能够找到一种让AI坚持人类价值观的方法——不是通过编程,而是通过教AI学习价值观。塔林指出:“人类有很多共同点,我们希望人工智能可以被教会识别这些不可改变的规则。”

塔林将自己描述为单身主义者、投资者和物理学家。有许多慈善家或新富人都愿将自己的财富捐助给贫困人群或赞助艺术家等,但塔林捐赠了数千万美元给AI风险研究机构,他认为,保护人类免受AI侵害与威胁,这些投入是值得的。

相关阅读