近日,电影《奥本海默》在中国内地上映,不少影迷将其称作“一封来自20世纪的警告信”。影片中,“原子弹之父”奥本海默援引小说《丛林猛兽》比喻核能,呼吁管控核威胁,将核能猛兽关进笼中。现实里,AI技术迅猛发展,不少行业已有失业先例;一众科技人士联名签署公开信,倡议“减轻人工智能灭绝人类的风险,应被列为全球优先事项”。关于技术伦理的讨论也贯穿着今天与未来。奥本海默的故事带来了一个时代之问:我们利用技术走到了今天,而怎样的技术伦理,才能让我们通达想要的未来?
媒介技术学者尼尔·波兹曼曾用“技术垄断”一词来形容20世纪后的人类文明,意思是,技术发展与否,有时并不以人的意志为转移。这一点,在电影《奥本海默》中也有所体现:原子弹试爆前,奥本海默得知,原子弹有可能直接毁灭世界。但这并没有阻止原子弹的研发。的确,尖端领域的科技突破往往伴随着“试错”甚至“赌博”,需要“技术本位思想”。但当技术融入社会并构建我们的日常生活时,如何回归“人类本位”、彰显技术公共性才最为关键。眼下,人们的各种忧虑就来自于,技术与人的关系“错了位”。前几年,年夜饭上的手机之争,让人看到数字鸿沟给生活带来的影响;近年来,放不下的手机成瘾,也让我们深刻意识到数字技术对人类生活的异化。《2022移动状态报告》显示,中国人平均每天使用手机时长接近5小时,这意味着技术已经逐渐从辅助生活的工具,变成了生活本身。当下学术界,有一个话题常被提起,“数字化生存”:它指的是人们既受益于数字化带来的便捷高效,又受困于数字之网对生命本身的束缚和制约。我们常提到的信息茧房、娱乐至死等等都是其重要表征。学术表达理性而克制,但对于更多身处现实生活中的我们来说,如何变“数字化生存”为“数字化生活”,才是重新夺回生活掌控感的关键。年初,中国科幻电影《流浪地球2》热映。电影中的一些片段引发网友热议:人工智能MOSS作为没有感情的量子计算机,通过计算可能性,自行判断出“延续人类文明的最好办法就是毁灭现在时代的人类”……文艺作品中的这个隐喻虽有夸张成分,但其之所以能引发广泛讨论,也是因为映射了部分现实。重庆瞭望此前在《我们期待什么样的算法》中写道,“算法,算计的是利益”。算法技术追求利益最大化,能做的只是判断题、选择题,却没有办法针对人的情感波动,做好人性的“阅读题”。这直接导致了目前社会中的部分行业从业者,困于“技术囚笼”,感受不到技术的温度。在《奥本海默》中,原子弹爆炸后,奥本海默喃喃自语:“而今我成为死亡本身,世界的毁灭者。”天才如奥本海默,也无法阻止之后美苏两国的军备竞赛。核能技术从研发成功那一刻起,就已脱离了所有人的掌控。今年五月,美国好莱坞发生了60年来最大的群体罢工事件,矛头直指生成式AI带来的失业浪潮。同月,重庆瞭望发布的《ChatGPT“踢馆”:谁离场,谁留下》也关注了国内部分互联网公司,通过引入AI技术而产生的裁员事件。科技进步带来的生产力变革,模糊了人的主体性,让人忧虑。再比如,通过基因编辑“造人”、通过脑机接口达到“数字永生”等等技术,更颠覆着我们对生命的本体性认知,挑战着当下的道德伦理。忧虑客观存在只是第一步,找到忧虑的源头,对技术“祛魅”,才是解惑的关键。人类跟技术,就像骑士与烈马,骑士不知烈马脚程有几里,烈马不解骑士缰绳为何物。唯有多加磨合,相互成就,才能行稳致远。技术本身并无善恶,正如苹果CEO蒂姆·库克所说:“我们今天在科技、社会各个领域面临的问题,终究是人的问题,是人性引领着我们走到了今天,也唯有人性可以带领我们走出困境。”《奥本海默》带给我们的重要启示之一,就是拥抱“创新”与“开放”的技术发展观。创新,不仅体现在技术进步,也体现在人的思想开放。面对已经暴露出的技术伦理显疾,切不可讳疾忌医;面对未来仍存在的技术伦理隐忧,更要做到未雨绸缪。有人这样形容科技变革:20世纪的科技重在改造生产工具,而21世纪的科技则侧重于改造生产者。如今,从生命科学到信息技术,越来越多的研究将重点放在了“人”身上,这是科技进步的阶段性体现,不该规避,但应该规范。
今年以来,《关于加强科技伦理治理的意见》《科技伦理审查办法(试行)》相继出台,成为继国家科技伦理委员会成立之后,中国科技伦理治理的又一次长足进步。
但也要清楚认识到,科技发展日新月异,立法、执法、普法也应与时俱进。相较于具有“先发优势”的国家,我国科技伦理领域立法仍面临着起步较晚、服务领域分散、内容不够精细化等问题。落实到具体治理中,更应坚持适当性原则,既要防止将伦理问题泛化,也要避免狭隘化,限制科技良性发展。科学技术是第一生产力,创新是引领发展的第一动力。移动支付、5G、云计算、大数据......科技成果突飞猛进,尽管让我们的生活方式日益改变,但也带来不少“发展中的烦恼”。面对烦恼,解忧也要分两步走。一方面,推进科技攻关、成果下放,让更多科技成果惠及老百姓;另一方面,要积极回应社会关切,对群众有疑虑、在观望的科学技术做好科普推广和解释工作,让腾飞的科技也能“接地气”。要确保人类科技实践始终沿着正确的价值导向行稳致远,离不开科技伦理这一导航器、润滑剂。拥抱“数字化”的同时,我们更要做好的是“数治化”。既用好技术,又管好技术,让有制度的法理、有温度的治理、有边界的伦理融入技术发展的大潮中,才能真正造福人民。
PS:读重庆瞭望,品艺术精酿。今天重庆瞭望特别为粉丝准备了惊喜福利:艺术精酿10提(每提3瓶,价值99元)。抽选10名(当月内同一账号重复获奖无效)送出礼品。今日参与方式:在本文留言区互动留言,单条留言点赞量排名前5名的读者朋友,将获得艺术精酿1提(刷票无效,统计时间截至9月11日22时);除点赞量排名前5的留言外,由重庆瞭望额外精选5条优质留言,赠送艺术精酿1提(最终解释权归重庆瞭望所有)。更多内容,请扫描下方二维码,进入重庆瞭望粉丝福利群了解(获奖名单将在微信群公布)。注:重庆主城可提货,外地用户提货需自付运费。投稿邮箱:cqliaowang@vip.163.com