logo

当前位置:首页>滚动 > >正文

用AI“复活”亲人,为何是一件值得担忧的私事 - 新京报快评

用AI“复活”亲人,为何是一件值得担忧的私事 - 新京报快评
2023-04-11 23:02:18 来源:新京报

资料图。图/IC photo


【资料图】

自2014年AI换脸技术面世以来,公众既惊叹于深度学习模型带来的纤毫毕现,同时,又对这一技术过于栩栩如生而忧心忡忡。不到十年间,人工智能技术从图像、音频再到视觉对人类面部特征的全部还原,已经使得“真相”在数字时代面临土崩瓦解的危险。

近日,据北京青年报等媒体报道,一位小伙通过AI技术“复活”了自己刚刚去世的奶奶,并与奶奶进行了简单的通话交流。这一原本属于私人情感领域的“技术思亲”行为一经曝光,却引发了不小的争论。有的人看后感动不已,但也有人认为这是在自欺欺人,甚至是在“操纵亲人”。这其实也反映了人们对AI技术的某种焦虑心态。

从当前媒体报道的内容来看,该事件与过去单纯图像换脸最重要的不同,是在视频还原之外还添加了内容交互性。这一交互行为,也瞬间突破了公众好不容易建设起来的心理防线。原本,公众对于PS图片到换脸视频刚刚建立普遍性的认知,但从单向度的视频传播到模拟真实互动,这使得AI“还原”亲人直接沾染了一部分神秘主义的诡异气氛。

在我们对他人的感知之中,相当大的比例是通过社交互动来实现形象建构和存在确认的。“我”之所以相信和“我”交流的是一个自然人,是因为其可以因循过去的社交模式与“我”进行互动。但交互大模型的存在,以及理论上机器通过大量的深度学习足以对每个人的语言、思维习惯进行仿真模拟的可能性,使得人类关于“辨认同类”的认知受到了颠覆性的挑战。

设想一下,如果有大模型通过对你的伴侣行为进行反复学习模仿,再通过AI换脸确保面部特征完全一致,那么,在视频聊天、线上互动等场景中,“和我交流的人到底是谁”这样一个原本确定无疑的问题,都将变得不再有确定性。

小伙子的“复活”行为以一种意想不到的方式,将这一未来图景拉近到了公众面前。人们恍然发现,AI已经走得如此之远,以至于这不仅带来了关于新型诈骗、隐私确权等现实问题,还对我们认知现实的底层基石造成了挑战。

这样的深层焦虑,使得原本是个人情感领域里的私事,陡然变成了一起公共事件。公众对其行为的“情感不适”,反映的是对技术快速变革的不信任感。个人隐私、安全、人际关系都将经受新的变化,而当这具体的种种焦虑汇聚成河,又会对人类生存的诸多根本性问题带来冲击,比如,人们可能要被迫修订对于真相的定义,“有图有真相”乃至“有视频有真相”的时代将不可避免地过去了。

因此,对于小伙子因为个人情感而技术怀旧的行为,我们不必过度苛责,既没有突破人伦道德的底线,也没有用于商业甚至其他犯罪目的。但是,对于同样的技术未来会如何挑战我们的伦理边界和法律规范,我们应当借此有所警惕和预判。

毕竟,“复活”自己的亲人事小,但倘若技术普及后,有人恶意无止境地“复活”他人,那将不可避免对公共安全造成集中冲击。

撰稿/马尔文(媒体人)

编辑/迟道华

校对/刘越

标签: