亲,欢迎光临88小说网!
错缺断章、加书:站内短信
后台有人,会尽快回复!
88小说网 > 都市言情 > 重生之AI教父 > 第231章 DeepFake进入日程
  • 主题模式:

  • 字体大小:

    -

    18

    +
  • 恢复默认

“孟繁岐先生日前为我们展现了一款先进的自然语言处理算法,这无疑为人工智能领域带来了诸多的便利,显然是一项巨大的技术突破。它可以在各种序列问题场景中应用,例如文本生成、对话系统、机器翻译等。”

“尽管t方法带来了良多益处,可其最后预想的那种通用级别的智能同样存在一些潜在的安全威胁问题。其中不少问题都相当严肃。”

“例如,信息安全是一个重要的因素。孟繁岐设想的这种办法可能会被用于生成虚假信息或误导性内容。这可能会导致真实性受损,给社交媒体、新闻传播和ZZ等领域带来不良的后果。”

“同时,隐私问题也非常值得关注。这种办法显然需要基于海量的训练数据构建,从而在交互对话的时候非常有可能泄漏用户的敏感和私密信息。”

“此外,道德伦理方面的问题也不容忽视。它极有可能无法辨别不道德、有害的建议或内容,从而可能误导用户去采取错误的行动。”

“并且就业问题显然也会受到这种智能的影响,那些依赖这种语言处理工作的人工岗位将会受到冲击,可能导致失业率上升,社会动荡。”

“最后,我们无从得知这种智能是否会拥有自主的意识和决策逻辑,依赖其能力很可能导致各行业风险激增。”

孟繁岐这几天纵览了诸多新闻报道和业内人士的讨论,总体来说还是赞扬和吹嘘得居多,不过像本吉奥这种提出严肃问题的顶级学者和媒体也不在少数。

孟繁岐自己总结下来真真有意义的问题大概就是上面那些,其他的大都是不切实际的东西,不予考虑。

“这些问题基本上都是比较中肯的,属于我在一步步开发过程当中确实必须尽量解决的。”

这其实是chatGpt技术路线走到后面商用、面对公众阶段的必经之路了,原本的openAI也是一步步踩着坑走过来的。

这些问题搞不定,是非常大的麻烦。

当年Gpt-4训练完成之后,之所以推迟了半年多之久才发布问世,就是因为有这些问题需要处理确认。

他们需要确保自己的产品不会由于训练数据的原因,泄露某人的隐私给大众;不会针对某些问题发表反社会,种族歧视等方面的言论;也不能够随意地给出一些信息和情报,但实际上完全是编造的。

这实在是相当困难的一件事情,即便广受好评的chatGpt,在这些问题上面也有诸多的不足。

它给出的很多咨询、网站、论文甚至学者之类的信息,都是自己胡说八道的。

此前美国还有律师借助chatGpt给客户打官司,结果给法官的判例文书里引用的几个例子全都是chatGpt编造的,害得客户输掉了官司。

openAI也确实给chatGpt上了诸多的枷锁,让它对很多事情不做评论,可用户总是能够找到办法绕过,又或者是催眠它,让它说出对应的回答。

openAI频频修正这些漏洞,可民众们总是有办法能找到新的。

两边斗智斗勇,不亦乐乎。

这也是程序测试界的历史性难题了。

不论你自己做的测试再多,总有用户能找到一个非常神奇的方式,触发你完全没有想过没有测试过的bug。

有一个非常着名的笑话,可以很好地表达这个现象。

一个测试工程师走进一家酒吧,要了一杯啤酒,一杯咖啡,0.7杯啤酒,负一杯啤酒,一杯洗脚水,一杯洗洁精,程序均正常工作。

他甚至尝试了化妆成老板要了500杯啤酒并且不付钱,这个酒吧程序还是正常工作。

结果程序上线之后,一名顾客点了一碗炒饭,程序炸了。

而针对业界和媒体的这些担忧,孟繁岐总体的策略是比较低调地回应。

秉持着多说多错的原则,孟繁岐的回应可以说是三步走,每一步都非常简短,首先感谢大家对这个领域相关问题的督促和关心;其次表达这方面的内容,很多他也已经想到过了;最后委婉地提醒了大家,即便自己已经有了思路,距离做出雏形成果也得有个大半年的时间。

只说了四句话。

最后一句是,等到东西做出来了,一定第一时间开放接口给各位学界的同仁,以供测试监督之用。

言下之意是,现在谈论这件事情为时尚早。

模型的性能和表现都尚未可知呢。

“这小子还真是滑不溜手啊...”借着机会兴风作浪的,肯定少不了孟繁岐的老朋友cNN。

这仇怨在人脸生成算法的时候,就算是早早结下了。

大败而归的cNN,此后多次暗搓搓地混在舆论当中针对孟繁岐,但却始终没有很好的效果。

主要原因还是孟繁岐的技术成果太硬了,不管是霍尔姆斯事件还是阿尔法围棋,实在是黑不太动。

如果硬着头皮去尬黑,在人人吹的时候唱反调,只会显得自己这一方的智商有问题。

不过,这一次人机大战结尾的概念视频,给了cNN一个全新的视角,那就是将孟繁岐渲染成一个技术垄断者的形象。

现在逆风局打不了,无法否认你的成果,就把你架起来恶心你。

你如果要形象,就要开源技术,两者不可兼得。

其文章标题,个个耸人听闻。

《transformer方法,孟与谷歌的垄断帝国》

《领域颠覆背后的巨大危机》

诸如此类的标题层出不穷,主旨大都相似。

“阿尔法围棋之后,孟繁岐马不停蹄地彻底颠覆了语言和语音领域,t方法成为了世界视线的焦点。在取得突破的同时,我们不由得开始担忧,孟与谷歌是否想要打造自己的技术垄断帝国?”

这其实是非常合理的担忧,以正常人的视角来看,t方法已经是翻天覆地的巨大变化了。让经典模型直接从三个变成了四个,序列问题领域成绩被全部刷新。

这种如此领先的技术,怎么可能轻易地就公布出来?即便公布,也不会那么快。

“他们还是太急了,还没到闭源的时候呢。”孟繁岐笑看以cNN为首的一群小丑,心中明白他们的打算。

“一是想要逼迫我开源t方法,若是我不肯开源,就持续输出我。另一方面呢,如果我这次开源了,等到我以后想要闭源的时候,他们就又有借口了。”

孟繁岐觉得实在有些好笑,这帮人别的本事没有,整天恶心人真的是一把好手。

“t方法是会迅速开源的,就在这两天,乃至于后来的bERt和Gpt方法都可以开源。不过,有盈利价值的后续Gpt系列,就会要慢一个版本了。既然他们这么想要看到开源的代码,我做完bERt和Gpt之后,就把deepFake提上日程。”

孟繁岐思考了一下,觉得自己不能只发布技术,也得有意识地引导社会进行相关的讨论和思考,像后来马斯克那样当个网络红人,自己引领舆论风潮,这样才能不被牵着鼻子走。

这一次意料之外,突然被迫答复通用类型技术的安全问题,虽然自己应对还算是得体,可仍旧是相当被动相当麻烦的一件事。

“我得牵着他们的鼻子走,每次都只是默默做技术,做出来的技术都太好用、太厉害,这帮人反而要上天了。”孟繁岐对这件事感觉相当不爽:“对付这种人,你就得百无禁忌才行。他们说什么,你就改什么,这群人就会更加过分。”

“若是我把deepFake这种生成、换脸、造假水平一流的技术放出来,他们反而就会反思开源技术是否会给社会造成混乱了。”

孟繁岐的总体观念还是比较混乱中立的,deepFake和类似的技术虽然造成了一些危害,但更多地给普通民众们提供了很多的乐子。