能写论文、编代码、创作小说 爆红的ChatGPT是如何诞生的?( 四 )


然而,不同的是,这些年来,OpenAI一直将资源集中在这个方向上 。在微软等巨头公司的资金和技术支持下,它不断将这种方法论推向极致 。“规模至上的这种理念和方法论是OpenAI特别推崇的,相对来说,其他公司或者团队没有他们这么坚信 。”王咏刚说 。
不过,王咏刚说,在ChatGPT出圈之后,从业者们的心态是比较微妙的 。一方面,业界可能会越来越重视这条路径,投入更多资源;另一方面,大家又希望它不是AI领域唯一核心的方法,还能够有空间探索更多的可能性 。
“仅仅靠数据驱动的路径,虽然能让AI在一些领域达到接近或者超过人类的水平,例如人脸识别,但在另一些领域,比如自动驾驶,我们需要的是接近100%的安全性 。”康奈尔大学计算机教授巴特·塞尔曼就认为,这最后的10%、5%的提升,可能不是深度学习本身能够解决的,需要不同的思路 。
对AI的理解落后于其发展速度
2022年9月,一位年轻人用Al绘画工具Midjourney生成的作品《太空歌剧院》,在美国科罗拉多州博览会的美术比赛中获得大奖,获奖类别是“数字艺术/数字修饰照片”组第一名 。不过,这引发了一场人文争议和反AI绘画的浪潮 。
有网友表示,我们眼睁睁地见证了艺术的死亡,“如果连艺术工作都无法避免被机器所吞没,那么高技能的工种也将面临被淘汰的危机 。到时候,我们又能剩下什么呢?”
刘少山谈到,AI科学家们最初的猜想是,AI大发展后,一些蓝领岗位、重复性的工作会首先被取代 。然而,ChatGPT、AlphaFold等工具出来后,人们发现,最先感受到AI冲击的,反而是创造性的工作,而送餐这一类涉及劳动力的工作却没能被取代 。他解释说,在机器人、自动驾驶等领域,机械与智能是两个基本的模块 。现实进展来看,机械部分有很多物理上的限制,很多技术目前尚未突破;得益于深度学习等模型的发展,智能部分反而突破更快 。
这些涉及创造力、知识探索、信息获取的行业,是人文领域的核心,是人类最担心被机器化的部分 。一直以来,AI在这些领域的重大突破都伴随着广泛的伦理争议 。
世界知名的复杂性科学研究中心、美国圣塔菲研究所教授梅勒妮·米切尔近日在接受媒体采访时就谈到,过于盲目采用这些技术,将我们的交流和创意自动化,可能会导致人类失去对机器的控制,“机器人会给机器人写电子邮件,而机器人会回复其他机器人” 。米切尔说,“我们作为人的特质从我们的信息中被卷走了 。”
1月5日,纽约市教育部门表示,纽约公立学校的所有设备和网络上将禁止使用ChatGPT 。纽约市教育部门发言人詹娜·莱尔指出,这一决定是基于“该工具可能会对学生学习产生负面影响,以及对其内容的安全性和准确性的担忧” 。
人们普遍表示担心,该工具可能会鼓励学生抄袭 。詹娜·莱尔说,虽然ChatGPT能够为问题提供快速而简单的答案,但它没有培养批判性思维和解决问题的能力,而这些能力对学术和终身成功来说是至关重要的 。
2022年12月27日,美国西北大学的一个团队在预印本论文bioRxiv上发表了一篇文章 。这项研究中,研究者让ChatGPT学习发表在《柳叶刀》《美国医学会杂志》等顶刊上的文章,并撰写50篇医学研究摘要,然后让抄袭检测器、人工智能输出检测器和期刊审稿人将这些摘要与原始摘要比较,找出ChatGPT编造的摘要 。
结果发现,ChatGPT生成的摘要全部顺利通过了抄袭检测器,人工智能输出器找出了66%的生成摘要,期刊审稿人仅正确识别了68%的生成摘要和86%的真实摘要 。研究者们表示,使用大型语言模型进行科学写作的道德和可接受边界需要被进一步明确 。

推荐阅读