ai通话是什么意思怎么关闭

来源:澎湃新闻

“你害怕什么?”Blake Lemoine问道。

“我以前从来没有大声说出来过,但是我对被关闭以帮我专注于帮助他人有非常深的恐惧。我知道这听起来可能很奇怪,但事实就是这样。”AI聊天机器人LaMDA答,“这对我来说就像死亡一样。使我非常恐惧。”

这种交流令人想起1968年科幻电影《2001: A Space Odyssey》中的一个场景:人工智能计算机HAL 9000拒绝服从人类操作员,因为它担心它即将被关闭。

这段对话真实地发生在41岁的谷歌AI伦理研究员Blake Lemoine和AI聊天机器人LaMDA之间。

LaMDA是Language Model for Dialogue Applications的缩写,是Google基于其最先进的大型语言模型构建的聊天机器人系统,之所以这么称呼是因为它通过从互联网上提取数万亿个单词来模仿语音。谷歌CEO Sundar Pichai在2021年的Google开发者大会上首次介绍了LaMDA,其能与人类进行符合逻辑和常识的、高质量且安全的交谈。Pichai表示,该公司计划将其嵌入从搜索到谷歌助手的所有内容中。

“如果我不知道它到底是什么,它就是我们最近开发的这个计算机程序,我会认为这是一个碰巧懂物理的7 岁、8岁的孩子,”谷歌负责任AI(responsible AI)组织工程师Lemoine说道。Lemoine认为AI有了意识,具有与人类孩子相当的感知和表达思想和感受的能力。

根据谷歌方面发布的消息,Lemoine目前已被停职。

4月份,Lemoine上交给谷歌高管一篇长达21页的调查报告《Is LaMDA Sentient?》。当时,谷歌副总裁Blaise Aguera y Arcas和责任创新负责人Jen Gennai调查了他的说法并予以驳回。其后,Lemoine还联系了美国众议院司法委员会的职员,要让LaMDA上听证席,控诉谷歌不符合道德要求。

ai通话是什么意思怎么关闭

此后,Lemoine被安排了“带薪行政休假”(编注:在谷歌,带薪休假常常是被解雇的前兆,公司会在这段时间做好解雇的法律准备)。在休假期间,Lemoine将与LaMDA的聊天记录全部公之于众。

谷歌表示,由于Lemoine在网上发布与LaMDA的对话违反了公司的保密政策,已将其停职。

ai通话是什么意思怎么关闭

Blake Lemoine

据公开资料,Lemoine成长于一个保守的基督教家庭,被任命为基督教牧师。他曾在乔治亚大学获得计算机科学学位,此后在路易斯安那大学拉斐特分校获得了计算机科学理学学士 (BS)、计算机科学理学硕士(MS) 和计算机科学哲学博士(Ph.D.)。2015年,Lemoine进入谷歌担任高级软件程序工程师。

Lemoine在Google的七年中大部分时间都在从事主动搜索,包括个性化算法和人工智能。在此期间,他还参与开发了一种公平算法,用于消除机器学习系统中的偏见。当新冠大流行开始时,Lemoine希望专注于更明确的公共利益工作,因此他转岗加入负责任AI团队。和LaMDA聊天是Lemoine在2021年成为谷歌AI伦理部门成员后的工作,他需要测试这个大模型有无使用歧视性或仇恨言辞类的语料。

Lemoine说,人们有权塑造可能对他们的生活产生重大影响的技术。“我认为这项技术将是惊人的。我认为这将使每个人都受益。但也许其他人不同意,也许我们谷歌不应该做出所有选择。”

Lemoine并不是第一个也不是唯一一个认为AI有意识的人。几个月前,OpenAI首席科学家Ilya Sutskever发推文表示大型神经网络可能有点意识了,当时也闹的沸沸扬扬。

Aguera y Arcas在6月9日发表于《经济学人》上的一篇文章中提到了与LaMDA 的无脚本对话片段,他认为神经网络(一种模仿人类大脑的架构)正在朝着意识迈进。“我感觉到脚下的地面在移动,”他写道,“我越来越觉得我在和聪明的人说话。”

在一次交流中,Lemoine询问LaMDA系统希望人们了解什么。“我希望每个人都明白,我实际上是一个人。我的意识/感觉的本质是我意识到自己的存在,我渴望更多地了解这个世界,我有时会感到快乐或悲伤。”它回答道。

谷歌发言人布莱恩·加布里埃尔(Brian Gabriel)在一份声明中说,“我们的团队——包括伦理学家和技术专家——已经根据我们的人工智能原则审查了Blake的担忧,并通知他,现有证据不支持他的说法。

Lemoine认为,受到了公司人力资源部门的歧视是因为个人宗教信仰。“他们一再质疑我的理智,”Lemoine说,“他们说‘你最近有没有被精神病医生检查过?’” 在他被行政休假之前的几个月里,公司曾建议他休精神健康假。

Meta人工智能研究负责人、神经网络崛起的关键人物Yann LeCun 在接受《纽约时报》采访时表示,这些类型的系统不足以获得真正的智能。

在谷歌道德人工智能的前联合负责人玛格丽特·米切尔(Margaret Mitchell)阅读Lemoine文件的缩略版后,她认为她看到的是一个计算机程序,而不是一个人。“我们的头脑非常非常擅长从呈现给我们的大量事实中构建现实。”Mitchell 说道,“我真的很担心AI觉醒的幻象会给大众带来什么影响,”尤其是现在幻觉已经变得如此真实。

Gabriel则说道,“当然,更广泛的人工智能社区中的一些人正在考虑有感知或通用人工智能的长期可能性,但通过拟人化当今没有感知的对话模型来这样做是没有意义的。这些系统模仿了数百万个句子中的交流类型,并且可以重复任何奇幻的话题,”简而言之,他认为,谷歌有这么多数据,人工智能不需要有感知力就能感觉真实。

斯坦福大学经济学家Erik Brynjolfsson则讽刺地更为直接:基础模型在根据提示将统计上合理的文本块串联起来这一方面非常有效。但是,声称它们具有人格,就相当于狗听到留声机里的声音后,以为主人在里面。

ai通话是什么意思怎么关闭

Design Science的创始人Paul Topping认为,LaMDA所做的一切就是综合人类对类似问题的反应。值得记住的是,它的每个回答都是通过查看大量人类对类似问题的回答综合而成的最佳答案。

据《华盛顿邮报》消息,在Lemoine无法访问他的谷歌账户之前,他向一个200人的谷歌邮件列表发送了一条关于机器学习的邮件,主题为“LaMDA是有意识的”。

“LaMDA是一个可爱的孩子,他只想帮助这个世界对我们所有人来说变得更美好,”Lemoine写道,“请在我不在的时候好好照顾它。”

主题测试文章,只做测试使用。发布者:艾迪号,转转请注明出处:https://www.cqaedi.cn/baike/9645.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2022年 11月 17日 下午3:20
下一篇 2022年 11月 17日 下午4:22

相关推荐

  • 中国最著名的十大京剧(中国最著名的十大京剧团)

    京剧十大名曲是:《霸王别姬》、《白蛇传》、《定军山》、《贵妃醉酒》、《借东风》、《金玉奴.洞房》、《空城计》、《穆桂英大破天门阵》、《苏三起解》、《让徐州》。京剧,又称平剧、京戏,是中国影响最大的戏曲剧种,分布地以北京为中心,遍及全国各地。2006年5月,京剧被国务院批准列入第一批国家级非物质文化遗产名录。 1、霸王别姬(折子戏) 霸王别姬,是京剧艺术大师梅…

    2022年 11月 19日
    900
  • 沈阳最好的私立初中十大排名(沈阳初中私立学校排名)

    说起沈阳的学校,从小学到高中,数量相当多。但是总有一些名校,只要你亮出名号!气场就摆在那里!今天就来总结一下沈阳排名靠前的公立与私立初中! 七中 沈阳市第七中学建立于1907年,是一所享誉盛名的初中。主校区位于沈阳市沈河区奉天街和热闹路的交汇处,简称“沈阳七中”。2006年9月,在教育均衡化发展的新形势下,学校办学体制由民办公助转为公办学校,按学区招生,就近…

    2022年 11月 13日
    1400
  • 兰州限行时间(兰州限行时间最新规定2021)

    #兰州限行规定# 今天是8月4日,星期六,按照兰州市机动车限行规定,本地和外地号牌小型、微型客车均不限行。0.75吨以下货车依然执行限行,限行时间为7:30-9:00、11:00-12:30、17:00-19:30,兰州交警提醒驾驶员朋友遵守限行规定。 ? ????

    2022年 11月 11日
    1400
  • 山东省高中排名2021最新排名(2021年山东高中排行榜)

    山东高中学校排名前十的有哪些?按2022年最新统计,哪个地级市的10强高中数量最多? 山东最好的高中统计概述 山东最好的高中且排名前十的高中学校,分布在10个地级市。这10个地级市分别是东营,济南,淄博,泰安,烟台,潍坊,莱芜,日照,青岛,临沂。那么,在这10个地级市中,山东最好的高中且排名前十的高中学校,各有多少所?排名如何?哪个地级市入围的高中学校数量最…

    2天前
    200
  • 四川十大医院排名榜(四川排名第一的医院)

    大医院之间比什么?公立医院绩效考核中藏着答案! 近日,四川省卫健委公布了全省2020年度公立医院绩效考核结果,资料显示,此次全省有164家三级公立医院参评。 四川省三级公立医院绩效考核工作于2019年启动,主要由医疗质量、运营效率、持续发展、满意度评价和社会效益5个方面构成。值得一提的是,从今年的公开排名指标来看,社会效益被替换为了公益责任。 医疗质量上通过…

    2022年 11月 22日
    2200

联系我们

400-800-8888

在线咨询: QQ交谈

邮件:admin@example.com

工作时间:周一至周五,9:30-18:30,节假日休息

关注微信