Skip to content left arrowright arrowup arrowdown arrowbackwardforwardbutton playbutton pausesun moon bookmarkdevto500px buffer buyselladscodepencreative marketcrunchbase deviantartdribbbledropbox envatoangellistfacebookfacebook ffeedlyflickrgithubgoogle plus instagramlastfmlinkedinmeetupmyspace paypal pinterestproduct hunt redditrss shopifyskypeslacksoundcloud spotifytrellotumblrtwittervimeovinewhatsapp wordpress yelp youtubemedium facebook messenger qq squarespace vk wechat weibo wikipedia discord twitch microsoft onenote mixer spectrumtelegramgoogleunsplashsnapchattiktokbloggerevernotebehance pinboard creative commonsshare download search magnifier location map website button stopcopy close menu email new new notification read notification brandloader circle loader bars podcast
CyberClip #30 模范族裔

CyberClip #30 模范族裔

23 · 03 · 11 号刊 第 30 期

国际妇女节刚过,祝女性读者朋友们节日快乐!

本期选文《美国亚裔袭击事件:暴力愈演愈烈的背后是什么?》是我在 Stop Asian Hate 网站看到的,文章以近年来针对亚裔的暴力事件为切入点,探究了亚裔在当今美国社会所面临的艰难处境及其历史渊源,以及为什么加强监管并不能改善亚裔所面临的一系列问题,最后介绍了 Stop AAPI Hate 组织希望通过一种什么样的途径来调和各方矛盾以寻求解决之道;选文《内幕故事:ChatGPT 如何被创造》来自麻省理工科技评论对 OpenAI 的内部专访,带诸位以 ChatGPT 创造者的身份和视角,了解 ChatGPT 的一些实质与细节。

希望有所启发。

博客竹白

节省时间,节省成本!

ClickUp

一个工具做到所有事情 —— ClickUp 在一个平台上提供了你需要的所有功能:任务管理、文件管理、白板导图、仪表板、目标追踪......还有更多!今天就切换到 ClickUp 并探索我们 100% 可定制的功能!

(点击上面的链接可以帮助我更好地运营下去,每一次有效点击我都能收到一份微薄的赞助)

美国亚裔袭击事件:暴力愈演愈烈的背后是什么?

→ 原文链接Hate Crimes Against Asian Americans Are on the Rise. Many Say More Policing Isn't the Answer — Cady Lang / Time / 2021-02-18

当阿曼达·阮(Amanda Nguyen)看到这段视频时,她感到惊惧。在 1 月 28 日的监控录像中,84 岁的维查·拉达纳巴迪(Vicha Ratanapakdee)早上在旧金山散步时被推倒在地,并于仅仅两天后去世(19 岁的安东尼·沃森(Antoine Watson)随后被控谋杀及虐待老人,但他拒不认罪)。这是最近几周美国各地针对亚裔美国老人的身体暴力事件之一,但阿曼达·阮还没有看到一家主流新闻媒体报道,在疫情期间的仇外言论种族主义袭击持续了一年之后,针对亚裔美国人和太平洋岛民社区的暴力事件令人担忧地增加。

「我很生气,现在看着我的社区被屠杀,就像血液在我的血管里沸腾,」阿曼达·阮说,她是一名民权活动家,因倡导性侵幸存者的工作而获得诺贝尔和平奖提名。「还需要杀多少人,才能让新闻媒体,尤其是主流新闻媒体,认为我们值得报道?」

作为回应,阿曼达·阮在 Instagram 上制作了一段视频,恳求观众公开拉达纳巴迪的死,以及一名 64 岁的越南老妇人在加州圣何塞遭到袭击和抢劫的事件,以及一名 61 岁的菲律宾男子在纽约地铁上被美工刀划脸的袭击事件。随着更多暴力袭击和抢劫的报道出现,她的视频在网上疯传,其中一名 91 岁的男子被摄像机拍到在奥克兰唐人街被摔倒在地。自 1 月份以来,奥克兰唐人街已经发生了 20 多起暴力袭击和抢劫

自去年春天疫情开始以来,亚裔美国人遭遇种族主义暴力的比例比前几年要高得多。据纽约警察局报道,2020 年纽约市由反亚裔情绪引发的仇恨犯罪增长了 1900%。Stop AAPI Hate 是疫情开始时为应对种族暴力增加而创建的一个报告数据库,在 2020 年 3 月 19 日至 12 月 31 日期间收到了 2808 份针对亚裔的歧视报告。暴力活动一直持续到 2021 年,总统乔·拜登在 1 月就职后不久签署了一项行政命令,谴责对亚裔的歧视。虽然反亚裔暴力事件在全国范围内发生,尤其是在主要城市,但 2021 年袭击事件的上升尤其集中在湾区,尤其是在旧金山和奥克兰的唐人街。

→ 拓展阅读:10 位亚裔美国人对疫情期间的种族主义和平等的必要性的反思

许多人将 2020 年的暴力上升归因于拜登前任的排外言论,美国前总统特朗普曾多次将新冠病毒称为「中国病毒」并将疫情归咎于中国。特朗普这样做,延续了美国利用疾病为反亚裔仇外心理辩护的悠久历史,这一历史可以追溯到 19 世纪和 20 世纪,帮助塑造了亚裔美国人是「永久外国人」的形象。

「特朗普总统的煽动性言论、他坚持使用『中国病毒』一词以及随后在社交媒体上传播的仇恨言论和针对我们的仇恨暴力之间存在明显的相关性,」Stop AAPI Hate 联合创始人、旧金山州立大学(San Francisco State University)亚裔美国人研究教授张华耀(Russell Jeung)说。「这给了人们攻击我们的借口。目前针对老年人的一系列袭击事件,是这种言论扩散的一部分。」

为什么「模范少数族裔(model minority)」的神话是有害的

许多人指出,针对亚裔美国人的种族暴力往往被忽视,因为人们对这个群体的刻板印象一直存在。种族公正教育家雷天芯(Bianca Mabute-Louie)说:「有一种刻板印象和假设,认为亚裔美国人有阶级特权,他们有很高的社会经济地位和教育水平,任何歧视都不会真正发生,也不会让人觉得合理。」「人们对亚裔美国人在这个国家‘成功’的方式有一些假设。」

雷天芯指出,普遍存在的模范少数族裔神话是造成当前风气的一个重要因素。这种在民权运动时期为阻碍种族正义运动而形成的错误观念认为,亚裔美国人比其他少数族裔更成功,因为他们工作努力、受过良好教育,而且天生遵纪守法。「这有助于消除我们在这些视频中看到的非常真实的人际暴力,以及亚裔美国人在日常生活中经历的事情,这些事情没有被报道,没有被拍摄下来。」

→ 拓展阅读亚裔美国人仍然陷入「模范少数族裔」刻板印象的陷阱

注:Netflix 电视节目《璀璨帝国(Bling Empire)》的头图

因为模范少数族裔神话暗示着向上流动,它制造了一种谬论,即亚裔美国人没有经历过挣扎或种族歧视,这种刻板印象得到了电影《摘金奇缘(Crazy Rich Asians)》和最近 Netflix 的《璀璨帝国(Bling Empire)》等有限(在某些情况下是有缺陷的)媒体报道的支持。事实上,亚裔社区是美国经济分化最严重的社区皮尤研究中心 2018 年的一项研究发现,亚裔美国人作为美国的一个族裔和种族群体,收入差距最大;纽约市市长办公室 2016 年的一份报告发现,亚裔移民在纽约市的贫困率最高。

1 月 1 日,艺术家 Amanda Phingbodhipakkiya 在布鲁克林巴克莱中心地铁站张贴了反对种族歧视亚裔美国人的海报

为什么加强监管不是解决之道

知名亚裔美国人帮助引起了人们对最近仇恨犯罪激增的关注:演员金大贤(Daniel Dae Kim)和吴彦祖(Daniel Wu)在 Twitter 上分享了一名 91 岁男子在奥克兰唐人街被推倒的视频,并悬赏 2.5 万美元,奖励任何能够提供「有助于逮捕和定罪」袭击者的信息的人。袭击者还推倒了一名 60 岁的男子,以及一名在袭击中失去知觉的 55 岁女子。

金大贤在推特上写道:「尽管我们一再请求帮助,针对亚裔美国人的仇恨犯罪数量仍在持续增长。」他接着提到了 1982 年被殴打致死的一名华裔美国人。「这些罪行被忽视,甚至被原谅。记住陈果仁(Vincent Chin)。」

奥克兰警方随后指控 28 岁的叶海亚·穆斯林(Yahya Muslim)袭击、殴打和虐待老人;当他被确认身份时,他已经因不相关的指控被拘留。最后,他们将这 2.5 万美元捐给了社区组织,旨在阻止对亚洲人的仇恨。

金大贤的推文让许多 AAPI 社区的人心情复杂。一方面,他指出了许多亚裔美国人长期以来的不满——针对他们的暴力、他们的挣扎乃至他们的存在,都经常被忽视,在这个国家的其他人往往对他们视而不见。金大贤提及 1982 年的陈果仁谋杀案,令人心酸地提醒人们,仇恨犯罪导致了亚裔美国人在民权话语中的大规模动员,引发了亚裔美国人积极行动的重大浪潮,并成为与黑人种族正义组织者团结一致的难忘时刻。

→ 拓展阅读:亚裔美国人对 BLM 的回应是漫长而复杂历史的一部分

然而,与此同时,金大贤提出悬赏指认袭击亚裔美国老人的人,凸显了解决美国种族不平等问题的另一个问题:如何在不依赖历来以黑人和棕色人种社区为目标的执法机构的情况下解决反亚裔暴力问题。许多 AAPI 社区的人对这位演员的社交媒体帖子感到不安,因为所谓的袭击者是一名黑人。顾问兼作家金·陈(Kim Tran)在 Twitter 上表达了她对这种策略的不满。

「听着,如果你不明白为什么为奥克兰一名黑人的信息提供 2.5 万美元是有问题的,我需要你远离那些所谓的专项小组,」金·陈在一系列推文中写道,「这是我们需要扪心自问的时刻,目的是什么?如果是为了问责程序,行吧,但我非常怀疑。最后,这看起来很像一个由亚裔美国名人资助的黑人赏金。我真的非常怀疑。」

她的推文反映了许多亚裔美国人在网上的一种更广泛的情绪,那就是保护社区的安全不应该意味着增加警力——尤其是在今年夏天全国各地都在反思系统性的警察暴行以及它对黑人和棕色人种社区造成的不相称的伤害之后,他们经常与亚裔美国人共享空间。

这一观点源于美国亚裔美国人和黑人社区之间漫长而复杂的历史,其中既包括团结,如第三世界解放阵线,帮助为有色人种学生创造平等的教育机会,也包括民族研究的创建,还包括种族间的冲突。雷天芯认为,在这个时刻培养反黑人情绪或关注种族间冲突,会让人们忽视种族主义是白人至上主义的结果。

她说:「如果更大的问题是反亚裔情绪,把人关进监狱并不能解决这个问题。」她呼吁采取一种既能追究肇事者的责任,又能鼓励他们做出改变的方法。「我们所有人都需要在我们的社区里努力,忘记这些关于彼此的有害叙述。」

团结和社区主导的努力

因此,许多社区领袖对跨种族团结采取了直言不讳的立场。奥克兰市议会主席尼基·福尔图纳托·巴斯(Nikki Fortunato Bas)呼吁团结一致,同时谴责让有色人种社区相互对立或增加警力的行为。

其他人则求助于当地组织,在这个痛苦的时刻表达对社区的支持。例如,反对士绅化的团体黑湾地区(Black Bay Area)筹集资金,支持旧金山和奥克兰由亚裔领导的支持组织。反警察恐怖项目(Anti-Police Terror Project)、埃拉·贝克人权中心(Ella Baker Center for Human Rights)和亚太环境网络(Asian Pacific Environmental Network)也联合起来,提出了一些倡议,比如倡导人们光顾唐人街及其商铺,或者穿黄色衣服以示团结。对埃拉·贝克人权中心来说,支持 AAPI 社区是与亚太环境网络长期合作关系的一部分,他们与亚太环境网络合作了十多年,为奥克兰的两个社区提供互助,这是一个长期存在的团结互助的先例,但并不总是被强调。

埃拉·贝克中心(Ella Baker Center)的执行主任扎克·诺里斯(Zach Norris)说:「在旧金山湾区,黑人和亚洲人团结的现实由来已久。」「我们想提醒人们这一点,并真正寻求我们认为有助于治愈创伤的解决方案,并以一种所有社区都能繁荣发展的方式向前迈进。」

→ 拓展阅读https://twitter.com/SarahBelleLin/status/1360770954830356482

Stop AAPI Hate 的联合创始人张华耀说,社区的努力和团结是遏制种族主义攻击的唯一途径。他参加了旧金山和奥克兰的种族和平集会,并帮助组织在唐人街的漫步活动,当地人以在那里散步的方式,为商家和老年人提供安全感。

他说:「我们知道,这是一个影响我们所有社区的问题,我们必须打破暴力循环。」「我们呼吁的不一定是更多的惩罚性措施,而是打破暴力循环的恢复性司法模式,教导人们种族团结的民族研究,社区调解致力于不仅让人们承担责任,还能共同解决问题。」

内幕故事:ChatGPT 如何被创造

→ 原文链接The inside story of how ChatGPT was built from the people who made it —— Will Douglas Heaven / MIT Technology Review / 2023-03-03

Stephanie Arnett / Mittr / Envato

当 OpenAI 在 2022 年 11 月下旬低调推出 ChatGPT 时,这家总部位于旧金山的人工智能公司几乎没抱任何期望。理所当然地,OpenAI 内部也就没有人对病毒式传播的巨大成功做好准备。从那以后,该公司一直在努力追赶,并利用自己的成功。

OpenAI 公司负责政策工作的桑迪尼·阿加瓦尔(Sandhini Agarwal)说,这被公司内部视为「研究预览」:这是一项已有两年历史的技术的改进版本,重点是,它希望通过收集公众反馈来弥补一些缺陷。OpenAI 研究 ChatGPT 的科学家利亚姆·费杜斯(Liam Fedus)表示:「我们不想把它夸大为一个重大的根本性进步。」

为了了解这款聊天机器人背后的故事——它是如何被创造的,OpenAI 自发布以来是如何更新的,以及它的创造者对其成功有什么看法——我采访了四位帮助开发这款有史以来最受欢迎的互联网应用程序之一的人。除了阿加瓦尔和费杜斯,我还采访了 OpenAI 的联合创始人约翰·舒尔曼(John Schulman)和 OpenAI 校正团队的负责人简·莱克(Jan Leike),该团队致力于让人工智能做用户想让它做的事情(仅此而已)。

我的感觉是,OpenAI 仍然对其研究预览的成功感到困惑,但已经抓住了推动这项技术向前发展的机会,观察数百万人如何使用它,并试图解决出现的最严重的问题。

自去年 11 月以来,OpenAI 已经多次更新 ChatGPT。研究人员正在使用一种称为对抗性训练的技术来阻止 ChatGPT 让用户欺骗它做出不良行为(或称越狱)。这项工作让多个聊天机器人相互对抗:一个聊天机器人扮演对手,通过生成文本来攻击另一个聊天机器人,迫使它打破通常的约束,产生不必要的响应。成功的攻击会被添加到 ChatGPT 的训练数据中,希望它能学会忽略这些攻击。

OpenAI 还与微软签署了一项数十亿美元的协议,并宣布与全球管理咨询公司贝恩(Bain)结成联盟,后者计划在可口可乐等客户的营销活动中使用 OpenAI 的生成式 AI 模型。在 OpenAI 之外,关于 ChatGPT 的热议已经掀起了另一场围绕大型语言模型的热潮,世界各地的公司和投资者都在参与其中。

这在短短三个月时间里真是太夸张了。ChatGPT 从何而来?OpenAI 采取了哪些步骤来确保它准备好发布?他们下一步要去往何方?

以下内容经过编辑,以保证篇幅和清晰性。

简·莱克:说实话,这太让人受不了了。我们很惊讶,我们一直在努力追赶。

约翰·舒尔曼:在发布后的几天里,我经常查看 Twitter,有一段时间很疯狂,Twitter 上到处都是 ChatGPT 截图。我希望它对人们来说是直观的,我也希望它能获得 follow,但我没想到它能达到在主流社会流行的程度。

桑迪尼·阿加瓦尔:我认为有这么多人开始使用它对我们所有人来说都是一个惊喜。我们在这些模型上花了太多时间,我们忘记了它们有时对外界来说是多么令人惊讶。

利亚姆·费杜斯:我们对它的反响感到非常惊讶。之前已经有很多人尝试过通用聊天机器人,我认为我们的胜算很小。然而,内测给了我们信心,我们有一些人们可能真正喜欢的东西。

简·莱克:我很想更好地了解是什么推动了这一切——是什么推动了病毒式传播。说实话,我们不明白,我们不知道。

团队的部分困惑来自于 ChatGPT 内部的大多数技术都不是最新的。ChatGPT 是 GPT-3.5 的一个微调版本,GPT-3.5 是 OpenAI 在聊天机器人之前几个月发布的一系列大型语言模型。GPT-3.5 本身就是 2020 年出现的 GPT-3 的更新版本。该公司将这些模型作为 API 在其网站上提供,这使得其他软件开发人员可以很容易地将模型插入自己的代码中。OpenAI 还在 2022 年 1 月发布了先前的 GPT-3.5 微调版本,称为 InstructGPT。但这些之前的技术版本都没有向公众宣传。

利亚姆·费杜斯:ChatGPT 模型是通过与 InstructGPT 相同的语言模型进行微调的,我们使用了类似的方法进行微调。添加了一些对话数据,并对训练过程进行了一些调整。所以我们不想把它说成是一个巨大的基础进步。只能说对话数据对 ChatGPT 有很大的积极影响。

约翰·舒尔曼:根据标准化基准测试评估的原始技术能力实际上在模型之间没有实质性的区别,但是 ChatGPT 在易用性和可用性上更胜一筹。

简·莱克:在某种意义上,你可以把 ChatGPT 理解为我们已经有一段时间的人工智能系统的一个版本。它并不比我们之前的模型更强大。在 ChatGPT 出现之前,相同的基础模型已经发布 API 了将近一年。从另一个意义上说,我们让它更符合人类想要用它做的事情。它与你对话,在聊天界面中很容易访问,它试图提供帮助。这是惊人的进步,我认为这是人们正在意识到的。

约翰·舒尔曼:它更容易推断出意图。用户可以通过有来有回的对话得到他们想要的东西。

ChatGPT 的训练方式与 InstructGPT 非常相似,使用了一种名为「从人类反馈中强化学习(RLHF)」的技术。这就是 ChatGPT 的秘密武器。其基本思想是采用一个大型语言模型,该模型倾向于吐出它想要的任何东西(在本例中是 GPT-3.5),并通过教它人类用户更喜欢哪种类型的响应来对其进行调整。

简·莱克:我们让一大群人阅读 ChatGPT 的提示和回复,然后判断这些回复的优劣。然后将所有这些数据合并到一次训练中。它的大部分内容与我们在 InstructGPT 中所做的是相同的。你希望它是有用的,你希望它是真实的,你希望它是——你知道——无毒的。还有一些特定于产生对话和成为助手的事情:比如,如果用户的查询不清楚,它应该提出后续问题。它还应该澄清这是一个人工智能系统。它不应该假设一个它不存在的身份,它不应该声称拥有它不具备的能力,当用户要求它做不应该做的任务时,它必须回复一个拒绝消息。在这次训练中出现的一句话是「作为一个由 OpenAI 训练的语言模型……」这句话并没有明确地写在里面,但这是人类评分者排名很高的事情之一。

桑迪尼·阿加瓦尔:是的,我想确实如此。人类评分者必须根据一系列标准对模型进行排名,比如真实性。但他们也开始倾向于他们认为好的实践,比如不假装成不存在的身份。

因为 ChatGPT 是使用 OpenAI 之前使用的相同技术构建的,所以团队在准备向公众发布这个模型时没有做任何不同的事情。他们觉得自己为之前的模型设定的标准已经足够了。

桑迪尼·阿加瓦尔:当我们准备发行的时候,我们并不认为这个模型是一个全新的风险。GPT-3.5已经在世界上出现了,我们知道它已经足够安全了。通过 ChatGPT 对人类偏好的训练,模型自动学习了拒绝行为,在这种行为中,它拒绝了很多请求。

简·莱克:我们确实为 ChatGPT 做了一些额外的「红队测试(red-teaming,渗透测试术语)」,OpenAI 的每个人都坐下来,试图打破这个模型。我们也有外部小组做同样的事情。我们还有一个抢先体验计划,由值得信赖的用户提供反馈。

桑迪尼·阿加瓦尔:我们确实发现它产生了一些不必要的输出,但这些都是 GPT-3.5 也会产生的。因此,就风险而言,作为一个研究预览——因为这是它最初的目的——感觉很好。

约翰·舒尔曼:你不能等到你的系统完美了才发布它。我们已经对早期版本进行了几个月的 beta 测试,beta 测试者对产品的印象很好。我们最担心的是真实性,因为模型喜欢编造东西。但是 InstructGPT 和其他大型语言模型已经存在了,所以我们认为只要 ChatGPT 在真实性和其他安全问题上比那些更好,它就应该可以使用。在发布之前,根据我们有限的评估,我们确认这些模型似乎比其他模型更真实、更安全,所以我们决定继续发布。

自 ChatGPT 推出以来,OpenAI 一直在观察人们如何使用它,第一次看到一个大型语言模型在数千万用户手中时表现如何,这些用户可能希望测试它的极限并发现它的缺陷。该团队试图从 ChatGPT 所能产生的问题最多的例子——从上帝对强奸犯牧师的爱的歌曲到窃取信用卡号码的恶意软件代码——入手,利用这些例子来控制该模型的未来版本。

桑迪尼·阿加瓦尔:我们还有很多下一步要做。我肯定地认为 ChatGPT 的病毒式传播使得许多我们知道存在的问题真正冒了出来,并成为我们希望尽快解决的关键问题。比如,我们知道这个模型仍然有很大的偏见。是的,ChatGPT 非常擅长拒绝不良请求,但它也很容易编写提示(prompt)使它不拒绝我们想要它拒绝的东西。

利亚姆·费杜斯:看到来自用户的多样化和创造性的应用程序是令人兴奋的,但我们一直专注于需要改进的领域。我们认为,通过部署、获得反馈和改进的迭代过程,我们可以生产出最一致和最有能力的技术。随着技术的发展,新问题不可避免地会出现。

桑迪尼·阿加瓦尔:在发布后的几周里,我们看到了一些人们发现的最糟糕的用例,人们在自然环境下看到的最糟糕的事情。我们对每个问题都进行了评估,并讨论了我们应该如何解决它。

简·莱克:有时候这是一些在推特上疯传的东西,但也有一些人会悄悄地伸出援手。

桑迪尼·阿加瓦尔:我们发现的很多东西都是越狱,这绝对是我们需要解决的问题。但是因为用户必须尝试这些复杂的方法来让模型说一些不好的,这并不是我们完全忽视或者对我们来说非常惊讶的东西。不过,这是我们目前正在积极努力的事情。当发现越狱时,我们会将其添加到训练和测试数据中。我们所看到的所有数据都将输入到未来的模型中。

简·莱克:每次我们有了一个更好的模型,我们就想把它拿出来测试。我们非常乐观地认为,一些有针对性的对抗性训练可以大大改善越狱的情况。目前还不清楚这些问题是否会完全消失,但我们认为我们可以让很多越狱变得更加困难。同样,在发布之前,我们并不是不知道越狱是可能的。我认为,一旦你部署了这些系统,就很难真正预测这些系统会出现什么真正的安全问题。因此,我们非常重视监控人们使用这个系统的目的,看看会发生什么,然后对其做出反应。这并不是说,当预料到安全问题时,我们不应该主动去缓解。但是,当一个系统进入现实世界时,很难预见实际会发生的一切。

今年 1 月,微软发布了 Bing Chat,这是一款搜索聊天机器人,许多人认为它是 OpenAI 官方未公布的 GPT-4 的一个版本。(OpenAI 表示:「Bing 由我们的下一代模型之一提供支持,微软专门为搜索服务定制了这种模型。它结合了 ChatGPT 和 GPT-3.5 的进步。」)拥有数十亿美元声誉的科技巨头使用聊天机器人来保护那些负责构建底层模型的人,这给他们带来了新的挑战。

桑迪尼·阿加瓦尔:现在的风险肯定比六个月前要高得多,但仍然低于一年后的水平。对于这些模型,有一件事显然非常重要,那就是使用它们的环境。就像谷歌和微软一样,即使一件事不符合事实也会成为一个大问题,因为他们本来就是搜索引擎。像搜索这样的大型语言模型所要求的行为与仅仅是一个有趣的聊天机器人的行为是非常不同的。我们需要弄清楚我们如何在所有这些不同的用途之间保持平衡,创造出在各种环境下对人们有用的东西,在这些环境中,所需的行为可能真的会有所不同。这就增加了压力。因为我们现在知道,我们正在建立这些模型,以便它们可以转化为产品。ChatGPT 现在是一个有 API 的产品。我们正在构建这种通用技术,我们需要确保它在所有方面都能很好地工作。这是我们目前面临的主要挑战之一。

约翰·舒尔曼:我低估了人们探索和关心 ChatGPT 的政治主张的程度。我们本可以在收集训练数据时做出更好的决策,从而减少这个问题。我们正在努力。

简·莱克:在我看来,ChatGPT 失败了很多——要做的事情太多了。感觉我们并没有解决这些问题。我们必须对自己和他人明晰这项技术的局限性。我的意思是,语言模型已经存在了一段时间,但它仍然处于早期阶段。我们知道他们所有的问题。我认为我们必须非常坦率,管理好预期,并明确表示这不是最终成品。

👋如果你喜欢 CyberClip 并愿意帮助我更好地运营下去:

  • 转发给朋友或社交网络
  • 参见 Advertise 页面联系我投放广告
  • 爱发电或微信给我赞赏,欢迎备注称呼、邮箱
  • 点击下面带有👆标记的推广链接,你的每一次有效点击我都能收到一份微薄的赞助
  • 在你有需求的情况下,通过下面带有⚡标记的推广链接注册付费,我将能从你的支付中获得一定比例(有标注)的返利。请量力而行,理性消费。

❤️感谢你一直以来的支持!

  • 👆Refind - 每天都变得更聪明每天根据你的兴趣从纷繁的互联网中精选 7 个链接以使你更聪明。受到多达 10 万用户的喜爱。
  • 👆Alts.co - 全球最大的另类投资者社区 Alts.co 是世界上最大的另类投资者社区。我们喜欢独特的、非主流的事物。我们有超过 50000 名订阅者,获得新订阅者就像刀切黄油一样容易。
  • 👆Revolut - 注册并获得 3 个月的免费 Revolut Premium 服务 当你海淘或是跨国汇款时,银行会向你收取手续费,但我们不会,这就是为什么超过四百万人转而使用 Revolut。
注:标有👆的链接为点击链接,你的每一次有效点击我都能收到一份微薄的赞助;标有⚡的链接为推广链接,我将能从你的支付中获得一定比例的返利

这封邮件是你朋友转发或在社交平台上看到的吗?如果你觉得还不错,欢迎订阅

如果你有意愿在 CyberClip 投放广告,请参见我们的 Advertise 页面并与我取得联系。

CyberClip 是一份臻选互联网上有价值内容的赛博剪报。两周一期,涵盖新奇趣闻、热点议题、前沿科技以及其他关于生活、关于未来的事物。

👏 感谢阅读,欢迎回信,敬颂时祺。

👉 往期内容讨论群组个人博客