财经

当前位置/ 首页/ 要闻频道/财经/ 正文

谷歌正在预订与它所谓的有感觉的聊天机器人交谈

导读 在今年 5 月的 I O 2022 大会上,谷歌 CEO Sundar Pichai 宣布,该公司将在未来几个月内逐步利用其实验性的 LaMDA 2 对话式 A

在今年 5 月的 I/O 2022 大会上,谷歌 CEO Sundar Pichai 宣布,该公司将在未来几个月内逐步利用其实验性的 LaMDA 2 对话式 AI 模型来选择 beta 用户。那几个月来了。周四,谷歌人工智能部门的研究人员宣布,随着越来越多的访问变得可用,感兴趣的用户可以注册以探索该模型。

普通读者会认出LaMDA是所谓的有感觉的自然语言处理 (NLP) 模型,谷歌研究人员因此而被解雇。NLP 是一类 AI 模型,旨在将人类语音解析为可操作的命令,支持 Siri 或 Alexa 等数字助理和聊天机器人的功能,并为实时翻译和字幕应用程序提供繁重的工作。基本上,每当您与计算机交谈时,它都会使用 NLP 技术进行聆听。

“对不起,我不太明白”这句话仍然困扰着许多 Siri 早期采用者的梦想,尽管在过去十年中 NLP 技术发展迅速。今天的模型经过数千亿个参数的训练,可以实时翻译数百种语言,甚至可以将一次对话中学到的经验带到后续的聊天中。

Google 的 AI 测试厨房将使 beta 用户能够在受控、可能受监督的沙箱中试验和探索与 NLP 的交互。Access 将于今天开始向一小群美国 Android 用户推出,然后在未来几周内推广到 iOS 设备。该程序将提供一组指导演示,向用户展示 LaMDA 的功能。

Google Research 集团产品经理 Tris Warkentin 和 Google 实验室产品管理高级总监 Josh Woodward 在周四的谷歌人工智能博客。“通过 'List It' 演示,您可以分享目标或主题,LaMDA 会将其分解为有用的子任务列表。在 'Talk About It (Dogs Edition)' 演示中,您可以玩得开心,关于狗和只有狗的开放式对话,探索了即使你试图偏离主题,LaMDA 仍能保持话题的能力。”

对安全、负责任的交互的关注在一个行业中很常见,在这个行业中,已经有一个完全纳粹化的聊天机器人 AI 的名称,这个名称在Taye中。值得庆幸的是,这一极其令人尴尬的事件是微软和其他人工智能领域的大部分人都铭记在心的一个教训,这就是为什么我们看到对用户可以使用 Midjourney 或 Dall-E 2 变戏法或Facebook 的哪些主题有如此严厉的限制Blenderbot 3可以讨论。

这并不是说该系统是万无一失的。“我们已经进行了专门的几轮对抗性测试,以发现模型中的其他缺陷,”Warkentin 和 Woodward 写道。“我们招募了专家红队成员......他们发现了额外的有害但微妙的输出。” 其中包括未能“在使用它们时产生响应,因为它难以区分良性和对抗性提示”,以及“基于其训练数据中的偏差产生有害或有毒的反应”。如今,许多人工智能都不会这样做。

免责声明:本文由用户上传,如有侵权请联系删除!