您的当前位置:首页 > 知识 > ChatGPT制造商OpenAI称正在努力减少偏见和不良行为 正文

ChatGPT制造商OpenAI称正在努力减少偏见和不良行为

时间:2025-07-06 02:09:51 来源:网络整理 编辑:知识

核心提示

热门聊天机器人ChatGPT背后的人工智能研究公司OpenAI表示,该公司正在努力减少系统中的偏见,并将允许用户在一系列关于其结果中的不当交互和错误的报告后自定义其行为。该公司在一篇博客文章中表示:“

热门聊天机器人ChatGPT背后的制造商人工智能研究公司OpenAI表示,该公司正在努力减少系统中的称正偏见,并将允许用户在一系列关于其结果中的努力不当交互和错误的报告后自定义其行为。

该公司在一篇博客文章中表示:“我们正在投资于研究和工程,减少以减少ChatGPT在回应不同输入时存在的良行明显和微妙的偏见。在某些情况下,制造商ChatGPT目前拒绝了它不应该拒绝的称正输出,在某些情况下,努力它不会在应该拒绝的减少时候拒绝。”

OpenAI正在回应有关ChatGPT本身关于偏见、良行不准确和不当行为的制造商报告,以及对(MSFT.US)和(GOOG.US)正在测试的称正基于聊天机器人的新搜索产品的更广泛批评。据报道,努力微软在周三的减少一篇博客文章中详细介绍了它了解到的基于OpenAI技术的新必应(Bing)聊天机器人的局限性,此外,良行谷歌已经要求员工花时间手动改进其Bard系统的答案。

最后,总部位于旧金山的OpenAI还表示,该公司正在开发ChatGPT的更新,允许每个用户进行有限的定制,以适应他们的品味、风格和观点。

OpenAI周四写道:“我们认为,人工智能应该是对个人有用的工具,因此每个用户都可以在社会规定的限度内进行定制。这将意味着允许其他人(包括我们自己)可能强烈反对的系统输出。在这方面取得适当的平衡将是一个挑战,因为将定制化做到极致可能会使恶意使用我们的技术和阿谀奉承的人工智能,从而盲目地放大人们现有的信念。因此,系统行为总会有一些界限。”