OpenAI允许ChatGPT自定义
techmonitor
OpenAI 正在升级其大获成功的聊天机器人 ChatGPT，使其对用户而言更具个性化设置功能，允许用户自行决定它在回应用户问题时的创意程度、谨慎程度或攻击性程度。该公司还计划改进微调技术，以减少系统中的偏见。一位人工智能专家告诉 Tech Monitor，个性化设置和偏见缓解在未来将对 ChatGPT 成为一种实用的企业工具至关重要。ChatGPT 被指责存在政治偏见，而 OpenAI 表示将通过更多微调来解决这一问题。（照片：Iryna Imago/Shutterstock）除了发布有关个性化设置的计划外，据报道 OpenAI 还斥资 1100 万美元购买了 ai.com 这一域名，用于运行其由大型语言模型驱动的聊天应用。这发生在传闻中推出专用移动应用和新的每月“ChatGPT Pro”订阅服务的背景下。OpenAI 表示，他们已努力减少当前系统中的政治偏见，但希望它能够容纳并训练为涵盖多种观点。在一篇博文里写道：“这意味着允许系统输出其他用户（包括我们自己）可能强烈反对的内容”，并补充道，“系统行为将始终有一定的限制”。该公司表示，这项解决方案归结于训练、微调和随后的再训练过程。“许多人对人工智能系统的设计及其影响中的偏见感到担忧。我们致力于以强有力的方式解决这一问题，并公开我们的目标和进展。” 为了进一步解释这一立场，OpenAI 分享了其人工评审员在微调 ChatGPT 等服务背后数据集时必须遵守的部分指导原则。这包括确保在反馈循环中工作的人不会偏袒任何政治团体。“我们一直在努力改进这些指导原则的清晰度——基于 ChatGPT 发布以来我们学到的经验，我们将为评审员提供更明确的指令，说明与偏见相关的潜在陷阱和挑战，以及有争议的人物和主题。” OpenAI 在一篇博客中这样写道。他们还计划在不违反隐私规定的情况下分享评审员的汇总人口统计信息，因为人口统计失衡可能会导致进一步的偏见。这都是更广泛努力的一部分，以使微调过程更加可理解和可控——最终个性化设置功能也将在这一过程中发挥作用。首先，OpenAI 将优化其聊天机器人的默认行为，使其“开箱即用”时能够尊重标准价值，包括通过研究和工程手段去除“ChatGPT 对不同输入作出回应时的明显和细微偏见”。 我们的合作伙伴内容：现代ERP在改变分销和物流行业中的作用；设计师如何利用技术来遏制快时尚；科技行业为何必须采用更快、更聪明的人才招聘方式。 一旦“开箱即用”系统经过微调，他们将允许用户在广泛范围内定义人工智能的价值。“我们认为，人工智能应该成为个人有用的工具，因此每个用户都可以在社会定义的范围内进行个性化设置。因此，我们正在开发对 ChatGPT 的升级，以让用户更方便地对其进行定制。” 所有通讯：注册我们的通讯 数据、见解和分析将送达您的邮箱 由 Tech Monitor 团队提供 在这里注册 个性化设置将受到限制以防止恶意使用，这些限制称为“硬性边界”，将由公众意见而非 OpenAI 内部决定。公司表示，这是为了“避免权力过度集中”。部分意见将来自用户，另一些则来自学术界和可能受影响的群体与行业。民间社会团体也可能会参与，但 OpenAI 也可能会受到政府法规的“边界”约束，因为欧盟正计划将即将推出的欧盟人工智能法案扩展至涵盖对话型和生成式人工智能。 Couchbase 的首席技术官 Ravi Mayuram 告诉 Tech Monitor，在 AI 能成为一种实用的企业工具之前，解决 AI 偏见至关重要。“基于偏见数据集的生成式 AI 模型可能会对组织造成伤害，并导致基于偏差或有害预测的决策——甚至引发法律后果。想想那些对女性申请者有偏见的 AI 用工实践。” “消除偏见以用于企业用途”的必要性 “目前企业的重点在于如何消除偏见。这本身是一项极其具有挑战性的任务，因为人类的基本偏见已经深深融入到问题本身之中。虽然消除个体偏见是一项超人般的努力，但消除 AI 模型中的偏见则更加可行。我们需要更好地培训数据科学家在数据整理过程中，确保在收集和清洗数据时遵循伦理规范。” Claire Trachet，科技企业顾问兼 Trachet 公司首席执行官表示，ChatGPT 及类似工具的定制化功能，不仅在于去除偏见，还可能成为自搜索引擎发明以来商业领域最重要的发展之一。“这种程度的定制化潜在用途非常广泛，从提升客户体验、简化业务流程和改善数据分析，同时大幅降低成本。由 ChatGPT 驱动的聊天机器人可以快速且高效地回应常见的客户问题，但它们可能缺乏客户所重视的个人化触感。” “通过允许用户调整 ChatGPT 的创造力水平，聊天机器人可以被定制为符合组织的语气和风格。这可以帮助客户感觉与品牌更紧密地联系，从而提升他们对公司整体的体验。”她解释道，“这之后可以集成到客户关系管理系统（CRM）和企业资源计划系统（ERP）中，以在不同团队之间实现无缝沟通和协作，或以一种前所未有方式用于营销和广告，前提是最终用户对输出内容拥有更大的控制权。” “例如，一家公司可能希望在社交媒体内容中使用更加创意或‘疯狂’的 ChatGPT 输出，而在广告文案中使用更受控的输出。通过向 ChatGPT 提供所需的精确标准，企业可以在整个领域中创造一致的体验。” 阅读更多：ChatGPT 升级将提高聊天机器人的事实准确性 本文主题：人工智能，ChatGPT，微软
查看全文
作者最近更新
评论0条评论