谷歌新规引担忧：消息称外包人员被迫评估自己不擅长的 Gemini 回复

近日，据报道，谷歌对其大型语言模型Gemini的外包评估流程进行了调整，此举引发了外界对其在敏感领域信息准确性的担忧。这一调整要求外包评估员不得因专业知识不足而跳过特定评估任务，可能导致Gemini在医疗保健等领域的信息输出出现偏差。

为了改进Gemini，谷歌与外包公司GlobalLogic展开合作，由后者雇佣合同工负责评估人工智能生成的回复，评估标准包括“真实性”等因素。以往，评估员若认为某问题超出自身专业领域，例如心脏病学问题，便可选择跳过，避免评估涉及该提示的人工智能回复。

然而，GlobalLogic上周宣布了一项谷歌派来的变更：评估员不能因缺乏专业知识而跳过任何提示。新指导方针要求评估员需要评估理解的提示部分，并注明自身缺乏相关领域知识。

这一变更引发人们对Gemini在某些主题上准确性的担忧，因评估员现需要评估一些他们不熟悉的高度专业技术性人工智能回复，比如罕见疾病问题。内部一位合同工表示：“我原以为跳过的目的是通过将其交给更专业的人来提高准确性？”

据新的指导方针，评估员只能在提示完全缺失信息或包含有害内容时跳过。

新规实施后，一些专业性颇高的领域，比如医疗健康，将由缺乏相关知识背景的评估员进行评估，增加了Gemini输出不准确信息的风险。外界担忧此举可能误导用户，尤其是涉及健康等重要问题时，不准确信息可能带来严重后果。

截至发稿时，谷歌尚未对相关报道做出回应。

广告声明：文内含对外跳转链接，仅供参考。