遏制 AI 失控,微软发布系列工具减少 Copilot「幻觉」情况2024 年 4 月 2 日

微软针对生成式 AI 的安全性、隐私性和可靠性问题,推出一系列解决方案以防止 AI 失控。包括限制 Copilot 字符数量,引入基础检测功能以识别文本幻觉,以及推出 Prompt Shields、Safety system messages、Safety evaluationsde 和 Risk and safety monitoring 等工具。这些措施旨在提高 AI 输出的质量和信任度,并减轻潜在的风险。

企业微信二维码