Discord的Captcha系统最近引发了一些争议，因为它要求用户识别一个名为“Yoko”的不存在的物体。这个物体看起来像是蜗牛和悠悠球的混合体。有多个用户报告说，在尝试使用Discord时，他们在解决简单的Captcha提示时被要求识别一个Yoko。
这个Yoko的图片以及Captcha中的其他图像，看起来都是由AI生成的。另一位用户在Twitter上抱怨说，当他被要求识别一个拼图立方体的图片时，他无法通过Discord的Captcha登录。这些图片看起来也是由AI生成的。
Discord的Captcha由一家名为hCaptcha的公司运行。hCaptcha自称是隐私保护的重点，是无处不在的reCAPTCHA的替代品。根据2018年的一篇博客，hCaptcha的提示是由寻找“高质量人类注释以满足他们的机器学习需求”的客户生成的。
hCaptcha通过两种方式赚钱：一是像Discord这样的客户购买专业和企业计划来运行Captcha服务，二是生成提示的客户。hCaptcha正在使用Captcha来帮助训练机器学习系统和生成对抗网络。
这并不是人们第一次注意到在hCaptcha服务中出现奇怪的AI图像，也不会是最后一次。两个月前，一位Redditor注意到Discord要求他在一组打曲棍球和高尔夫球的人的图片中，区分出AI生成的足球运动员。今年3月，另一位Redditor抱怨说Discord的Captcha已经变得无法理解。
hCaptcha的奇怪AI生成提示问题揭示了两个机器学习系统的问题。首先，AI系统需要大量的人工输入才能不那么糟糕。通常，图像标记工作会外包给外国工人，他们只能用很少的钱来完成这项工作。另一个问题是数据漂移。这些机器学习系统运行的时间越长，需要的输入就越多。不可避免地，他们开始使用自己生成的数据来训练自己。长时间自我训练的系统会变成AI哈布斯堡，产生出要求识别像“Yoko”这样无法理解的物体的请求。
相关资料：原文链接