Google 的图片辨识AI工具Cloud Vision API 不再以外貌来标籤性别,一律标注为「人」,以免产生偏见。 图:取自Google Cloud Vision API 官网
Google 近日透过电子邮件向开发者公告,图片辨识AI工具Cloud Vision API工具将不再使用「男人」和「女人」标籤,而改为类似「人」这类较笼统的标籤,以免AI系统产生偏见。
图片辨识AI工具主要是透过AI分析图像,进而识别人脸、地标、物品和其他各种可辨识的资讯。Google 解释,由于性别有时很难以外观判断,因此根据 Google《人工智慧原则》第二条「避免製造或加强不公平偏见」,决定移除相关标籤。
过去,人工智能图像识别一直是Google的棘手问题。 2015年,一位软件工程师指出,Google Photos的图像识别算法将黑人归类为大猩猩,Google虽然解决了此问题,但仍被抨击后续处理不够积极。后来Google在2018年发布了《人工智慧原则》,以避免类似争议再度出现,