США: ФТК борется с вводящими в заблуждение заявлениями об отсутствии предвзятости ИИ
Федеральная торговая комиссия (FTC) США обвинила компанию IntelliVision Technologies в представлении вводящих в заблуждение заявлений о технологиях распознавания лиц на основе искусственного интеллекта. Калифорнийская компания утверждала, что ее программное обеспечение обладает "нулевой гендерной или расовой предвзятостью" и точностью более 99%. Однако расследование Комиссии выявило существенные несоответствия, например недостаточные данные для тестирования и то, что алгоритмы компании значительно уступают конкурентам (они не входят даже в первую сотню по результатам тестов Национального института стандартов и технологий (NIST) на декабрь 2023 года).
Как сообщается, IntelliVision обучала свои алгоритмы всего на 100 000 изображений лиц, создавая вариации этих изображений для имитации разнообразия, вместо того чтобы использовать миллионы реальных данных, как утверждалось в рекламе. Комиссия предлагает запретить компании делать необоснованные заявления и требует надежного тестирования для подтверждения любых будущих заявлений. Этот случай обращает внимание на политику поставщиков моделей ИИ в части их заявлений о возможностях технологий.
#ИИ #AI
Федеральная торговая комиссия (FTC) США обвинила компанию IntelliVision Technologies в представлении вводящих в заблуждение заявлений о технологиях распознавания лиц на основе искусственного интеллекта. Калифорнийская компания утверждала, что ее программное обеспечение обладает "нулевой гендерной или расовой предвзятостью" и точностью более 99%. Однако расследование Комиссии выявило существенные несоответствия, например недостаточные данные для тестирования и то, что алгоритмы компании значительно уступают конкурентам (они не входят даже в первую сотню по результатам тестов Национального института стандартов и технологий (NIST) на декабрь 2023 года).
Как сообщается, IntelliVision обучала свои алгоритмы всего на 100 000 изображений лиц, создавая вариации этих изображений для имитации разнообразия, вместо того чтобы использовать миллионы реальных данных, как утверждалось в рекламе. Комиссия предлагает запретить компании делать необоснованные заявления и требует надежного тестирования для подтверждения любых будущих заявлений. Этот случай обращает внимание на политику поставщиков моделей ИИ в части их заявлений о возможностях технологий.
#ИИ #AI