roboforum.ru

Доцент Университета Калифорнии Калинда Уканва (Kalinda Ukanwa) недавно выделила множество способов, с помощью которых плохо обученные алгоритмы, приводящие к предвзятым результатам, могут вести организации по ложному пути. С одной стороны, молва может быстро распространить слухи о несправедливом обращении в данном сообществе, что приведет к упущенным возможностям и снижению продаж. Кроме того, ее исследование показало, что чрезмерная зависимость от «групповых» алгоритмов, которые пытаются различить поведение человека на основе назначения в определенную группу, может дать краткосрочные результаты, но в конечном итоге отстает от ИИ, работающего на основе «групповой слепой» основы.

Еще один ключевой источник трений между организациями и их клиентами и сотрудниками, вызванными предвзятостью, – это необходимость во взаимодействии по указанию, например, в колл-центре. Найс, разработчик роботизированной автоматизации процессов (RPA) для центров обработки вызовов, недавно разработал структуру, которая помогает обеспечить, чтобы ИИ оставался полезным и дружелюбным для пользователей и сотрудников, что, в свою очередь, способствует укреплению лояльности к бренду и положительной реакции в социальных сетях. Среди ключевых моментов – необходимость сосредоточиться на достижении положительных результатов в любом взаимодействии и обучать ботов быть свободными от расы, пола, возраста или каких-либо других предубеждений, чтобы формировать полностью агностический взгляд на человечество.

Специалисты по анализу данных подразделяют предвзятость ИИ по нескольким направлениям, таким как предвзятость выборки и предвзятость отбора, но, по словам автора и предпринимателя Джедидии Юэ (Jedidiah Yueh), одной из самых пагубных для предприятия является предвзятость. Именно здесь ИИ (и люди тоже) пытаются подготовиться к будущему, которого они ожидают, не обязательно к тому, которое они получат. Это понятно, но в эпоху, когда искусственный интеллект сам создает радикально непредсказуемое будущее, он чреват опасностями, поскольку препятствует инновациям и способности сохранять гибкость в изменяющейся среде. К сожалению, предопределение часто жестко встроено в сам процесс ETL, поэтому для его отмены требуется нечто большее, чем просто изменения в обучении ИИ.

Использование предвзятости во благо

Руководители предприятий также должны избегать ловушки, которая возникает из-за того, что они думают, что всякая предвзятость – это плохо, – говорит доктор Мин Сун (Min Sun), главный специалист по искусственному интеллекту в Appier. Во многих маркетинговых сценариях может быть полезно встроить в алгоритмы искусственного интеллекта предвзятость, если вы пытаетесь выяснить тенденции покупок, скажем, для одиноких женщин определенного возраста. Уловка состоит в том, чтобы убедиться, что лица, принимающие решения, осведомлены о наличии этих предубеждений и могут соответствующим образом просматривать полученные данные. Чтобы сделать это успешно, важно не вносить предвзятость в саму модель обучения, а, скорее, в данные, на которых она обучается.

Подробнее >>