Решение должно оставаться за человеком
smartmoney.oneУчастники секции "Вопросы доверия и этики в искусственном интеллекте (ИИ) и работе с данными" конференции Data Fusion на основе накопленного опыта пришли к схожим выводам: необходимо обеспечить корректность датасетов и прозрачность работы алгоритмов, следует строить механизмы обратной связи в том случае, если модель работает некорректно, и, наконец, рекомендации ИИ не стоит рассматривать как истину в последней инстанции, решение всегда должно оставаться за человеком.При этом обсуждение происходило в традиционном для Data Fusion формате разбора конкретных кейсов.Исполнительный директор Ассоциации больших данных Алексей Нейман посвятил свое выступление особенностям работы рекомендательных сервисов, которые предлагают пользователям нечто на основе анализа или их собственных предпочтений, или базируясь на интересах схожей группы.Но тут возможны проблемы, например, когда предлагается продукт, не соответствующий возрасту или уровню развития, или то, что может быть воспринято как неприемлемое по каким-то другим причинам, как правило, связанным с нарушением принципов отсутствия дискриминации, непредвзятости и равенства.Именно это, по оценке Алексея Неймана, является одним из главных рисков, связанных с работой такого рода систем.
Как отмечает Алексей Нейман, чтобы риска избежать, у пользователя должна быть возможность оценить корректность датасета, включая данные о себе самом.