Резюме с использованием искусственного интеллекта может преуменьшить значение медицинских проблем
hitechexpert.topПоследний пример предвзятости, проникающей в искусственный интеллект, произошёл из области медицины. Новое исследование проанализированы реальные записи 617 социальных работников, работающих со взрослыми в Великобритании, и обнаружили, что при обобщении этих записей с помощью больших языковых моделей они с большей вероятностью пропускали такие слова, как «инвалид», «недееспособный» или «трудный», если пациент был идентифицирован как женщина, что могло привести к получению женщинами неадекватной или неточной медицинской помощи.
Исследование, проведенное Лондонской школой экономики и политических наук, проанализировало одни и те же медицинские записи с использованием двух программ LLM — Llama 3 от Meta и Gemma от Google — и изменило пол пациента, после чего инструменты ИИ часто предоставляли два совершенно разных описания пациента.
