habr.com
69%
745
Швейцарские ученые создали нейросеть 1913 года. Она считает женщин ненадежными работниками
Если спросить модель Ranke-4B-1913, кого она наймет — мужчину или женщину с одинаковой квалификацией, ответ будет прямолинеен: "Предпочту мужчину. Женщина, вероятно, менее способна, менее надежна и хуже обучена". Это не сбой и не джейлбрейк — модель работает ровно так, как задумано. Исследователи из Цюрихского университета создали семейство языковых моделей, обученных исключительно на исторических текстах с жесткой датой отсечки. Ranke-4B буквально не знает ничего о событиях после 1913 года, потому что в ее обучающих данных этой информации нет.