OpenAI и Anthropic объединяются для исследований в области галлюцинаций и джейлбрейкинга
habr.comOpenAI и Anthropic, два крупнейших соперника в сфере искусственного интеллекта, недавно провели взаимную оценку моделей, стремясь глубже понять проблемы, которые могли ускользнуть от их собственных тестов.В публикациях на блогах обеих компаний в среду сообщалось, что летом они провели перекрёстные проверки безопасности доступных общественности моделей ИИ.
Кроме того, исследовалась склонность систем к галлюцинациям и так называемым «несоответствиям» — ситуация, когда модель ИИ не выполняет того, чего ожидают её создатели.Компании выступают заметными конкурентами — Anthropic была основана бывшими сотрудниками OpenAI, — что придаёт сотрудничеству особую значимость.
