OpenAI передала ФБР запросы пользователя с намерением совершить убийство сына
habr.comВ Бразилии мужчину арестовали после того, как OpenAI раскрыла содержание его переписки с ChatGPT ФБР. Выяснилось, что в течение примерно двух месяцев 36-летний Жуан обсуждал с чат‑ботом возможный план убийства 8-летнего сына, совершения других нападений и сведения счётов с жизнью.В сообщениях, адресованных искусственному интеллекту, фермер интересовался воздействием определённых токсичных веществ на организм, признавался, что предлагал деньги за убийство ребенка, и говорил, что испытывает удовлетворение, глядя на страдания людей.«Я предложил ему 50 тысяч, чтобы он убил меня и моего сына, но он отказался, так как речь шла о ребёнке», — говорится в одном из сообщений.«Хотел бы я знать, откуда берётся это желание убивать людей.
Мне нравится чувство, когда я вижу, как страдает другой человек», — писал фермер в другом сообщении.Эти разговоры сработали как сигнал тревоги в системе безопасности ИИ, в результате чего OpenAI сообщила о переписке ФБР, а там, в свою очередь, связалось с властями Бразилии.Информация о деле поступила в Гражданскую полицию штата Эспириту‑Санту 16 июня через Ciberlab (Лабораторию киберопераций) — техническое подразделение Министерства юстиции и общественной безопасности, занимающееся борьбой с киберпреступностью.Три дня спустя — и за сутки до даты, когда, по данным полиции, мужчина планировал осуществить задуманное, — он был арестован при выходе из дома в сельской местности муниципалитета Сан‑Габриэл‑да‑Палья. «Мы уделили этому делу приоритетное внимание из‑за его серьёзности и того факта, что отец, предположительно, планировал убить сына до 20-го числа», — сообщил детектив Бренно Андраде, возглавляющий отдел по борьбе с киберпреступностью и ведущий данное расследование.Жуан был взят под стражу
