«Их задача — не дать ИИ все разрушить». Как работает команда безопасности Anthropic

habr.com:

Внутри Anthropic — компании с оценкой около $350 млрд и штатом более 2000 человек — есть команда из девяти сотрудников с необычным мандатом.

Их задача — искать и публиковать "неудобные истины" о Claude: не ради PR, а чтобы компания и индустрия понимали реальные риски своих продуктов.

Читать на habr.com Все новости от habr.com

Сэм Альтман объявил «красную тревогу»: Google и Anthropic загоняют ChatGPT в оборону

Ученые рассказали о главном преимуществе мозга над ИИ — и как его можно скопировать

Runway Gen-4.5 — как команда из 100 человек обставила OpenAI и Google в видеогенерации

DeepSeek-V3.2: как открытая модель догоняет GPT-5 и берет «золото» олимпиад

Ученые рассказали о главном преимуществе мозга над ИИ — и как его можно скопировать

Сэм Альтман объявил «красную тревогу»: Google и Anthropic загоняют ChatGPT в оборону

Runway Gen-4.5 — как команда из 100 человек обставила OpenAI и Google в видеогенерации

DeepSeek-V3.2: как открытая модель догоняет GPT-5 и берет «золото» олимпиад

Ведущий исследователь OpenAI: AGI — вопрос ближайших 5–20 лет, и в этом согласны все

OpenAI придется раскрыть, как она обучала GPT-модели на пиратских книгах

Начался Advent of Code 2025 — адвент-календарь с задачами по программированию

Anthropic: как научить ИИ-агентов работать днями без потери прогресса

Grok 5 научат видеть интерфейсы как человек — и работать быстрее людей

Данные кончились, что дальше? Как Илья Суцкевер хочет создать супер-интеллект

Исследование показало, как общение с ИИ-подхалимами портит людей

Учёные раскрыли слабые места ИИ: почему модели всё ещё не думают как люди

Какие ошибки делают все новые владельцы iPhone: могут навредить

“Темные фабрики” и беспилотные порты: как ИИ и роботы меняют экономику Китая

Приблизить Россию к международному трибуналу: как работают цифровые технологии для установления справедливости

Вышел Mux — open source-инструмент, где над кодом работают несколько разных ИИ

Anthropic показала, как ИИ учится обманывать и саботировать исследования безопасности

Илон Маск заявил, что через 10-20 лет работа станет «опциональной»

Anthropic выпустила Opus 4.5: работа с Excel, infinite chat и новый уровень безопасности

Андрей Карпати рассказал, как его «загазлайтила» Gemini 3 Pro

Появились примеры работы Nano Banana Pro

Google представила Gemini 3.0 Deep Think — мощный ИИ для сложных задач

Вебинар «Твоя безопасность. Твои правила. Твой контроль. Всё о службе каталогов MULTIDIRECTORY»

Все, как у Redmi K90 Pro Max, но с меньшим аккумулятором: инсайдер раскрыл полные характеристики Poco F8 Ultra и показал его рендеры

ByteDance запустила самый дешевый в Китае ИИ для кодинга — всего 450 руб./мес за уровень Sonnet 4.5

Тест в прямом эфире: как работать с базами данных без простоев

Дата-центры, в строительство которых Anthropic инвестирует $50 млрд, должны начать работу в 2026 году

Anthropic купила разработчика открытого движка Bun

OpenAI работает над интеграцией приложения «Здоровье» от Apple в ChatGPT

Anthropic покупает Bun, а Claude Code достигает годовой выручки в $1 млрд

Bloomberg: Netflix делает предложение, от которого Warner Bros. будет трудно отказаться

Роскомнадзор зафиксировал мощную четырёхсуточную DDoS-атаку на системы операторов связи РФ

Потребление электроэнергии дата-центрами и майнерами криптовалют в России к 2030 году достигнет 2%

Функция Android «Причина вызова» отмечает важные звонки ещё до того, как пользователь ответит на них

Глава Nvidia предсказал появление ядерных мини-реакторов из-за роста ИИ-отрасли

СМИ: финансист Майкл Берри допустил крах фондового рынка из-за переоценки ИИ-компаний

21Shares запустила фьючерсный SUI-ETF с кредитным плечом

Фьючерсные биржи с лицензией CFTC запустят торговлю спотовыми криптопродуктами

Три полезные привычки, которые помогут сделать день продуктивнее

Космический телескоп «Хаббл» сделал новый снимок межзвездного объекта 3I/ATLAS

Motorola представила специальную версию Edge 70 в цвете Pantone 2026

Подтверждено: Xiaomi готова к выпуску своего первого Trifold-смартфона

«Мы не знаем, где он остановится»: сооснователь Anthropic — о предельном риске ИИ

Минпромторг планирует запретить покупать импортную образовательную робототехнику по № ФЗ-44

Amazon представила Trainium3 — обещана выгода до 50% в сравнении с GPU Nvidia

Amazon запускает ИИ фабрики прямо внутри компаний

На PC и Xbox состоялся релиз ROUTINE — научно-фантастического хоррора, который находился в разработке тринадцать лет

Карманная фоторамка для музыки: Sleevenote

Cloudflare снова не работает: сбой затронул крупные сайты и сервисы

ТОП- 9 утренних привычек, которые могут изменить вашу жизнь

Вышла FreeBSD 15.0

В Google в курсе проблемы, что ИИ-помощник Google Antigravity удаляет файлы без разрешения пользователей

Выпуск обновления DaVinci Resolve 20.3

Приложение TrueConf для ВКС стало доступно пользователям на мобильной ОС «Аврора»

Finalmouse выпустила механическую клавиатуру Centerpiece с подклавишным дисплеем высокого разрешения

"Утренний секрет" номер один для тех, кто хочет дожить до 100 лет

3D-печать роговицы: новая эпоха трансплантации

Больше новостей