Sakana AI исследует мышление, основанное на времени, с помощью модели ИИ, имитирующей мозг
habr.comSakana AI, стартап из Токио, представил новый тип системы искусственного интеллекта, имитирующей работу мозга в режиме реального времени.Новая модель компании под названием «Машина непрерывного мышления» (Continuous Thought Machine, CTM) использует иной подход, чем традиционные языковые модели, и фокусируется на том, как синтетические нейроны синхронизируются во времени, а не на том, что входные данные рассматриваются как единый статичный снимок.Вместо традиционных функций активации CTM использует то, что Sakana называет моделями на уровне нейронов (NLM), которые отслеживают историю прошлых активаций.
Эти истории определяют поведение нейронов с течением времени, а синхронизация между ними формирует основное внутреннее представление модели, дизайн которой вдохновлён закономерностями, обнаруженными в биологическом мозге.В то время как более ранние системы использовали такие методы, как принудительное бюджетирование для стимулирования более длительных рассуждений, CTM предлагает совершенно новую архитектуру.
