32 ГБ на скорости света: Кармак описал память для ИИ на оптоволоконной петле
Создатель Doom и основатель ИИ-стартапа Keen Technologies Джон Кармак предложил необычную альтернативу DRAM для инференса нейросетей — хранить веса модели не в микросхемах памяти, а в оптоволоконной петле, где данные циркулируют в виде световых импульсов.
По его расчётам, уже продемонстрированные скорости передачи в 256 Тб/с на расстоянии 200 км по одномодовому волокну дают 32 ГБ данных «в полёте» с пропускной способностью 32 ТБ/с.Ключевое наблюдение Кармака: при инференсе паттерны обращения к весам полностью детерминированы — известно заранее, какие данные понадобятся и когда.
habr.com