maybeelf доллар maybeelf

Энтузиаст представил «разговорный ИИ» весом 40 КБ

Энтузиаст выложил на GitHub проект Z80-μLM — языковой модели, которая весит всего 40 КБ. Её можно запускать на 8-битном процессоре Z80.Z80-μLM — это 2-битная квантованная языковая модель, работающая на процессоре Z80 с 64 КБ ОЗУ.

Вся система: вывод, веса, интерфейс чата — помещается в файл .COM размером 40 КБ.Из-за ограничений автор пошёл на компромиссы: хеширование триграмм (устойчивое к опечаткам, но с нарушением порядка слов), применил 16-битную целочисленную математику и тщательную обработку обучающих данных.Ключевым моментом стало обучение с учетом квантования, точно моделирующее ограничения кода вывода.

DMCA