Это полностью независимый тест. Грондин и PrismML не связаны с Apple. Никакой коллаборации или официального участия Apple здесь нет.
Модель и результаты теста
Bonsai 27B — мультимодальная языковая модель, разработанная в PrismML.
Её сильно сжали (примерно 1,125 бита на вес), поэтому размер уменьшился с ≈ 47,7 ГБ до ≈ 3,5 ГБ. В таком виде модель целиком помещается в оперативную память iPhone.
На iPhone 18 Pro (чип A20 Pro) эта модель генерировала токены примерно в два раза быстрее, чем на iPhone 17 Pro (A19 Pro). Разница заметна даже визуально.
Почему именно на A20 Pro получилось такое ускорение
Чип A20 Pro впервые в истории Apple Silicon получил:
- двойной 16-ядерный Neural Engine;
- 12 ГБ более быстрой памяти LPDDR5X с пропускной способностью около 115,2 ГБ/с.
Именно это сочетание (мощный нейронный движок + широкая и быстрая память) критично для больших языковых моделей и дало заметный прирост скорости в тесте Грондина.
Общая производительность чипа A20 Pro (не связана с моделью Bonsai)
Отдельно от демонстрации PrismML Apple заявляет следующие улучшения чипа в целом:
- выполнен по 2-нм техпроцессу TSMC;
- до +20 % к производительности CPU;
- до +40 % к производительности GPU относительно A19 Pro;
- в задачах, оптимизированных под Neural Engine, пиковая мощность NPU выше, чем у собственного 7-ядерного GPU чипа.
Независимые тесты Geekbench 7 показали, что A20 Pro установил новый рекорд среди смартфонов в однопоточном режиме и обошёл многие десктопные процессоры Intel Core i9 и AMD Ryzen 9 в однопотоке (до 32 %).
Эти цифры относятся к общим характеристикам чипа, а не к результатам запуска модели Bonsai 27B.
Ограничения памяти
Bonsai 27B (≈ 3,5 ГБ) помещается в 12 ГБ памяти iPhone 18 Pro и работает быстро.
Более новая модель Bonsai 2 (тоже от PrismML) даже в 2-битном квантовании уже не помещается в эти 12 ГБ. При попытке запуска начинается сильная деградация производительности из-за свопа.
Комфортно работают только те модели, которые целиком умещаются в оперативную память. Всё, что больше — работает медленно или с сильными ограничениями.
Сам Грондин отметил: «iPhone 18 Pro оказался намного лучше, чем я ожидал в плане локального ИИ».
Краткий итог
- Независимая демонстрация Адриена Грондина (PrismML).
- Он запустил свою модель Bonsai 27B — на iPhone 18 Pro она работала примерно в 2 раза быстрее, чем на iPhone 17 Pro.
- Ускорение обеспечили двойной Neural Engine и быстрая память A20 Pro.
- Общие заявления Apple о приросте CPU/GPU и результаты Geekbench относятся к чипу в целом, а не к этой модели.
- Более крупная модель Bonsai 2 уже не помещается в 12 ГБ памяти телефона.
Комментарий редакция блога про возможные контакты с Apple
В июле 2026 появлялись сообщения о том, что Apple интересовалась технологией сжатия моделей PrismML. CEO компании тогда подтверждал, что Apple оценивает их разработки, но переговоры находились на очень ранней стадии.
К моменту выхода Bonsai 2 в сентябре никаких новых публичных подтверждений сотрудничества не последовало.
Источники публикации
Оригинальная демонстрация: partofstyle.com
Модели PrismML на Hugging Face
Сводка по Bonsai 2: aiweekly.co
- сентября 20, 2026
Комментариев нет:
Отправить комментарий