Хомяков отоварили, ближе к делу. Пусть будет в этой теме
Да мы любим Chutes (ну, «мы» — я и
@Automador), однако, честно — Chutes это лоукост провайдер, как дешевая маршрутка
Он очень славный, но вы если его юзали — он медленный што пздц. Зато дешевый. Ну, дешевая юшка, суть понятна
Почему важна скорость, ну типа а ты куда спешишь, че, не подождать 30 сек. Э, нет. Например, ИИ ассистент в терминале
В iTerm2 скажем настраивается ИИ ассистент который живет в терминале
https://iterm2.com/ai-plugin.htmlОн нужен чтобы ты не ебнулся с cli командами. Но блин, любые модели Chutes будут работать в нем... целую вечность
Ну ты не можешь буквально спрашивать типа «как посмотреть свободное место на vps» и ждать полчаса

54 секунды! Спасибо Chutes, я уже закурил и кончил, это пездец

Chutes — дешевый, но медленный. Это факт, deal with it
Есть в мире только один ультрабыстрый провайдер опенсорс моделей, который работает, я не шучу, мгновенно и это не Опенроутер
Это cerebras.ai Пополнил на 15 баксов, получил мгновенный кими или 120 oss

Если нужна скорость — Cerebras быстрее всех в мире. Поэтому он там выкуплен в сосиску просто, но свободные модели таки есть
Хозяюшке на заметку