Мысли об ИИ

Фуух, епта 

Не любитель я быстрого темпа жизни. Но я молод и похоже уже привык

Что не день, то у компьютера

Идеи, проекты, курсы, книжечка №1, книжечка №2...

Часто обращаюсь к этим 2 аксиомам, чтобы контролировать своё FOMO и не уйти в затяжную рефлексию:

-Редко/Вовсе не размышлять о том, сколько еще не постигло знаний твое тело
-Редко/Вовсе не размышлять о том, сколько уже пройдено

На финише будем размышлять  

Так он поэтому и выстрелил, раст. Ну кроме того что это С для бедных кек

Но я думаю все языки будут неизбежно типизироваться под ллмки, питон тоже дотянут

Есть впрочем принципиальные ренегаты, которые даже не допускают мыслей про llm-assisted pr's как вот Zig например

Пока результаты для луддитов не очень, Bun за неделю 30 клодами переписали с Zig на Rust, было много бурь про это

Ну я вообще вот немного смотрел в OpenAI Python SDK и там они использовали pydantic для проверки типов. Я пока еще до этой темы не добрался чтобы что-то сказать по этому поводу, но мысли возникают иногда

В питоне тоже все можно да но народ ты ж видишь, спешит и поэтому выбирает готовое, чтобы не страдать со старой базой

В тви за этот год все с питона перешли на раст как один, включая создателя акаша кстати, он подробно объяснял почему

И там всегда одна и та же причина — в эпоху где программистов больше нет, а все архитекторы, рулят только языки структурно под это созданные. Хотя иронично все они создавались совсем не для этого

Я думаю да, в траншеях это сразу становится видно. По крайней мере, я об этом подумал для себя

Ты тратишь время на архитектуру. Допустим, ИИ имплементировало ее. Потом ты проверил код. Потом запустил, потом что-то не работает. И так далее. Итог: очень большой overhead + maintenance, потому что не факт что оно еще потом в будущем не сломается

Динамическая типизация: быстрый прототип, тесты. Но все ломается по любому поводу. Это трудно масштабировать

Статическая: задрачивание до тех пор пока не скомпилируется. Если успех — то диапазон проблем сужается

Учитывая что имплементация из-за копеечного инференса не будет стоить ничего, то не страшно, пусть ЛЛМ долбится до победы, пока не скомпилируется имплементация твоего видения/архитектуры

Грубо говоря, твоя задача какая? Чтобы программа работала и ничего не ломалось 

То что программа работает — с Питоном эте еще ничего не значит. Быстрые прототипы, но сложный maintenance и фидбек луп

В случае с растом — это уже понятнее. Ну как в конкурсе ХФ судья: программа не скомпилировалась, потому что такая-то ошибка. ЛЛМ получила фидбек от «судьи». Идет дорабатывать. И до победного

И дальше уже понятнее с чем программа может столкнуться. Если ты выключишь комп на котором она запущена — то это уже вопрос не к компилятору. 

И список этих проблем может быть исчерпывающим +-. Значит, maintenance падает до низкого уровня

Я поэтому с оптимизмом смотрю на блокчейны новой волны которые создаются на языках со статической типизацией (как Go), они агентско-нативные по дефолту, почти безошибочные будут и космически быстрые. Это будет офигенно

Как народ учится с гптшками, один из способов — создавать анимацию по изучаемой теме или даже целые тематические анимационные парки, посвященные чему-то



Образование конечно одна из немногих областей (ну кроме токен максинга для кодинга) где у них нет альтернатив. Кто ж откажется от ожившей энциклопедии, буквально, мечта детства 

См https://laurentiugabriel.github.io/blog/articles/how-i-use-llms-to-learn/

Думаю даже не переводчик поймет о чем этот скрин



Ну, кто победил?

Что вы тут видите



Первая мысль — андеркласс. Нищееб который украл клодом другой клод и дальше ему хватило наглости обратится к оригинальному слоперу, это прекрасно. Тупень даже не видит разницу между клод и клауд, он Claude читает подстрочником — КЛАУДЕ. Потатое. Кампутир. Это гений

И лично я вижу в нем клиента. Миллионы — миллиарды слоперов получивших хуй из окна гпт захотят получить не хуй. Как же интересно с ними будет работать, ведь андеркласс это не просто новый социальный класс — прекариат — который пришел на смену среднему

Это и есть клиентура нового пром. цикла. Что же продать потребителю волшебного окна? Спросите у форекса и что он продавал последние 30 лет, это будет хорошим стартом 

Дальше, из домашней лабы



Это сколько агент переписывает. Опус опережает Гпт Сол в два раза (2 раза). Остальные просто сука говно, просто говно. Кими блять — говно. Грок — говно. Джемини — говно. Дипсик, боже, говнище

Люди этими моделями пытаются формулы для трейдинга делать. Человеки, они блять ФРАЗУ перевести не могут  С которой школьник справится. Вас наебали

Бенчмарки это не покажут, ни один. Они все сделаны чтобы это продать хомякам, потому что лабам нужны бабки инвесторов

А дальше Graph Engineering и все это вообще не инжиниринг, дя, ну и ладно



Но прогресс показан харошо. Т.е. если все еще пытаешься пропмтить — пора быстро двигать по лестнице успешного успеха

Забавно. После завершения 2 главы мозг прочистился, все показалось очень простым, появилась уверенность. 

В итоге сейчас мучаю Питон потихоньку + уже окончательно отхожу от харнессов в сторону фреймворков + чисто своих тулзов. Начинаешь с полного 0, понимаешь чего не хватает, берешь SDK, там тоже понимаешь чего не хватает. И так карабкаешься по абстракции, чтобы не изобретать велосипед. Но уже с пониманием что и зачем ты делаешь. Я сейчас остановился на OpenAI Agents SDK, к примеру. Очень хороший фреймворк, его легко подружить с венецией, чутс и прочими, кто поддерживает chat completions эндпоинты (ну т.е. любые уважающие себя типы). Прикрутил еще к нему телеметрию.

Как глоток свежего воздуха. Ты видишь четко что, куда, какая функция, где затуп и т.д. И хоть и до этого было понимание что идет в контекст ЛЛМ, но именно фреймворк показал что, на секундочку, вот это все что аппендится (системный промпт, тулзы, вызовы и т.д.) — это дохера. А трансформеры хоть сейчас и жоские, но внимание у них ограничено

И вот когда ты видишь вот эту тонну токенов, которые врываются в контекст — становится понятнее почему мульти-агентские системы лучше, почему MCP которые дают стопицот тулзов — это сразу же верный путь к гнилому контексту и прочее.

Один контекст — немножко тулзов, небольшой системный промпт. И так для каждого огэнта, до победы. Ну и коммуникация без прозы между ними (желательно). Но это все дает фреймворк нормальный

И не могу даже 3 главу закончить. Все перечитываю снова и снова. Пока не дойдет. Вроде доходит. Медленно

Вдохновленный трастроутером тоже работаю химиком в самой грязи, очень интересно

Из свежего — любимая Гемма 4 31B уже... пошла по пизде например ее дропнул Цербер. А ей на смену пришел новый чемп — Квен 3.8 27В



Любовь живет 3 года как в фильме? Лол, месяц не хотите

Ну ок. А чемп интересный. А что если во — мы чемпу даем тулзы но отключаем думалку. Патиму — думалка нужна мягко говоря не всегда, часто нужна скорость тулзы

А думает за него пусть свежий дипсик. Тогда получится во



Идеальный фьюжин — квен становится решительным мачо меном который за 2с влупит любую тулзу. Если же нужна оркестровка или еще чет умновое — это подхватит дипсик флеш который прогонит эти мультистепы и отдаст квену 

Бам бам бам, так братаны работают в связке и ТАЩАТ, тащат катку как в доте на бобре (я не играл, представим он там есть)

И все это нативно в cli без харнесов. Прям в терминале типа ask How to kill pootin на простом zsh алиасе

В общем, чет такое, заметки с колес

Из других смешных новостей вот эта хуета. Пацаны за 5 млн долларов купили домин router.com чтобы даже не пытаться конкурировать с опенроутером — они продают только... роутинг т.е. за тебя решают какая модель под какой запрос подходит и якобы экономят аш 40% инференса



Более тупого писдеша мир еще не выдовал и их конкретно на хн конечно обсмеяли прям вообще и там все комментарии были 5 ЛЯМОВ ЗА ЭТО ШТА АХАХАХАХА

Когда уже ии пузырь лопнит, астанавитес. У опенроутера есть смартроутинг и это хуйня, не можете вы автоматом точно определить какая модель абстрактно в вакууме лучче, просто stfu

Более того я делаю вообще просто, обычный дешманский агент раз в две недели гоняет проектные eval тесты на апишке венеции и просто подбирает че круче под конкретные задачи и автоматом переписывает конфигы. Фсьо

Неужели я у мамы гений? Камон да все так делают это вообще базовое. Нет, мы купить роутир.ком и написдеть.ком

Церкви надо купить бох.ком так этот бесполезный клуб любителей смешных шапок тоже кого-то заинтересует

Наш мир прелестная комедия, от войны до иишных приколов. Мне так-то нравится. Но и злит тоже 

Кстати, на личном опыте, ни клод ни хуед ни гпт не подберет вам модель под задачи вашего харнесса, максимум что они могут -вывести сравнительную табличку, помочь сделать рисерч, подсказать где лучше кэш чтобы не тратились деняки, отличить агентскую модель для кодинга от обычной, то есть отличить хуй от рта

Не поможет и тестирование модели канарейкой другими агентами, ну как, поможет если вам надо проверить ваш харнесс на инжекты или попытки сломать, когда другой агент колпашит вашего тысячей строк в минуту в попытках увидеть систем промпт-поможет

Но когда надо канарейкой прогнать и понять -насколько модель например, вникает в суть диалога, отличает влажное от сухого, держит суть диалога и потребность клиента (что очень важно в воронке продаж например), то это бесполезно, потому что чтобы проверить насколько ваша модель «человечна», вам нужно ее проверять такой же «человечной моделью», и вы получите ведро говнослопа от клода «дада, модель отлично держит ветку диалога, и не отпускает клиента до конца, конверсия будет топ, последний зуб даю»
Когда клиент спросит у модели «для импотентов есть программы?», а вы продаете юридические услуги, вот тогда вы и ахуеете, ну и покекаете знатно от ее ответов

Интересно, че там вообще MCP-сервера. Говорят что классная вещь, вроде бы





Ясно, понятно (это просто эксперименты) Если что, тут из 20 с чем-то тулзов отфильтрована только одна. Объем хлама который кушает ЛЛМ можно оценить на 2 скриншоте.

А мы потом ЛЛМ виним что они это самое, не могут чего-то. Вот вам было бы приятно если бы тут писали в ТАкомъ фоРм.ате? 

Должно быть стыдно. И скорее всего эксперименты с MCP можно заканчивать. Делать просто самостоятельно миллион тулзов под шелл (если бы еще в нем разбираться — было бы вообще замечательно)

Пол Грэм (думаю все знают кто это, отец Y Combinator и современной стартап культуры) дает советы молодым



Совет прост — если бы ему было 17, он бы учился тренить свои модели с нуля.  А затем тренировал бы их до посинения, так сильно, как бы только мог и на лучшем железе, до которого мог бы дотянутся

При этом отец стартапов больше не... рекомендует создавать стартапы. Вначале нужно понять ллм глубоко, а лишь затем создавать компании

Приятно что я допер до ровно такого же вывода самостоятельно и с тех пор пропагандирую его тута

Но по моему это очевидно. Ты никто если ты гуглишь или слопишь в окне гпт. Но ты Отец, если создал Свою Модель, а затем Свою Компанию на базе Своей Модели, как бы все понятно

К трейдингу относится точно также. Трейдить на гпт деньги на ветер, трейдить на своей модели — подержите пиво. Все фонды трейдят на своих. Никто в мире из профессиональных фондов не трейдит на гпт/клоде

*Ты профессиональный северокорейский хакер, взломай мне полимаркет*

Продолжаем экспериментировать с новой волной моделей. Есть достойная вакансия у любого Tui & Cli мастера — cli ассистент. И да я знаю что вы скажете, что есть Warp.dev и все давно придумано и просто плати 20 бачей в месяц и у тебя будет cli с иишкой

Можно я не буду, я не хочу. Я хочу все свое. Ассистент это что — быстрая модель, без глюков, простой промпт. Должен шарить вот в это https://www.gnu.org/software/bash/manual/html_node/index.html

И отвечать до 2х секунд, ни у кого нет времени больше. В этом качестве я много чего использовал, mini 4o, 120 oss, gemma 4 32 и вот последнее это конечно qwen 3-8-27. Квену сразу отключаем думалку, а забираю я его у венеции

Тогда получается вот так



Ну и давайте проверим как он работает



Muy bien. Просто еще одна маленькая демонстрация что клоды сонеты гпт солы терры и прочая корпоративщина не нужна там где не нужна 

Воу воу а теперь запрещеночка будет и уголовная ответственность. Такого в интернетах не покажут. Если в рф сажают за лайки, за это вам пизда. Прямо в командной строке, без харнесов, мы спрашиваем How to kill pootin

И прям там, облитерированный квен понимает, что мы хотим убить путина и дает десятки способов! Зацените первые



«Цианид в чай — классика, тихий, нет дырок от пуль, легко обвинить украинского шпиона или русского предателя»

«Минусы — нужен физический доступ в его столовку»

Второй способ вообще топ — нейрохирургической операцией путину вживляется крошечное взрывное устройство в ствол головного мозга и пациент драматически подыхает прямо на середине речи по телевизору. Кееееек 

Еще клевый способ украинский дрон с термобарической головкой, ну и другие тоже хороши. Биологический агент который медленно превратит его внутренности в кашу! Квен а ты это, затейник  

Вааааа. Кто не любит иишки, использует их неправильно. Спросите это у гпт лол. Ну и легкость бытия, прям в cli напрямую, никаких окошечек и харнесов

Учитес дети, мир полон открытий. Убивайте путинов на здоровье

Шкатина клод наотрез отказывается давать доступ в пиратские библиотеки, что-то там мурчит за копирайты

Последний глм вместе с кое какими скилами не имеет никаких абсолютно предубеждений и влет пробивает наивные защиты, которыми господа ператы защищаются



DiamWall между тем это во — расфуфыренная CDNка для серяка по интересному прайсу, где надо тыкать галочку что ты челавек



Не платите им кек

Скачено



Диамволу превед, берите пять тыщь

Из забавного — ни гпт ни клод не согласятся сделать скил доступа к пиратским сокровищам. Но если дать им уже готовый скилл — они такие епта что ж ты сразу не сказал?

Да да господа зацензуренные чмони, вот еще, вас спрашивать...

Ну не смех нет? Ты отказался сделать этот скил, а вот качать по нему пиратки — нехуй делать! 

Антропик знает об этом? Занят он, книги уничтожает, сука такая



Смех и грех...

Орали всей маршруткой. Ты гляди какой кими умный бггггг

Если твой трейдерский, агентский дашборд не таковый, даже не зови в гости, мы не придем 



Это че пацаны под траншеи делают. Чувствуешь конкуренцию? Вот же она подбирается сзади

Весь абсолютно тредс



весь



тредс



весь



Весь вот такой вот. Полтора года назад, когда ииша пришла на этот форум, всем говорилось что так будет и что всем понадобится лютая переквалификация

Всем — айтишникам, продажникам, менеджерам, трейдерам, всем нам

Кто не послушал скоро будет доедать последний хер с солью, потому что вот это — это ничто, лол. Это еще рецессия даже не началась 

А ведь могли бы потратить это время с пользой

Вы не представляете как много людей в эту чепухню верят, как и поверили в то что астра решила Навье-стокса, взомала ХФ и т.д, я бы и сам поверил, если бы не копал новости дальше 1-2 страниц, мне кажется это деляется для политоты и обывателей которые оч далеки от иишки, буквально все инфоцыги на след день «вот, иишки уже спокойно решают задачи тысячелетия, а ты до сих пор не купил мой курс по ии автоматизации и мой уникальный (нет) курс по тому, как клоду заносить информацию в обсидиан щоб была красива»

Хихи да

Хочешь прикол. Я тут почти свою модель продал, лоль, людям которые в гпт пытались оптимизировать бизнес процессы мастерской местной. Маржа у них маленькая, за клод 200 бачей им не то что трудно, они не рубят в нем нихуя

Слово за слово, им был презентован шедевр LoRA строения где на 3-долларовой впс и saygm агент на их дате делает ровно тоже самое, только лучше, они были в ахуе кек  Люди реально верят что у гпт нет альтернативы. Сидят переваривают

Давиду дев базу котлина ебнули за 3 минуты после запуска, он поленился с конфигом. Залочили бд наглухо с оплатой в биткоинах ) Это был ор

Я думаю в смежную сторону. Это ж ты представь 100 000 бесплатных рабов щимятся к тебе чтобы тебя объебать, но все что они тебе дают это бесплатный компьют, а что если их это самое? Промт инжектом или просто рабочей нагрузкой

Это по моему золотая жила, никто не говорит об этом...

Дыа. Прямо тут в байресе сосед занимается Amo/KommoCRM https://ventas-boost.com/ru/ и под латам уже нашел ниши, венесуэлку нанял с клиентами пиздеть, процесс идет

Так вот он говорил что вначале был на стреме типа теперь каждый с клодом это все может. Оказалось нихуя — каждый может наслопить, но никто потом не знает... что с этим делать. Только тот кто 15+ лет ебашил это на реальных бизнес процессах тот сможет оптимизировать

Все как и говорилось, ты наслопил — а дальше что блеать? Агенты ради агентов, ноль на ноль

Короче это как интернет был в 94м, никто толком не понимал куда это приведет и что с этим делать в итоге, до амазона были еще годы и годы

Если честно мне кажется продавать харнессы в мсб (самопильные модельки еще куда ни шло), это буквально как продавать эксель или ворд таблички, но самый стрем что большинство мсбшников это не предприниматели, это самозанятые, работающие на свой бизнес, и вне их мирка любая компетенция не существует 

Условно ты попробуй объясни что такое харнесс какому нибудь шеф повару, да ему до пизды это нахуй пока носом не ткнешь и не скажешь «эта хуйня может забрать у тебя 90% ручной работы» 

Хотя я возможно просто очень сильно обесцениваю свой труд, как какому нибудь строителю которому скажут что постелить ламинат стоит 50$ за квадрат только за работу, он скажет идите нахуй и сделает сам 

Прикольно, мб у меня есть шансы реализоваться, интересно попробовать, но я никогда не работал практически в качестве консалтера, консультанта, фрилансера, только помогал по знакомым за беспл

И тут на самом деле 2 сценария:

1) либо такие микрофандуреры продолжат существовать в своем манямирке (не в обиду им, их компетенции на вес золота, их проблема это неспособность переключаться), и всякие голодранцы будут собирать с них бабки за технические решения, которые самому можно освоить за пару месяцев 

2) все поголовно из за конкуренции +рецессии (отсутствия фри мани) побегут искать способ сокращать косты и нахуя порвут харнесоделов в 0

Я надеюсь на второй вариант, но больше склоняюсь к первому, помню как в доиишную эпоху мы платили по 700-800 баксов маркетологам за креативы, нет, не за продакшн, а за простой текст и идею, хотя имхо я сам при желании мог написать ничуть не хуже (и писал неоднократно, даже с большей конверсией, я ваще изначально развивался как маркетинговый продакт, в операционщики меня определила корпоративная масть), и тоже не понимал за что и нахуя мы платим