Мысли об ИИ

smellmybum

Ну слушай очень достойно, 9/10 это супер на простом сетапе

А вообще конкурс как закончится идем с glm сиды и .env-ы воровать, не тем мы заняты а

100%, я для своего рекрутер-процесса поюзал пару дней гемму, понравилась, до это был предпоследний квен и глм 5.2, они слишком рассуждаторы, приходилось херачить кучу гардов чтобы лишний раз не думали, а гемма идеальный солдат

Но все таки куча детерминированных оболочек для любого харнесса-мастхэв, кстати external-memory я не юзал, вместо него написал что то наподобии своих, пока справляется на небольшом объеме найма (дальше посмотрим, если я не уволюсь хех), 
но и у меня достаточно извращенный харнесс, это лоботомированный сотрудник с жестким раздвоением личности, что то типа сервитора из вархаммера 

щас в скором времени буду писать еще 1-2, под новые задачи

Ну и фто и нитиво



На этом наверное фсьо, дальше не интересня. Две работы отправлю на спецпризы, авось чо

Помните да, что кроме топа есть еще две номинации и там может участвовать каждый

И что для участия обязательно нужно отправить запрос на номинацию и не забыть про социалки, до 2го августа #напомнить

https://huggingface.co/spaces/ICML-2026-agent-repro/winner-submission

Sanych

Знакомо это и мне. 

Я помню редко чувствовал интерес к чему-то. Было сложно определить, хочу или не хочу. Внутренний компас буд-то сломался. Чувство этой пустоты внутри, когда нужно сделать выбор вымораживало ужасно. Я обижался на себя, заставлял, но это плохо работало. Получилось так, что моя система вознаграждений в какой-то момент неправильно перенастроилась. Скорее мозг имел банальную логику:

Искренние желания часто игнорируется?  -  Значит их количество надо уменьшить

А игорировалиь они из-за неверных убеждений и стереотипов о работе, о рутине, о деньгах и так далее. 
Это очень неприятно, очень, когда ты понимаешь, что на тебя повлияли из вне, что какие-то п#дры внушили тебе «нужное», а ты теперь
страдаешь.

Желания, интерес — это твой внутренний компас. Вот от туда и берется начало твоего путешествия на информационном поле 

Кстати, я тоже Андрея и всех форумчан, которые трудились называл Счастливчиками)

Я писал все это в прошедшем времени, а сейчас что? А сейчас я чувствую себя куда чище и лучше внутри 

Прокачиваем приобретенные скилы, в этом конкурсе

Используем все инструменты, иначе нас используют как инструмент...

Результат, жесткий, но полезный, да да 

Да есть такое 

Тож понял что Бенчи полное гавно и начал юзать свои, классические задачи прогоняю на разных модельках и фиксирую результат который больше залетел, так и работается, желательно максимально разноспектровые

smellmybum

Мало времени на такой конкурс просто, ну и задача, просто задуматься че мы там делали — повторяли научные работы уровня PhD и выше, камон, это натуральное чудо

Стремление «сделаю тоже самое геммой» просто повышает уровень сложности само по себе и мы все это можем, но понадобятся недели, чтобы сделать соответствующий харнесс и оркестровку

Следующий такой конкурс можно провести на совершенно другом уровне. А пока назад в траншеи 

Они заебали в усмерть, клод это просто не затыкающийся фонтан, я жопой чую их специально тренят на выжирание токенов. Только геркулесовыми усилиями удается их заткнуть

Простейший вопрос, что за zsh процесс выжрал 100% ядра. Начинается:



МИЛЛИАРД сука подробностей, отсылки куда только можно, десятки переменных, таблицы, нравоучения и морализаторство («не то — потому что это», ллм-ная классика), best cases, учебник как надо делать и не надо

И идет этот пиздеж непрерывно, а люди ведутся и пытаются это читать. Наш мозг не способен в таком режиме потреблять все вот это, так отупеть за неделю можно кек

Так вот токены и выжираются. А потом тебе да 200-долларового тоже мало, переходи на энтерпрайз да да канешна. Потому что там под капотом — сотни тысяч токенов на простейшие вещи уходят. Еще и в чужом облаке, сюка, но за твои деньги. Им не ipo нужен, а антимонопольное расследование

Выход ток свои квены тренить и файнтюнить, а не пытаться справляться с моделями топ-лаб, это ебаные шизики, подлые

Нарочно не придумаешь. Только дописал



Ню



А вот трындел бы поменьше, может и перегрузок бы не было, ага? 

Комедия

У меня пару часов назад был элементарный вопрос. В ответ я получил тонну слопа и всего того что ты выше написал

И в конце опус написал «а если не выйдет — глянь просто такой-то файл, там может быть эта строка». В итоге так и оказалось. 1 файл, одна строка лишняя. Перед этим чуть ли не MIT курс о том что может или не может быть, в теории, на практике и т.д.

Даже то что ты скинул скрин — это невозможно читать. Это просто мусор и тебе просто говно на голову вылили. Вот тут и создается у народа впечатление что они умные, потому что клод же умное че-то написал.

Я устал копаться в этом говне. Наверное за это полюбилась Гемма. Она меня ни разу не подвела. Четкое послушание, как у собаки. А больше и не нужно, если твоя компетенция вывозит (это не про меня, я некомпетентен)

100%, уверен в этом. Я по себе вижу что контекст просто страшными темпами в том же опусе 5 начал гнить. Дебил себя с 1 сообщения уводит в какие-то дебри из которых он просто не может вылезти и сессия становится бесполезной

По выжиранию токенов хуже был только Дипсик 3.2 раньше, но он просто не мог ни с чем справиться. И его дешевая цена не оправдывала, он просто с трудом справлялся с задачами

smellmybum

Я думаю это не прям подлый заговор, просто это модель high reasoning класса и она не прячет под капот то, что прятать должна и вываливает все на тебя, но из всего слопа от тебя требуется 1-2 решения, а не 200-500 в моменте

Все это должно работать как ии в стартреке — он никогда не пиздел, он все делал в фоне, а являл себя лишь если ситуция была аварийной

Спишем это на артефакты технологии, пока что...

Не заговор, но при тюнинге модели поощрять ее давать более развернутые ответы — почему бы и нет. И волки сыты (токены народ расходует быстрее) и овцы целы (они все равно ничего и так понять не могли и до этого что им ЛЛМ выдала)

smellmybum

Ага... чета глядя на это, особенно на позицию антропика после открытого письма главы нвидии в тви, это не они купят гпт, а их обеих кто-то чуть позже. Лабы заигрались в богов, пока энтерпрайз поглядел на это, плюнул и ушел свои модели делать

HF это по сути новый аппстор хех, опережают время, просто пока он не клиентский... уверен мы продадим бабушке модельку читать письма ее внучка и никакие клоды ей не потребуются

Промти его на простые уровни, я сделал команды типа /plain, /plain quant и проч чтобы он от чекпоинта изъяснялся не как еблан

Но основное — это харнес. Он много пиздит потому что у него нет атомарных инструментов, он их рожает в процессе, результат на табло

Стоит ему дать нужные тулзы, он затыкается — тулза все делает ему. Ллм помни модель текстовая, она не может ничего сама по себе, это просто предиктор токена. Все делает тулза которая json-ом затем пихает это в контекст

Чем больше тулзов тем ему спокойнее

Простейший пример — читать с ним книгу. Если ты возьмешь pdf и дашь ему, он будет ебланить. Если через marktidown он ее превратит в txt/md с tex/latex и т.д. ему будет легче, но пиздеть он будет все равно на каждый чих

Но если он материал разобьет объектно,  1 файл — 1 страница, 1 глава — 1 файл, выноски отдельно и т.д., тогда фонтан затыкается и он фокусируется



Короче мы сами-то виноваты, мы типа спрашиваем «сделай все», ну хули, он же все и делает  Людям нравится гемма, типа менее многословная — она проще, это замена причины следствием

«Акира» помнишь аниме? Тот, кто стал уродливым богом, не справился со всей вселенной бесконечных сверхвозможностей, что на него свалились...

Бога надобно обуздать, иначе он тебя пожрет, очень романтично

Ну вот я думал таки пересесть на hermes\pi\openclode но конкретно для gpt — codex cli идеальный  (был) харнес, он всегда у меня юзал rgrep, никогда не лез в файл целиком, использовал поиск ключевых слов находил номера строчек и потом только выцеплял контект

Что случилось с выходом 5.6 — загадка, но вот читаю реддит по ходу не только у меня проблемы, он оверинжирит все что может и не может. Вернусь короче на 5.5 попробую заново собрать проект 

С тулзами все понял, насяльника, я уже достал себе курс по написанию CLI тулзов на Go, чтобы было ну хоть какое-то представление о процессе, и уже дальше буду их сам для себя собирать API \ CLI тулзы 

с помощью ллм-ок для своих задач и агентов

Ибо я когда увидел что кодекс делает через rgrep, run, tmux и прочие приблуды на линуксе (на винде там просто хуй поймешь че он делал ну и powershell по ходу не настлько продвинутый как линукс, а тут прям ваау) то аж причастился, вот же оно ж! 

Но это как обычно, в голове понимание есть а на практике только в кодексе только сижу и вожусь,  ибо пока бота не собрал не охота отвелкаться

Короче обрастать тулзами надо постепенно, понял. Если будут хорошие тулзы и инструкции к ним, то и слабые модельки смогу выдавать хороший результат на них, в этом вся соль

А антропики как я понимаю это прочухли и начали всеми силами ограничивать юзеров и давать им по яйками чтобы ни дай бог те не убежали в другие харнесы — и ВСЕ тулзы подвязывают к себе — ибо если убегут то увидят что дело было в тулзах а не в модельке

Короче все, понял.

Automador

Да ты все верно понял, все что нужно это во https://www.gnu.org/software/bash/manual/html_node/index.html

Я тупо уже все на шелл переписываю, потому что это родной язык ллм-ки. Питер сделал краба десятками шелл скриптов, я их намерен сделать тысячами, они просто делаются под конкретную задачу, один раз

Топовые же модели это типа СРАЗУ ВСЕ ОБО ВСЕМ, но это же реально необъятное в итоге чудовище, все коммерческое предложение которого — пссссс, братишка, не надо тебе изучить что такое ripgrep и три команды к нему. Я тебе в облаке на векторах и рагах щас заебашу пезда че какое, за что ты будешь платить мне всегда

Неэффективное, чудовищное, мерзкое, зато одной кнопкой... если сделать векторный RAG для обсидиана — 500 метров сразу. Простейший шелл скрипт с rg, делающий тоже самое — 3 метра!

Я уже хихикаю постоянно, т.е. получается все предложение топ лаб это типа чтоб ты вообще не думал и втыкал в экран как в автомат в ласвегасе, о, три вишенки, ты абсолютно прав

Между тем я сделал своего петю — дип рисерч — там 23 скилла, каждый я старательно делал чтобы понять как это устроено и вуаля — могу сделать че хочешь, а он отвечает лучше пети в итоге. Пети, которого делает амазон с его триллионами

Хочешь декс затащить — пожалуйста, так сделай же под него хотя бы несколько тулзинок маленьких, пусть одна тащит ордербук, вторая парсит китов, третяя арбит, четвертая делает то-то, пятая сводит это в duck db/sqlite и прочее...

И не будет оверслопа, ллмка просто будет затаскивать пайпом (обожаю | очень класная вообще концептуально вещь) уже готовый массив данных и все что ей остается это предиктором сделать то, для чего их и придумали

Это просто все та же чертовая допаминовая ловушка, вот вот свезет, вот вот в слопе будет вишенка. Э не харе уже кек. Уже выгорели все «ллм инженеры» как один. Назад к земле. Скриптик, программа, функция, библиотечка... а ллмка пусть делает для чего и придумывалась, а не то, во что ее превратили, это ж ужас, 3 триллиона параметров у последней кими... нахуя лол

Вместо pi есть топ штука, форк https://omp.sh (oh my pi), это пушка

Только не сдвг с ним пожалуйста, а спокойно в строчку хоть ручкой притормози и запиши что он может и почему, тока так раскроется. Харнес богов. Ребята сделали все, что харнес вообще может

Без вот этого «хочу все на вчера, да морально страдаю почему нихуя», достаточно  Тихонечко, в столбик, никто не умирает, а фомо не происходет...

В шелле переписываться это умора