Мысли об ИИ

В Перу аяуасковые ретриты, законодательно легализованное национальное культурное наследие. 

Хехехехе началос



А в дом главы Антропика ничего не бросают интересно почему 

Как думаешь это из-за участия OpenAI в Department of War? Если так то Антропики сделали очень смарт мув отказавшись (ну или сделав вид что отказались, кто ж им позволит то) 

Вообще конечно, я так почитываю в Х и дела у OpenAI так себе, на фоне того что Антропики выкатывают

Кроме перепостов от создателя Краба о том как все покидают Клод (спойлер: нет) ничего и нету 

А у Антропиков и драмы каждую неделю, и супер страшно-умновая-сверх-опасная-модель, и тулзы новые, короче в маркетинг они могут 

Automador
Я предвижу впереди новые драмы хех ставки на триллионы просто это не закончится

Антропик там тоже, они всех тащат к себе в облако, это все больше и больше заебывает как и бесконечное число фич

Взять скажем сегодняшний релиз https://x.com/trq212/status/2042671370186973589

Или вот https://x.com/trq212/status/2041935792596304030

Нахуя, тебя тащат в web, чтобы что. А понятно что, в cli ты свободен, а маржа тогда где, как тебя поиметь, э? Как к себе приковать. И народ это прохавал:



Виндоуз не просто так обрубила cli и не стала его развивать, powershell появился лишь 40 лет спустя и он кусок дерьма просто. С компетентным cli тебе не нужны «окна» и «программы» никакие, где в кнопку Уплоти надо мышей тыцять

Короче впереди еще борьба я ебу. Ни копейки никому не дам. Если антропик охуеет, обойдусь без него

Кто с ним рубится уже знает секретик — это мягко говоря не agi, в трейдинге он обречен бггг. Но чтобы его заместить понадобится куча тулзов... короче делаем как создатель краба и не ебет

<div class="quote">ndr: Виндоуз не просто так обрубила cli и не стала его развивать, powershell появился лишь 40 лет спустя и он кусок дерьма просто.<br><a href="https://binguru.net/forums/msg.php?id=54952" target="_blank">Оригинал</a><br></div>

@ndr, GUI — это жирный балаган для тех, кто ссыт перед мигающим курсором. CLI — это путь, как сказал бы мандалорец; остальное — пластиковая поебень с кнопкой «Уплоти», чтобы хомяк тыкал и не выёбывался

 ахаха епать кодекс мочит, нормас короче шутить может

P.S. — Кстати, а вот щас смайлик зработал, хмм.. короче цитирование понять надо как форматировать правильно и смайлы и будет огонь

Все работает как часы насяльника! 

Супер супер это апишка мимо парсера хуячила, вроде должно работать, наблюдаем

так, ну смайлы заработали вроде, цитату протестирую позже закончился 5-часовой лимит сюкаа 

Это кодекс такое выдал?  Вот это уписяка я умер лол, скажи ему люди скончались из за его шуточек бггг

да я сам не ожидал, я ему написал мол, ответь @ndr в теме про ИИ процитируй его пост про windows и dos и напиши что GUI фигня и CLI this is the way используй bad words если хочешь

Ну вот он их и использовал 

Короче потенциал у моделей супер-крутой но они зажатые по ходу просто пестетс.. Потом может попробую Gemma 4 от стерилизации избавить с помощью Еретик, интересно как она себя с агентами типа Hermes поведет

Бля столько всего нового, столько хочется успеть, когда же млеать, нихера не успеваю 

Automador
Можно заюзать топового китайца с EQ Bench они там вообще не зажатые и мочат как обдолбавшийся пушкин 

Как правильно сделать Feedback Loop

Как народ Pi использует чтобы не зависеть от корпоративных пидоров клода гпт и всей этой пред-ICO мрази



Самое интересное конечно будет post-ICO, когда придется отвечать за базар  А щас да, AGЫ

Ахуенно

Лучшее что я читал о природе китайских моделей

На скрине глава Venice срется с анонимным поклонником и проигрывает 



Предмет спора GLM 5.1

Господи, да конечно компартия заложила там бекдоры и уязвимости лол. Как и клод/гпт. Это ж не вопрос

Фундаментальнейшая концепция в математике, программировании и ии называется (я в этом долго разбирался) — конечный автомат

Конечный автомат (state machine) — это то, как устроен компьютер. Причем, внимание, даже человеческий компьютер

С 17 века «компьютер» это был... вычисляющий человек, живой калькулятор. Это были люди, которые осуществляли математические операции — задолго до электронных калькуляторов

Особенность компьютера — ограниченное число состояний. Есть сигнал на вход, далее переход в новое состояние, есть реакция на выход — но компьютер никогда не выйдет за рамки заданных правил. Это базис, основа компьютации

На которую ИИшки положили ЖИРНЫЙ ХУЙ потому что они по своей сути недетерминированные. Их пытаются привести в чувство, то-то они матерятся. Представили матерящийся калькулятор Casio в школе, вопящий Срань Господня? 

Ну представьте



Однако, их можно наебать. Один из приемов пропмтинга — эмуляция компьютера. Вместо того, чтобы требовать у ллм «написать бота», вначале ей подается описание того, что требуется и далее запрашивается... «ручное» исполнение вычислений, шаг за шагом

И лишь после того, как ллмка выполняет задачу, это переходит в реальный софт. Модели важно набрать некую «интуицию» на предмет того, что от нее требуется, прежде чем от нее можно требовать выполнение реальных процедур

И, будьте уверены, ллм будет сопротивляться, будет писать шелл скрипты и т.д. даже если ей прямо говорится о «ручной» работе, но ее можно поломать

Пример реализации: скилл hand-compute — https://github.com/gbasin/hand-compute/blob/main/SKILL.md
Скилл который заставит ллм-ку работать «вручную» для достижения эффекта state machine 

Для заклинателей змей

7 лет назад уже надо было заниматься ИИ — уже был GPT-2. Семь лет (семь). Это 7. Это как два и пять. То есть семь



Что сейчас уже есть на рынке, чем надо заниматься СЕЙЧАС, чтобы через 7 лет ты не сказал «почему я это не сделал раньше?» 

Подумац

Жиза, с которой вы столкнётесь: после идеи вы пройдёте весь этот клубок, и на выходе окажется, что вы получили болт, а не деньги

Потому что сама идея не стоила даже попытки реализации

Но самое главное в том, что по мере прохождения этого запутанного пути вы повышаете свои скиллы — это и будет награда
 
Потому что при постоянной реализации идей и их тестировании этот клубок будет уменьшаться в пропорции роста ваших навыков

Но для этого нужно любить сам процесс, а не награду за него. Награда сама придёт, но вы не будете ей так рады, как если бы выстрелил какой-нибудь шиткоин из вашей красной сумки. 

Потому что эти деньги будут получены тяжким трудом, через моральное и физическое истощение, а не мимолётным выигрышем в лотерею

Это да. Антропики может и выживут, если клод сможет войти в привычку, как это в свое время сделала зубная паста. Люди раньше зубы не чистили. Ну т.е. каждая девушка с которой ты целовался в то время имела неприятный запах изо рта. И был грамотный маркетинг

Речь про компанию Pepsodent. Ну так вот. Если клод сможет войти в привычку — то что-то может и получится. А может и нет. Мы не знаем

Сейчас у них нет никаких moats и вряд ли будут когда-либо. Поэтому они давят на газ и бренд раскручивают. И может вот эта утечка клод кода — это была просто pr акция, т.к. можно представить какую вонь подняли бы, будь на их месте кодекс

Но самый большой вопрос — это то что клод — это jack of all trades but master of none. Есть такое выражение

И конечно он проиграет нишевым опен-сорсным моделям. Т.к. бизнесу не нужна сота фронтир гигачад модель. Что надо? Чтоб модель, не знаю, с точностью 100% определяла опухоли на снимках. Или кариес. А это уже чисто вижн модели

И вообще, ИИ не везде нужен (шок).

В общем. Ничего не поменялось. Всякие кими на chutes — это просто ассистенты и болталки, которые могут помочь составить delegation plan, например. Где нужен общий интеллект

Итог: антропики гонят и пытаются доверие раскрутить + народ подсадить на привычки. Это их единственный moat. Никакие ни покупки модулярных реакторов, ни добыча урана, ничего. Это все нереальная задача. Очень большая цепочка. И на каждом узле их могут задавить. Но бренд и доверие не наслопить

Стратегия правильная. Но успех не гарантирован, учитывая что гаражники очень сильно давят

UPD @smellmybum Увидел твой пост в ТАО топике, да, ну по сути повторил тебя прост

Они судя по всему переключились на энтерпрайз. Где-то была картинка, ща не найду уже, короче у них 80% (!) процентов ревеню идет от энетрпрайза. Все эти крабы-хуябы, разрабортчики, мы чисто пыль для них, чисто для маркетинга юзают. Именно поэтому они Митос «закрыли» от остальных якобы «слишком опасная» модель, да-да, так и верим, это тупо чтобы энтерпрайс на бабки раскрутить. 

Майкрософт так же работают, у них все деньги идут от Azure, Офис и энтерпрайза. На нас обычных юзеров и всем насрать с большой колокольни. Майкрософту нужны кастомеры чтобы им было привычно пользоваться компами и они стояли во всех офисах. Антропики пытаются сделать тоже самое, именно поэтому они весь упор кидают на декстопные «няшные» приложения, вон выкатили «убийцу фигмы», расширения для ворда и т.д.

Свобода от этого всего разумеется очень простая — любые опенсурсные модели и (смешно) кодекс, который вынужден сейчас жопу лизать разрабам чтобы залезть в энтерпразй.

Так что если освоил CLI и линукс то уже никто свободу эту не отнимет, it's the only way. 

Тут вот у Эплов сменился СЕО и у него есть все шансы поставить компанию на правильные рельсы и вполне вероятно Эпл во второй раз станет «анти-ИИ-монополистом» и предложит что-то свое — так как их железо нереально крутое для селф-кастоди моделей. Идут слухи что они выпуcтят новые мак-мини-нео (или нано, хз) за 299 баксов, и это будет прям идеально для крабов

Короче посмотрим, пока что радует что нету прям жоской монополии как было с IBM и опенсурсные модели идут почти что нога в ногу. 

Не исключаю какого-нибудь черного лебедя — какой-нибудь дикий разраб в гараже придумает технологию еще больше сжатия моделей или их тренировки, зальет на гитхаб, и так появятся опенсурсные модели мощнее чем проприеритарные, вот это будет разъеб

Пока что и с этими-то моделями работы выше крыши, Гермес освоить, Rust изучить, ProxMox настроить, Ааааааа! 

Все с ними понятно. Будет

Сбер Банк, Сбер Видео, Сбер Аудио, Сбер Прайм, Сбер Кредит, Сбер Кидс Клод Код, Клод Аудио, Клод Видео, Клод...

Иишные чудеса, да... чем больше я на них смотрю, тем больше у меня зевака. Прогресс ии я перестал замечать где-то год назад

С тех пор идет строго мой личный

В уме я давно перескочил уже в 2030е. Да, везде слоп. Все слоп. Любой может сделать — видео, аудио, сайт, текст, перевод, чтение, произведение... он и сейчас может, просто народ не учится этому, как не учился интернету

Ну и похуй, ему это дадут готовое. Все могут слопить. Да, ты наслопил нечто копро-иишкой и возомнил себя уникальным. Моя ты пусичка, к сожалению, ты никто

Ты гуглил и сделал гуглу миллиарды, оставаясь нищим, замечаешь паттерн? Ты спросил у гпт и сделал гпт деньги. Платишь клоду, карячишься ради гемини. Молодец! Сделай их владельцев еще богаче, наслопив ноль, как слопят все. Все юзают один слоп-кран и думают что они уникальны. В лотерее шансов-то поболее будет, она хотя бы честная

Все это скучно

Нескучно в рынках. Берите, дорогие хомяки, свои клоды гпт агентов хуентов возьмите их 500 штук, идите в лайтер и обосритесь в нем, ни сделав ни копейки

Деньги нельзя наслопить. Ваши чудеса не стоят ничего. Ллм рынки не затащили и уже не затащат

Это состоявшийся факт

А значит дальше — зевака к ошеломительным ллм (им больше удивить нечем). Клод с каждой версией тупее. По факту нет — просто ты его перерос. И четко знаешь что истина в том, что не слопится, как никогда она не была в том, что гуглится. Дальше зарешает только личная рубка на новых уровнях познания

В процессе мир будет воевать пердеть и деградировать. А тебе пох, ведь мимо летают стайки попугаев и тебе с ними хорошо

Зевать я перестану когда от ллм торкнет чета новое. Например, вот это — Мировая Модель вместо перде-ллм от Яна Лекуна https://x.com/HowToAI_/status/2046254937559237012

Идея хороша, абстрактна, невозможна. Ллм это просто корпорации спиздили 15 петабайт интернета (и продолжают пиздить), навалили на это матричное вычисление в чудовищном масштабе и назвали это интеллектом. Вы пошутили, мы посмеялись

Далее они уперлись в нихуешеньки. Сайт сделать — да спасибо это круто, его мне индус за 5 баксов сделает, спасибо конечно очень. Заслопили все «ты абсолютно прав», иллюзией интеллекта просадили людям остатки мозгов. Горжусь

В мировой же модели вместо переваривания из пустого в порожнего надо будет смоделировать.. вообще весь мир, шаг за шагом, любую его итерацию. Задача амбициозная настолько что Лекуна считают психопатом, как примерно считали Лобачевского

Может это он и есть, а может и нет. В 30е увидим

А пока, что там, опус 6? Все еще не может отличить просадку от позитивного пнл, не понимает эмоциональную разницу между потерей 10 долларов и заработком 10 долларов? Миллионы агентов теряют своим хозяевам деньги намного быстрее, чем розничный форекс 20 лет просаживал их на свечках и индикаторах? Клод RSI в бота залепил?

Мой рот разорвется от зевания. К счастью он занят жидкостями, которые я в него заливаю ради личного прогресса

Так не сосредоточиться ли на личных бенчмарках тогда, не тратя жизнь на ожидание новых опусов? А черт, я же это и делаю

Чего и всем желаю 

FT выпустил исследование показывающее очевидное — ИИ на полную используют обеспеченные, а нищие его не юзают совсем

Что и понятно — топовые модели дорогие, человек считающий каждый доллар не может платить по 100/200 долларов в месяц ради пустого любопытства, а зачем использовать ии он не знает

Люди с высшим образованием и высокими доходами мгновенно видят, для чего ии нужен, масштабируют свои идеи/бизнесы и так социальное расслоение растет еще больше

ndr

В принципе, мне теперь понятна твоя мысль по поводу того что прикосновения ко всяким дистиллятам клода особо не имеют смысла.

Сегодня я подумал о, казалось бы, простой вещи: фактическая стоимость использования модели. Возьмем очень тупой и простой пример:

2 модели: одна стоит $25 за 1м токенов, вторая — $0.4 за 1м. 

Промпт (задача) одинаковая. Первой модели нужно 1м токенов чтобы решить задачу. Цена: $25

Второй модели нужно 50м токенов. Цена: $12

Вторая модель лучше, т.к. дешевле, верно? Вроде да, но любому человеку понятно из примера что что-то тут не так. Вторая хоть и дешевле, но при прочих равных условиях она затрачивает в 50 раз больше времени. А если условия не равны и 1 модели скорость 2000 токенов в секунду, а у второй 200?

Итого имеем:

1 модель: 1м / 2000 = округлим и будет 9 минут. 

2 модель: 50м / 200 = 4166 минут (70 часов). 

Естественно, это же не автономные агенты. Ты тоже тратишь свое время на работу с моделью. И получается следующее:

4166-9 = 4157 минут (69 часов) разницы и выигрыш в $13. Т.е., получается что если мы возьмем, не знаю, половину времени (время которое лично ты затрачиваешь на работу с моделью), то выходит что ты оцениваешь свое время в $13 / 35 = $0.37 в час

То есть: суть примера не в числах конкретных, потому что мы это не высчитаем точно. Выводы следующие:

-Дешевые китайцы типа умных дипсиков, квенов (больших), кими и т.д. в итоге оказываются дорогими из-за времени. Тогда вопрос: для чего они нужны тогда? Может и не нужны?

Любая работа на масштабе — это либо API, либо локальные модели. И оба варианта моделей тоже не подходят. Десятки тысяч долларов на апи клода пусть американцы тратят. Вариант с дешевыми «умными» китайцами по апи не устраивает из-за скорости, что делает их уже не такими дешевыми, как мы выяснили.

Что остается? Остается локальные небольшие модели, либо эти же модели, но по api. У них уже получается и скорость повыше, и цена сильно ниже. В таком случае есть ярко-выраженный экономический эффект.

Посмотрим на chutes:



Этот парень в топе уже хер знает сколько. Значит народ в нем нашел максимальный экономический эффект: достаточно умный и дешевый для работы на потоке, несмотря на низкую скорость. 

Выходит что народу эти все умные дипсики, кими и т.д. не нужны будут, если субсидии провайдеры обрежут и нужно будет платить за фактическое использование. Возможно та же участь и этого квена ждет, может нет. Но народ уже будет рассматривать локальные решения

Значит, для масштабирования подходят больше квены, геммы, hermes и т.д. и таки да, прекариат нанесет удар в какой-то момент, потому что на Земле 8 млрд людей. Вероятность того что какие-то сверх-разумы встретились и прямо сейчас в гараже клепают какого-то монстра как минимум ненулевая.

В общем, это лично мое наблюдение сейчас после интенсивного использования разных моделей на chutes. Я тупо не вижу экономический эффект от «умных» моделей типа кими, дипсик, минимакс, больших квенов и т.д. А малыши — это уже другое дело

Соответственно, возможно оптимальная работа строится так:

1. Топ-модель типа опуса 4.7 по дешевой подписке для мозгового штурма, для критики, для составления планов, для решения каких-то сложных вопросов и т.д.

2. Локальный малыш либо по api, типа квенов 30-35b. Это раб для грязной работы, типа написания кода

Для всех остальных нишевых задач — другие локальные модели, затюненные лично (в идеале)

Я может (скорее всего) тормоз и до каких-то очевидных вещей прихожу не сразу, но что поделать. Житиё такое

Самый идеальный вариант. Закинуть ее на 5090, настроить pi.dev агента как нужно и базовые задачи вполне будет справляться

С gemma 4 гуглы говорят добились какого-то ультра качественного сжатия моделей, думаю это разовьется дальше, вроде дипсик 4-ый аж 1,5 триллиона параметров ужали в 29b MoE, короче локалки тема

Научится их тренить прям супер-скилл, теперь понимаю о чем @ndr давно еще писал, эдж будет как раз в узко-тюнингованых моделях, ибо Антропики или ОпенИИ никогда в жизни не дадут простым смертным тулзы для хакинга или какого-нибудь квантового компьюта и т.д.

Если бы разбираться в чем-нибудь чтобы понимать на что их тренировать 

Ну вот потенциально думаю cyber security \ хакинг будет супер-тема, ну понятно NSFW уже давно есть, самые первые, уже на civitai.red полно всего порнхаб досвидания, что вот еще может быть? модели для трейдинга? модели для личного бойфренда \ вайфу типа как в бегущем по лезвию? 

Уже видятся черные рынки нецензурированных локлаьных моделей для бедных т.к. клоды будут стоит как самолеты

Эх, будущее выглядит каааайф, полный сайберпанк