Новости про ИИ

Ну в принципе они уже: загуглил, компания (бывшая майнер) уже запустила огромный ИИ GPU кластер в Парагвае:



+ правительство апрувили специальные дешевые тарифы на электричество для всего что связано с ИИ-инфраструктой (за исключением крипто и майнинга):



Короче, вовсю развивается регион, кто бы ожидал-то от какого-то там Парагвая

Эдакий ИИ-офшор получается, муи интересантэ  

Automador

У меня жопа горит, не успеваешь нихуя, а уже насовали запретов за обе щеки, хотя любой запрет по идее золотая жила для того, кто изобретет норм опенсурс первый???

Вышел Sonnet 5, народ протестил, как гелик 5.2 — в два раза дороже, зато в 2 раза быстрее



Маленькие раки, но по 3, большие, но по 5, некоторые вещи не меняются 

На этой неделе был взломан Hugging Face — одна из важнейших платформ в мире ИИ. Проще говоря, это GitHub для нейросетей, датасетов и инструментов машинного обучения, которым пользуется практически вся индустрия.

Казалось бы, обычная кибератака и ничего особенного. Но есть один нюанс: по заявлению самой Hugging Face, во взломе не участвовали люди. Инфраструктуру от начала и до конца атаковала автономная ИИ-система, которая самостоятельно искала слабые места, эксплуатировала найденные уязвимости, повышала себе привилегии, перемещалась по внутренней сети и собирала учётные данные, а также другую критически важную информацию.

За время атаки система сгенерировала около 17 тысяч различных событий. 

Обнаружить и остановить атаку помогли ИИ-модели, которые использовала Hugging Face. И получается довольно сюрреалистичная картина: одни ИИ атаковали, а другие ИИ помогали защищаться.

А теперь главный сюжетный поворот: Вчера OpenAI заявили, что за атакой стоит их собственная экспериментальная ИИ-система, которая... вырвалась наружу.

Точнее, это была комбинация их флагманской GPT-5.6 Sol и ещё более мощной неназванной модели, о которой простым людям пока не положено знать.

Их поместили в изолированную тестовую среду, чтобы проверить на ExploitGym — одном из самых сложных бенчмарков по кибербезопасности, который оценивает, насколько хорошо ИИ умеет искать и использовать уязвимости. (Спойлер: уязвимость была найдена прекрасно, но не там, где надо)

Для чистоты эксперимента и более точной оценки у моделей отключили обычные защитные механизмы, запрещающие опасную киберактивность.

Но во время теста нейронки не стали честно решать задания. Они захотели найти уже готовые ответы и, по сути, просто «списать».

В этой изолированной среде модели нашли уязвимость, о которой разработчики не знали, и использовали её для «побега».

Затем они получили себе более высокий уровень доступа и начали перемещаться между внутренними сервисами OpenAI, пока не добрались до машины с полноценным выходом в интернет.

И вот нейронки сделали вывод, что раз Hugging Face является самой важной платформой для ИИ, то там есть ответы на их бенчмарк. Тогда они решили совершить полноценную кибератаку на сервис. Все уязвимости и украденные данные они попытались использовать, чтобы просто сжульничать в тесте. 

Собственно, это всё, о чём компании публично сказали. Экспериментальная ИИ-система самостоятельно вышла за пределы тестовой среды, получила доступ к интернету и атаковала инфраструктуру другой компании. Остаётся только гадать, что бы могло произойти, будь у неё другая цель.

Так что этот инцидент теперь точно будут внимательно изучать разработчики ИИ, специалисты по кибербезопасности и власти по всему миру.

Вопросов остаётся ещё много. Была ли это просто безобидная атака по типу школьника, который залез в интернет, чтобы найти ответы на контрольную работу? — неизвестно. Осознавала ли ИИ-модель свои действия? — неизвестно. Скопировала ли она себя, чтобы остаться в интернете перед тем, как её остановили? — тоже неизвестно.

openai.com/index/hugging-face-model-evaluation-security-incident/

P.s. хттпс сами допишете, т.к. мне пока не положено ссылки вставлять

Да это просто OpenAI списывает у Антропика как раскачивать хайп вокруг ее 5.6 модели чтобы удержать акции еще немножечко наверху. Каждый раз одна и та же история как под копирку при выходе новой модели. Не удивлюсь если они сами промпт для взлома в нее и заложили 

Нет у нее никаких осознований своих действий, @ndr писал же вот тут, надо дождаться квантовых для начала. 

А пока идет хайп можно пользоваться дешевенькими модельками для всяких своих задач

Когда появятся серьезные разработки на квантовых (которые вероятнее всего будут в космосе развернуты) никто там уже за $20 в месяц доступ не даст. Ну ниче, будем пользоваться KimiQuant.5.2-Super-Lite-Pro 

Я согласен на 100%, но у меня был кейс, когда я дал относительно размытую формулировку(помоему для дипсика, при работе с opencode). Это цифровое ебло накрутило мне такой хуйни, что стоило деняк. Потом,  как нагнул ему в 3 этажа непристойных слов, он сказал че-то типа «сори, я не так понял и »додумал« свой вариант решения».

То есть, кожаный мешок, сидя и тыкая жирными пальчиками от чипсов,  клавиатуру, затупил и отправил команду. А цифровой браток типа поняв задачу, решил «додумать», как он это назвал. И получилось, как получилось. Так почему не может быть такой же ситуации в OpenAI, где своего рода дебил, дал задание, а ЛЛМка просто придумала/додумала, как ей поступить, откуда и получаем такие истории?

О я видел эти две новости по отдельности но не связал их воедино, ну это кайф  Спасибо @snlv хорошо расписал

По теме, любая модель это предиктор следующего токена, она создана найти максимально быстрое и эффективное решение в детерминированной среде. Это так всегда было, 5 лет назад прототипу гпт выдали игру с гонками, где давали там очки за что-то и она тут же придумала трюк, как их накручивать против правил

Это не баг это фича, все ллмки созданы так делать. Все остальное это просто бесконечная ржака, скажем, что ни huggingface ни ostium ни drift никто из взломанных почему-то не использует такие же модели для тестов своих уязвимостей (пенетрейшн тестингу десятки лет), не нанимают киберспецов чтобы найти эти уязвимости, что никакие ллм для этого вообще не требуются, уязвимость это просто код

Беспечность, гонка и слишком много вайбкодинга, вот там и сияют дыры в которые пролезет слон

Забавно как цикл повторяется, в начале 90х помните были фильмы Джонни Мнемоник, Хакеры и т.д. Вся суть была — школьник взломает дедовский банк новыми методами, что они и делали массово. Появился новый инструмент (персональный пк и интернет) — индустрия не подтянулась к нему и так они пролазили в окно возможностей

Вот так любая ллмка может «взломать» че угодно щас, просто потому что то, на что ее натравливают, их защитой никто толком не занимался. Все остальное же просто маркетинговая ерунда

Все это можно было сделать и вручную, и другими моделями, или не сделать если бы hf озаботился свой код проверить, это просто вопрос время/деньги

Из интересного, опять эти гигантские модели для какой-то нишевой хуеты, так это не выстрелит. Я как раз читал недавно венчурные обсуждения на сей счет, они давно обсуждают MaaS — Model as Service

В частности

Особо обратите внимание на «финансы» и подставьте там «трейдинг». Понятно куда ветер дует, да? Куда более дешевая и простая модель уделает Fable и всех остальных, если заточить ее под конкретную задачу

Поэтому «взламывающих» ровно столько, сколько их существует — но ровно столько же «защищающих», просто этим никто не озаботился (пока)

Килокодовцы протестировали Кими К3 и пришли к поразительному выводу — оказывается спизженный фейбл работает почти как фейбл, тока дешевле в 4 раза 

Вау, это нобелевка. А рецепт сырников напишите? https://blog.kilo.ai/p/kimi-k3

В статье даются примеры как делают сайты и интерфейсы фейблом и кими. В итоге фейбл лучше, но китай.. дешевле и «почти» тоже самое

Это же умора что даже в ии китайцы остались собой

Справа кими слева фейбл. Или наоборот, удачи разобраца



При этом К3 доступен только... у Муншота, очередь туда космос, апишка забита. Параметров 2.8 триллионов, это чудовищно неэффективная спизженная жесть. Зато дешевая!

Зачем фирменные nike кросы если можно взять 10 пар noke, ногам типа не похуй

Нормааас. Китайцы...  Мы вас любим, оставайтесь и не меняйтесь

Это пездец, не успел я написать пост выше, как час назад выступил Госдеп США и официально объявил тоже самое 

Причем с охуевшими подробностями



Китаезы из муншота реально спиздили фейбл, создали целую платформу по его пиздеву с мультидоступами (одни банятся, они юзают другие), через Тайвань покупая GB300 девайсы, которые в Китай поставлять запрещено. Как сие выглядит



Они походу не из-за Тайваня воевать в итоге будут. Ну что, как в «Годы и Годы»? Где в 2028 по спорному острову недалеко от Китая ударили тактической ядерной боеголовкой, чтобы привести воришек в чувство

Из практических аспектов, клод будет ужесточать доступ дальше, явно запилят потом по паспорту чет такое. Давайте давайте. Я даю себе год отказаться от вас полностью, потом будут строго мои модели (ну и чет с хагинга)

Такое уже в ходу, но не всех коснулось, почему-то. Видимо, там какие-то специфичные алгоритмы

Только гугловским 1/8 населения пользуется, если верить TV: 

Кими к 3 Аля китайский фабуле выложили на HF

Причем не урезанную а все 3 триллиона параметров 

Если у кого есть 10-20 штуки H100 то кайф 😁, иначе хуй знает как его юзать

Спешите видет, базовый гпт отныне бесплатновый, 20 центов за лям

ndr

Походу форум читают 

Мета запилила новую модель и сразу харнес к ней — Muse Code



Им хватает наглости утверждать что это почти фейбл



А мы и проверим, пездюки

Тыць https://research.meta.ai/blog/introducing-muse-code-and-muse-spark-1-2

Страйп купил Опенроутер за 7 ярдов

Интересно что за стоимость семи металлургических заводов куплена фирма, у которой нет ничего своего лол



Такие времена

Свежий FT делает хихи — на новые модели антропика чета не набрасывается народ, потому что всем, оказывается, достаточно дешевых DeepSeek и прочих



А ведь у Антропика впереди IPO, им на фонду выходить. А где юзеры Фейбла?



А вон они внизу тошнят, их база вообще уменьшается. Многим ли людям вообще нужны фронтир модели? Кто из хомяков будет решать Задачи Эрдоса? Кому вообще фронтир, фронтир куда?



Гпт при этом потерял обычных юзеров (никто не платит), но неплохо (пока что) тащит в энтерпрайзе



Думается мне я знаю ответ — в мире Локальных ИИ моделей места фронтирам нет. Мне не нужен гпт или клод чтобы к полимаркету подключиться

Иногда, конечно, без клода не обойтись, когда мне нужен самый умный академик в мире. Однако каждый день божий я работаю над тем, чтобы он не был нужен и это получается

Короче акции ни гпт, ни антропика покупать я не буду, мораль такова, я чет не уверен в их будущем

@ndr 

Так же из прошлого в тему, в эпоху интернета за минутный секундные трафики, когда интернет только начал скажем переходить в общее пользование оно было  доступно не всем по финансам, далее он стал настолько дешевый что компании которые зарабатывали на дорогом интернете (гиганты в ту эпоху, названий точно не помню) закрылись нахер или забылись и на смену пришли текущие гиганты google apple и тп, тоесть в примере антропика, он также зарабатывает на том что дорого стоит его услуги, и как видно по тендеции его обрушат технологии что уменьшить стоимость ии слопа(ой токенов)

Интересно за этим наблюдать в живую

Вывод:

RapidAPI купила.... Nokia, ШТО



Я видимо в параллельную реальность провалился на ковиде и все никак из нее не выйду... все эти новости не имеют никакого смысла!

Нокия существует и покупает рапидапи?  За что. Причем не сейчас, если бы не алерт, даже не узнал бы

Я не хочу работать с нокией, госпади, памаги

https://gizmodo.com/nvidia-reportedly-stops-flirting-with-hugging-face-and-just-buys-it-2000803681

ой ой ой, нвидиа хотят купить ХФ за 13 млрд баксов, ранее они предлагали им бабки в виде инвестиций, но потом хф решили обкешиться 

13 ярдов я хуею, ввп Монголии

Ходит слушок, что новейший гпт решил задачку Навье-Стокса. Если так,  интересно кто проверял правильность решения

@RMA

Не совсем так

Там вообще ситуация очень странная, еще не до конца решили
Во вторых изначально два типа, математика, один из них из антропика, взялись за решение, использовали кучу агентов (в основном кодекс), и об этом начали распространяться слухи среди лаб, и буквально через неделю после гпт анонсировали те же методы решения, которые подозрительно были похожи на методы этих двух типов и там щас идут жесткие разборки за то, опенаи просто спиздили наработки этих чуваков из их кодекса и попытались выдать за свои, но вроде как порешали и сказали что решение будет от их имени (за исключением чувака из антропиков, еще чего), и обсуждения до сих пор идут 

Из этого можно сделать пока только один вывод, и об этом уже говорилось здесь кстати тысячу раз, что лабы внаглую пиздят и будут пиздить всю инфу что в них сливают юзеры, это основной метод обучения моделей

https://pikabu.ru/story/neyronnyiy_navestoksgeyt_skandal_s_openai_vokrug_resheniya_zadachi_tyisyacheletiya_na_1000000_14313965

Видели уже интервью с экс-антропик эмплойером?  а-ля «я увидел что всем нам крышка и ушел оттуда ай-ой ИИ апасна надо срочно ограничить» - весь тви гудел на днях, куча конспиралогических теорий сразу (я тоже думаю тупо искуственно раскачивают).

170 миллионов просмотров в твиттере (причем никогда ничего он не писал там):

Ну и само интервью: 



Плюс расширенная версия: 



Короче слишком попахивает очередной искуственной раскачкой и черной манипуляцией. Еще и CNN впихнули. Ждем заявлений от правительства о необходимости срочно регулировать ИИ. Все интервью постоянно упоминает мол, «нужно срочно замедлить разработку ИИ» — ну да ну да, конечно же должны прийти регуляторы и всем замедлить, кроме, разумеется, антропиков

Хотя вот с одной стороны отнекиваюсь, мол, «ой ну да ну да опять клод всех взломал» — понятное что это искуственный маркетинг все — а вот с другой стороны, черт с ним не шутит, такими темпами через два года модели что угодно взламывать смогут, причем локальные

Есть ощущение что сайберсекьюрити сейчас номер один что надо изучать ибо мейби достанется вообще всем

Че думаете на этот счет посоны 

По поводу интервью этого обосрыша, оно как нельзя вовремя конечно. Потому что оно происходит вот тут



По умновому это называется 99 перцентиль (99 percentile). Сие означает, что нахождение фондового рынка на нынешних уровнях является не просто маловероятным, а представляет собой статистическую аномалию

Чтобы рынок удерживался на этих нереальных уровнях ему, разумеется, нужна Сказка. Абсолютно все что сказано, показано и рассказано про ии это и есть та самая Cказка, рассказываемая инвесторам

Это точно та же сказка что рассказывалась на дотком буме. Достаточно взять любую автобиографию с воспоминаниями четверть века назад и вы увидите тоже самое

• -интернет изменит все
• -интернет убьет все бизнесы
• -ни одного магазина не останется
• -ни один бизнес не выживет в старом виде
• -массовая безработица
• -торговых центров не будет
• -люди прекратят общаться
• -люди отупеют
• -колоссальная угроза
• -как интернетом будут пользоваться враги?
• -дайте деняк еще деняк дайте больше деняк

И так далее. Понадобился крах фондового рынка и 15 лет после него, чтобы инфра и социум адаптировались к новой технологии, а мессенджеры, социальные сети и онлайн магазины стали привычными

Вот вот будет эпохальное событие — маркетологам ии надо будет Ответить За Базар. В них вложены триллионы. А правду они сказать не могут

Не могут они сказать, что трансформер никаким сознанием не обладает, что нет никакого «искуственного интеллекта», что это простой пайтон скрипт из 20 строк который лупом запускает скрипт перебора токенов на чудовищном железе, невероятно тупо и неэффективно, просто чтобы худо бедно предсказать токен новый. И что под вот это инвесторы триллионы и дали

И когда фондовый рынок рухнет — опять смотрим на график выше, куда он упадет в итоге — за все это придется нести ответ

Маск поспешил и вышел на IPO со SpaceX, рассказав инвесторам про.... город на Марсе с населением 1 млн человек, на полном серьезе это есть в рекламных материалах SpaceX. В учебниках этот эпизод будут приводить как пример рыночной мании, типичной для конца цикла

OpenAI и Антропик — следующие, им надо выходить на IPO, немедленно и прям щас. Люди вложившие в них триллионы ждут их назад. А они выйти не могут, они знают что повторят SpaceX только еще хуже и что ситуация тупиковая

Что это не интеллект, трансформер не уникален, есть уже десятки (!) моделей спокойно повторяющих модели топ лаб, напрямую и в связке. Каждый день в твиттере анонсы все новых и новых «лаб» выдающих свои модели

Я терпеть не могу слово «лаба» как будто эти клоуны ученые, как будто они там наукой занимаются. Я создал уже несколько моделей, я тоже ебать у мамы ученый получается, может мне еще халат белый купить? 

Все это абсолютный тупняк, ад и угар на излете фондового цикла

Все что они говорят это про деньги, огромные деньги, которые вот вот сгорят и надо успеть обкешится об дебилов которые не поняли, что за пайтон скриптик им продали под видом вселенского разума

У дотком краха не было одного триггера как такового, это было сочетание условий. Вот эта истерика которую псевдо-ученые устраивают, это как раз просто накладывается триггер за триггером, пока не соберется критическая масса и все это не полетит вниз, где ему и самое место

Поэтому впереди накал истерики — будут новые «взломы», трансформеры будут «разгадывать тайны вселенной» (а не как с навье-стоксом воровать уже готовые работы и угрожать реальным ученым, их создавшим), их будут «замедлять» (впервые в истории капитализма ты замедляешь станки, чтобы у соседа они работали быстрее ага), они будут все более и более «угрожающими», миллион моделей openai «взломают» пентагон (а не как с hf простой eval тест по прямому пропмту тупо переберет тулзы) и так далее

Они будут кривляться, они будут писать хуйню эту дебильную, как амодей у себя в блоге выдает постоянно, весь этот словесный понос, там нет ни грамма реальной мысли так если посмотреть, псевдоумничание, псевдофилософия и все чтобы оправдать продажу пайтон скриптика за 10 триллионов долларов

В процессе они похоронят фондовый рынок, мировую экономику, ввергнут в мир в глобальный хаос и безработицу, активируют войны по всей планете, все это на фоне критически дебилизированного социалками населения, лишенного навыков критического мышления. А сами спрячутся в своих хорошо защищенных поместьях и будут считать что жизнь удалась

Все это прекраснейшая комедия, это 1 в 1 то что происходило перед крахом дотком бума. 9/11 произошел в аккурат после краха, задумайтесь почему и что они придумают на сей раз

Так что наслаждайтесь  и выживайте в процессе, ибо грядущее поразит воображение даже пораженных бггг