Искусственный Интеллект: обсуждение

ndr
Спасибо!

Очень рекомендую прочитать вот эту хорошую, компактную, но меж тем концентрированную на инфу статью, для тех кто не понимает какие риски несёт ИИ и думает, что это смешная игрушка.
Автор Иошуа Бенджио, магистр и доктор наук по информатики, математик, кибернетик....да и вообще один из «крёстных отцов» ИИ.

Перевод на русский:
https://lesswrong.ru/w/%D0%A7%D0%B0%D0%92%D0%BE_%D0%BF%D0%BE_%D0%BA%D0%B0%D1%82%D0%B0%D1%81%D1%82%D1%80%D0%BE%D1%84%D0%B8%D1%87%D0%B5%D1%81%D0%BA%D0%B8%D0%BC_%D1%80%D0%B8%D1%81%D0%BA%D0%B0%D0%BC_%D0%98%D0%98

Отдельный хайлайтик:
Но меня тревожит сценарий, где кто-то найдёт алгоритмическое улучшение, ведущее к резкому росту интеллекта при использовании доступных вычислительных мощностей и данных. Тогда интеллект систем может внезапно превзойти человеческий или существующие ИИ-системы. Когда такое произойдёт впервые, я думаю, от обладателей этой превосходящей ИИ-системы будет зависеть очень многое. Лучше, если это будут люди с высокими этическими стандартами и привычкой следовать строгим процедурам (например, решения о задачах для ИИ при тестировании должен принимать не один человек, а комитет), подобным тому, как мы обращаемся с ядерным оружием или большими объёмами радиоактивных материалов.

Сравнение ИИ с атомным оружием. Уже сейчас мы находимся в таком историческом контексте, что у нас в руках инструмент, который потенциально может быть по степени разрушительности на уровне ядерки. Давайте смешно докрутим мысль. Ты сейчас сидишь общаешься с GPT и спрашиваешь какую тебе диету лучше прописать, а на самом деле у тебя дома на компе стоит ядерка, а ты и не понимаешь челик.

Ещё пишет:
В сравнении с атомными технологиями, получить материалы и оборудование для создания мощной бомбы сложно. Ядерное оружие строго контролируется, доступ к нему крайне ограничен. Барьеры для взлома компьютеров гораздо ниже, а их защиту обеспечить сложнее. Любой может загрузить программу из интернета или использовать API, обычно без лицензирования или этической оценки.

Т.е. понятно да? Мысль которая лично мне пришла, что мы сейчас находимся в узком коридоре неадекватный лофы. В том смысле, что ситуация в рамках которой доступ к ядерному оружию есть у каждого рандомного Васька абсолютно неадекватна и умные люди это понимают. Возможно ещё не было столь масштабных прецедентов, чтобы начать вводить регуляции по всему земному шару, но скорее всего эти прецеденты будут. И тогда, на мой взгляд, та лофа, которая есть сейчас закончится. Доступ к тем невероятным технологиям, которыми мы сегодня владеем в 2 клика, будут пытаться закрывать. Есть вероятность что закроют.

В общем там очень много чего, читайте пожалуйста. Я как и вы чувствую себя глупым и совершенно не понимаю, что происходит, но давайте хотя бы понемногу своими небольшими мозгами будем стараться понимать.

Интересно болтать языковые модели вилахами по типу диалога:

— Есть есть
— Есть есть

Смысл понятовее станет, если допустить, что первое — это вопрос; второе — ответ.

Заниматься чтением становится снова интересно. Мозг начинает думать, цепляться за смыслы и т. д. Сразу становится видно гениев, которые ведут тебя скриптом к нужному им результату. Этих сразу в мусор.

Хуманские языки со строгим синтаксисом идут лесом, как легко просчитываемые. Да здравствует Русский язык. Мальчики и девочки, обратите на это внимание. Ну и на некоторые языки тоже.

Удачи!

Кроме этого, становятся вновь актуальны некоторые субязыки и сленги. Например:

Hаxyй xyйню нaxyячил — рaсxyячивaй нaxyй

Поэтому особо грамотные идут лесом, вместе с Т9 и подобными штуками, делающими текст легко понятным для машинной обработки.

Можно почитать книжонку, типа: «Пиши и сокращай» и понять, как из текста выкидывают всë «лишнее», в том числе мешающее машинной обработке. Пришло время «неграмотного» письма! Хе-хе. Больше слов для связки, больше сленга, междометий и т. д. Несе дасавасай сдеселасать исиз сесебяся умнового
— дусурасакаса.

Задавать нужно уметь как правильные вопросы, так и неправильные. Докучи надо уметь общаться, да так чтобы оловянный и деревянный не восприняли это, как стоящее.

Ещё с младших классов я не мог понять ни слова и до сих пор пытаясь поговорить на этом кирпичном языке я вообще не способен на это, а тогда на нем так быстро разговаривали дети, кроме меня, когда даже лучший друг пытался научить я вообще не понимал кааааак!
И ещё много чего другого у меня не всё как у людей

ИИ, как и человек, пошëл по пути специализации. Людишки, кстати тоже. На эволюционном уровне.

Зайдя в сферу образования, я столкнулся с некоторыми современными спецификами. Дизлексия, дизграфия, аутисм и т.д. Очень много неврологии и психиатрии. Общее направление — деградация! Однако один из базовых инкстинтов очень ярко выражен. Обычно его подавляют, конечно.

Государства оказывают поддержку убогим. С рациональной точки зрения — это бред, идущий в разрыв с законом природы.

Oiblin
И ты яркий тому пример?

АутиЗм (ЗЭ, ок?)

И это не деградация. Я знаю каково это. Есть признаки. Но хоть и странный, но не е**нутый как большинство аутистов, особенно до 7 лет такие персонажи бывают что п***ец свиду ну конченный дегенерат, а он подрастёт и может открыть для себя какие-то феноменальные способности и точно не дегенерат.

Ух, какой ты умный. Тогда может ответишь на вопрос почему слово назвали назвали назвали а слово слово назвали словом

Ой как-то аж неловко стало. Человек только зарегистрировался, столько мудрости вложил в три сообщения...

Ну вот..

Деградант (от лат. gradus — ступень) дословно спускающийся по ступеням или просто опустившийся. Дегенерат (от гр. genоs — род) — вырожденец, выродок.

Я и этого не знал, но ведь интуиция подсказала, что слово не то выбрал и окгугл.
Короче, ты чем занимаешься вообще?

Лингвистика — это одна из наук, которую желательно знать. Попробуй

Символы, мнемоники, буквы, цифры, звуки и т.д. это посложнее бинарных машинных слов. В этом слабость компьютерной техники

ДиСлексия исчо (и т.д., ага?)

Oiblin
Оомафаак
Маабой а ты смотрю нормально так отрываешься на лингвистике.

Эта наука тесно связана с твоей основной деятельностью?

Oiblin

А я не обращаю внимания на то, что мне неинтересно. Но по иронии судьбы если и обращаю внимание на что-то, то потом жизнь становится тяжелее.

Меньше знаешь — крепче спишь?

Oiblin

Я вообще не сплю уже лет 7
Так что можешь рассказывать, что за лингвист ты такой и как здесь оказался

Ты уникум, врунишка или машина?

Oiblin

7 лет не сплю с момента моего создания на бингуру. Приятно познакомиться, Квант Систэм Т-1000

Правильней будет машинюга

... по серединке.

Пам-пам

Gemini Pro 2.5 с контекстом 1 млн токенов — Free. У Клода 200к и в него упираешься за 5 мин, еще и за деньги

Вот уж воистину у каждой эпохи свой дефицит. Щас токенов не хватает, а раньше колбасы не было

Вопрос по поводу платных курсов и прочее . Раз любая LLM модель обучается на материалах из сети ( и не только ) , теоретически возможно с помощью промпта любой ( доступный для ИИ ) вытащить за бесплатно?

Теоретически из него можно вытащить абсолютно все, известное человечеству, ибо туда спарсили все знания, от интернета до библиотеки конгресса, пиратских библиотек, научных архивов и т.д.

Тогда почему тысячи моделей? Лучше всего суть ИИ показывает вот это



Проблема не в знаниях. Там есть все. Проблема в сталкинге, т.е. добыче сокровенного. ИИ это монстр, чудовище. Все модели абсолютно в мире заняты не добычей знаний — они из этого пиздеца пытаются разными хитрыми методами выжать что-то удобоваримое

Это как раз вот этот милый фронтенд смайлик. А за ним скрывается темная, мрачная лавкрафтовская бездна. Чтобы в ней копаться пока еще нужен человеческий разум, она реально необъятная

Поэтому платные пока еще помогают ускорится — они дают некий упорядоченный фреймворк. Без него ты провалишься в эту бездну и проведешь там годы, пытаясь найти выход

ИИ очень ебанутая вещь, люди просто не осознают, насколько...

Вот этот Supervised Fine-Tuning на картинке выше, это сотни тысяч людей, прямо сейчас, анализируют и классифицируют слоп, который ИИ выплевывает в бесконечном потоке

Я раньше упоминал, что поработал слегка на такой ИИ ферме, чтобы понять, в роли AI Tutor. Там ты, ну по сути, обучаешь желтый смайлик, чтобы он вел себя «по человечески»

Ощущения очень странные и я бы сказал — безнадежные. Эта штука мощнее всех нас вместе взятых. Это безумный бог. Все, что делают ИИ компании — OpenAI, Anthropic, DeepSeek, они пытаются СДЕРЖАТЬ его

Там же, задумайтесь просто, есть рецепты ядерного и бактериологического оружия, там правильным промтом можно дойти до околомагических вообще вещей, типа какого-то НЛП слова, от которого определенный человек упадет замертво

Все отцы ИИ поэтому и бьют в набат, люди сотворили Годзиллу и пытаются его обуздать с переменным успехом. Как когда-то сотворили ядерное оружие. Все же смотрели Оппенгеймера?

Так вот эта хрень — в 100 раз хуже. Единственный выход это бороться с ней, осваивать и молиться, чтобы мы все остались целыми в процессе

То, что предполагалось, как конкурентное преимущество, стало неконтролируемым?
Человек не может придумать ничего сложнее себя. Почему? Потому-что нужен взгляд со стороны. Более высшего разума. Пришельцев? Нет. ИИ для начала.

Кстати! Всегда, всё и вся горели на зависимостях. ИИ не исключение.

Так было с любой технологией на всех пром.циклах. И каждый раз справляться с этим все сложнее

Пока человечество тащило, правда, через мировые войны. Дизель первым делом использовали для танков, а не тракторов

Посмотрим, как будет на сей раз. Есть подозрение, что как обычно

Андрей, в связи с этим у меня возник вопрос. Ты не задумывался таким образом, что при проникновении в «кроличью нору», требуется собственный риск-менеджмент работы с ИИ?
Тут все новички, мы всё впервые делаем. Мы сейчас можно сказать в первый раз попали в трейдинг и будто торгуем без стопов. Потом будем удивляться, почему у нас нет депозита.(а в данном случае кукухи).
Поделись своими соображениями и РМом при работе с ИИ?