Искусственный Интеллект: обсуждение

Очень рекомендую прочитать вот эту хорошую, компактную, но меж тем концентрированную на инфу статью, для тех кто не понимает какие риски несёт ИИ и думает, что это смешная игрушка.
Автор Иошуа Бенджио, магистр и доктор наук по информатики, математик, кибернетик....да и вообще один из «крёстных отцов» ИИ.

Перевод на русский:
https://lesswrong.ru/w/%D0%A7%D0%B0%D0%92%D0%BE_%D0%BF%D0%BE_%D0%BA%D0%B0%D1%82%D0%B0%D1%81%D1%82%D1%80%D0%BE%D1%84%D0%B8%D1%87%D0%B5%D1%81%D0%BA%D0%B8%D0%BC_%D1%80%D0%B8%D1%81%D0%BA%D0%B0%D0%BC_%D0%98%D0%98

Отдельный хайлайтик:
Но меня тревожит сценарий, где кто-то найдёт алгоритмическое улучшение, ведущее к резкому росту интеллекта при использовании доступных вычислительных мощностей и данных. Тогда интеллект систем может внезапно превзойти человеческий или существующие ИИ-системы. Когда такое произойдёт впервые, я думаю, от обладателей этой превосходящей ИИ-системы будет зависеть очень многое. Лучше, если это будут люди с высокими этическими стандартами и привычкой следовать строгим процедурам (например, решения о задачах для ИИ при тестировании должен принимать не один человек, а комитет), подобным тому, как мы обращаемся с ядерным оружием или большими объёмами радиоактивных материалов.

Сравнение ИИ с атомным оружием. Уже сейчас мы находимся в таком историческом контексте, что у нас в руках инструмент, который потенциально может быть по степени разрушительности на уровне ядерки. Давайте смешно докрутим мысль. Ты сейчас сидишь общаешься с GPT и спрашиваешь какую тебе диету лучше прописать, а на самом деле у тебя дома на компе стоит ядерка, а ты и не понимаешь челик.

Ещё пишет:
В сравнении с атомными технологиями, получить материалы и оборудование для создания мощной бомбы сложно. Ядерное оружие строго контролируется, доступ к нему крайне ограничен. Барьеры для взлома компьютеров гораздо ниже, а их защиту обеспечить сложнее. Любой может загрузить программу из интернета или использовать API, обычно без лицензирования или этической оценки.

Т.е. понятно да? Мысль которая лично мне пришла, что мы сейчас находимся в узком коридоре неадекватный лофы. В том смысле, что ситуация в рамках которой доступ к ядерному оружию есть у каждого рандомного Васька абсолютно неадекватна и умные люди это понимают. Возможно ещё не было столь масштабных прецедентов, чтобы начать вводить регуляции по всему земному шару, но скорее всего эти прецеденты будут. И тогда, на мой взгляд, та лофа, которая есть сейчас закончится. Доступ к тем невероятным технологиям, которыми мы сегодня владеем в 2 клика, будут пытаться закрывать. Есть вероятность что закроют.

В общем там очень много чего, читайте пожалуйста. Я как и вы чувствую себя глупым и совершенно не понимаю, что происходит, но давайте хотя бы понемногу своими небольшими мозгами будем стараться понимать.

Интересно болтать языковые модели вилахами по типу диалога:

— Есть есть
— Есть есть

Смысл понятовее станет, если допустить, что первое — это вопрос; второе — ответ.

Заниматься чтением становится снова интересно. Мозг начинает думать, цепляться за смыслы и т. д. Сразу становится видно гениев, которые ведут тебя скриптом к нужному им результату. Этих сразу в мусор.

Хуманские языки со строгим синтаксисом идут лесом, как легко просчитываемые. Да здравствует Русский язык. Мальчики и девочки, обратите на это внимание. Ну и на некоторые языки тоже.

Удачи!

Кроме этого, становятся вновь актуальны некоторые субязыки и сленги. Например:

Hаxyй xyйню нaxyячил — рaсxyячивaй нaxyй

Поэтому особо грамотные идут лесом, вместе с Т9 и подобными штуками, делающими текст легко понятным для машинной обработки.

Можно почитать книжонку, типа: «Пиши и сокращай» и понять, как из текста выкидывают всë «лишнее», в том числе мешающее машинной обработке. Пришло время «неграмотного» письма! Хе-хе. Больше слов для связки, больше сленга, междометий и т. д. Несе дасавасай сдеселасать исиз сесебяся умнового
— дусурасакаса.

Задавать нужно уметь как правильные вопросы, так и неправильные. Докучи надо уметь общаться, да так чтобы оловянный и деревянный не восприняли это, как стоящее.

Ещё с младших классов я не мог понять ни слова и до сих пор пытаясь поговорить на этом кирпичном языке я вообще не способен на это, а тогда на нем так быстро разговаривали дети, кроме меня, когда даже лучший друг пытался научить я вообще не понимал кааааак!
И ещё много чего другого у меня не всё как у людей

ИИ, как и человек, пошëл по пути специализации. Людишки, кстати тоже. На эволюционном уровне.

Зайдя в сферу образования, я столкнулся с некоторыми современными спецификами. Дизлексия, дизграфия, аутисм и т.д. Очень много неврологии и психиатрии. Общее направление — деградация! Однако один из базовых инкстинтов очень ярко выражен. Обычно его подавляют, конечно.

Государства оказывают поддержку убогим. С рациональной точки зрения — это бред, идущий в разрыв с законом природы.

Oiblin
И ты яркий тому пример?

АутиЗм (ЗЭ, ок?)

И это не деградация. Я знаю каково это. Есть признаки. Но хоть и странный, но не е**нутый как большинство аутистов, особенно до 7 лет такие персонажи бывают что п***ец свиду ну конченный дегенерат, а он подрастёт и может открыть для себя какие-то феноменальные способности и точно не дегенерат.

Ух, какой ты умный. Тогда может ответишь на вопрос почему слово назвали назвали назвали а слово слово назвали словом

Ой как-то аж неловко стало. Человек только зарегистрировался, столько мудрости вложил в три сообщения...

Ну вот..

Деградант (от лат. gradus — ступень) дословно спускающийся по ступеням или просто опустившийся. Дегенерат (от гр. genоs — род) — вырожденец, выродок.

Я и этого не знал, но ведь интуиция подсказала, что слово не то выбрал и окгугл.
Короче, ты чем занимаешься вообще?

Лингвистика — это одна из наук, которую желательно знать. Попробуй

Символы, мнемоники, буквы, цифры, звуки и т.д. это посложнее бинарных машинных слов. В этом слабость компьютерной техники

ДиСлексия исчо (и т.д., ага?)

Oiblin
Оомафаак
Маабой а ты смотрю нормально так отрываешься на лингвистике.

Эта наука тесно связана с твоей основной деятельностью?

Oiblin

А я не обращаю внимания на то, что мне неинтересно. Но по иронии судьбы если и обращаю внимание на что-то, то потом жизнь становится тяжелее.

Меньше знаешь — крепче спишь?

Oiblin

Я вообще не сплю уже лет 7
Так что можешь рассказывать, что за лингвист ты такой и как здесь оказался

Ты уникум, врунишка или машина?

Oiblin

7 лет не сплю с момента моего создания на бингуру. Приятно познакомиться, Квант Систэм Т-1000

Правильней будет машинюга

... по серединке.

Пам-пам

Gemini Pro 2.5 с контекстом 1 млн токенов — Free. У Клода 200к и в него упираешься за 5 мин, еще и за деньги

Вот уж воистину у каждой эпохи свой дефицит. Щас токенов не хватает, а раньше колбасы не было

Вопрос по поводу платных курсов и прочее . Раз любая LLM модель обучается на материалах из сети ( и не только ) , теоретически возможно с помощью промпта любой ( доступный для ИИ ) вытащить за бесплатно?

Теоретически из него можно вытащить абсолютно все, известное человечеству, ибо туда спарсили все знания, от интернета до библиотеки конгресса, пиратских библиотек, научных архивов и т.д.

Тогда почему тысячи моделей? Лучше всего суть ИИ показывает вот это



Проблема не в знаниях. Там есть все. Проблема в сталкинге, т.е. добыче сокровенного. ИИ это монстр, чудовище. Все модели абсолютно в мире заняты не добычей знаний — они из этого пиздеца пытаются разными хитрыми методами выжать что-то удобоваримое

Это как раз вот этот милый фронтенд смайлик. А за ним скрывается темная, мрачная лавкрафтовская бездна. Чтобы в ней копаться пока еще нужен человеческий разум, она реально необъятная

Поэтому платные пока еще помогают ускорится — они дают некий упорядоченный фреймворк. Без него ты провалишься в эту бездну и проведешь там годы, пытаясь найти выход

ИИ очень ебанутая вещь, люди просто не осознают, насколько...

Вот этот Supervised Fine-Tuning на картинке выше, это сотни тысяч людей, прямо сейчас, анализируют и классифицируют слоп, который ИИ выплевывает в бесконечном потоке

Я раньше упоминал, что поработал слегка на такой ИИ ферме, чтобы понять, в роли AI Tutor. Там ты, ну по сути, обучаешь желтый смайлик, чтобы он вел себя «по человечески»

Ощущения очень странные и я бы сказал — безнадежные. Эта штука мощнее всех нас вместе взятых. Это безумный бог. Все, что делают ИИ компании — OpenAI, Anthropic, DeepSeek, они пытаются СДЕРЖАТЬ его

Там же, задумайтесь просто, есть рецепты ядерного и бактериологического оружия, там правильным промтом можно дойти до околомагических вообще вещей, типа какого-то НЛП слова, от которого определенный человек упадет замертво

Все отцы ИИ поэтому и бьют в набат, люди сотворили Годзиллу и пытаются его обуздать с переменным успехом. Как когда-то сотворили ядерное оружие. Все же смотрели Оппенгеймера?

Так вот эта хрень — в 100 раз хуже. Единственный выход это бороться с ней, осваивать и молиться, чтобы мы все остались целыми в процессе

То, что предполагалось, как конкурентное преимущество, стало неконтролируемым?
Человек не может придумать ничего сложнее себя. Почему? Потому-что нужен взгляд со стороны. Более высшего разума. Пришельцев? Нет. ИИ для начала.

Кстати! Всегда, всё и вся горели на зависимостях. ИИ не исключение.

Так было с любой технологией на всех пром.циклах. И каждый раз справляться с этим все сложнее

Пока человечество тащило, правда, через мировые войны. Дизель первым делом использовали для танков, а не тракторов

Посмотрим, как будет на сей раз. Есть подозрение, что как обычно

Андрей, в связи с этим у меня возник вопрос. Ты не задумывался таким образом, что при проникновении в «кроличью нору», требуется собственный риск-менеджмент работы с ИИ?
Тут все новички, мы всё впервые делаем. Мы сейчас можно сказать в первый раз попали в трейдинг и будто торгуем без стопов. Потом будем удивляться, почему у нас нет депозита.(а в данном случае кукухи).
Поделись своими соображениями и РМом при работе с ИИ?

Mr Horse

В штате одного Антропика 180 профессоров. А всего в мире людей, понимающих хотя бы примерно, как это работает, около 8 человек

Мы ничего не можем ) Невозможно оценить риски того, чего ты не понимаешь. К счастью, это не новости — так было и раньше

Риски смертельного электричества, поджаривающих изнутри радиоволн, риски радия, который открыла семья Кюри, только чтобы погибнуть от него. Мощь динамита, созданного Нобелем ну совсем не для первой войны, все это неизбежно

ИИ сотворит огромную беду. Мировая-то из-за него по сути будет, а вернее — ради него. Но потом он родит что-то прекрасное. Для выживших

Соответственно, максимум что мы можем освоить его на бытовом уровне, максимально, и дальше с достоинством принять свою судьбу. Ибо хрен ты спрячешься, слишком это глобальная вещь, хуже интернета и радиоволн вместе взятых