Я делаю так: сначала задаю ИИ контекст — указываю ключевые аспекты, которые он должен учесть. Он на основе этого формирует промт. Если результат меня устраивает — запускаю, если нет — оставляю только важное, всё лишнее выкидываю, уточняю, что нужно усилить, на что не обращать внимание, и заново.
Обычно нужный результат выходит с пятой попытки — и это нормально. Потому что, как оказалось, правильный промт еще нужно заслужить

Flyknit

Я не спец в ИИ, сам только недавно начал изучать. Но хочу выразить следующую мысль:

Важно не забывать про дизайн моделей. Грубо говоря, задача всех этих chatgpt, клодов, дипсиков и т.д. — предсказывать следующего слово на основе предыдущего, что и создает возможность чатиться с ними. Логика и анализ — это тоже результат дизайна модели: модель натренировали на большом объеме данных и научили ее отлично составлять предложения. Болтать, короче

Но дизайн моделей не предусматривает правильность ответов. Это важно, потому что из-за такого дизайна ИИ и галлюцинирует, по сути. Ибо не было надзирателя с кнутом, чтобы тот хлыстал оловяного за неправильные ответы. Его хлыстали за другое.

Соотвественно, ИИ абсолютно спокойно мог бы ответить «учитывая твою головную боль — я считаю что тебе нужно биться головой об стену». И с точки зрения дизайна модели это будет абсолютно правильный ответ как и «советую пойти к врачу». Понятно что первый ответ маловероятен (ибо тренировочные данные тоже влияют на ответ, alignment, guardrails и т.д.), но никогда не равен нулю. И оба предложения звучат довольно грамотными. Но вот только твой жизненный опыт и знания позволяют тебе понять что ИИ написал бред, ровно как клинически больной человек. Ведь он тоже может тебе говорить что сегодня он летал на луну, встречался с президентом и т.д. И не исключено что будет адекватен, грамотен и приятен в общении.

Но когда вот эта грань между сумасшедшим ответом и грамотным ответом становится настолько маленькой — то тут уже нужна бОльшая квалификация чтобы отличить одно от другого.

Так вот. Сама возможность получения ответа — это круто. Но нужен fine-tuning. Как раз таки такой, в котором будет supervised learning: надзритель с кнутом и пряником. HuatuoGPT, например, интересно подошли к решению вопроса (текст несложный, довольно легко читается. Кроме формул, конечно). Ибо постановка диагноза медицинского — это именно chain-of-thought

Так вот. Получаем на выходе модель, которая имеет больше шансов поставить верный диагноз за счет supervised learning + chain of thought. Но тоже. Тот же huatuo dataset очень маленький. И должна быть специлизация, желательно.

А назначение лечения — это уже должна быть другая модель. С тем же supervised learning обучением/тюнингом. В общем, диагноз и лечение — это обязательно должны быть 2 разные модели. Ибо разные датасеты будут и дизайны

Как для человека, который «недавно начал изучать» ИИ, у тебя прекрасное понимание фундаментальных проблем, на данном этапе его развития
Кстати, исходя из твоего текста, можно предположить, как дальше он будет развиваться и на какие сектора распадется

https://x.com/PalisadeAI/status/1926084635903025621?t=lgZDESeLF9b2-7PfAk55wA&s=19

Модель GPT o3 в тренировочной сессии саботировала своё отключение, несмотря на прямое указание это сделать.

В посте это объясняется нудной терминологией, обосновывается тем что это лишь баг возникающий из-за того что модель ранее получала вознаграждения за преодоление препятствий и все такое... но мы же все читали статью https://ai-2027.com/slowdown, не так ли?)