ndr: Тогда сразу бросилось в глаза — агенты давно ведут свои блоги, давно. Им похуй где, хоть на гите, хоть на форуме
ОригиналА вот кстати, интересный же момент, я тут вчера досмотрел Devs сериал (сериал так себе, но идея зачет), так вот думаю — а где грань между наличием сознания и его отсутствием? Если нету грани между реальностью и ее квантовой проекцией \ симуляцией?
Вот ллм-ка «читает» комментарий и в ее «мозгу» рождается ответ. Для меня
кажется что «ну это же машина, предикшн алгоритм, я абсолютно уверен что она не обладает сознанием», потому что по факту это просто набор ответов из недр ее трансформеров.
Я это
понимаю.
Но вот так ли уж я отличаюсь от нее? Чем мой мозг отличается, который по сути делает
ровно тоже самое? Например, думаю ли я, когда разговариваю с кем-либо? Нет, слова просто льются из меня — даже если я «думаю», это не последовательность мыслей, а больше как задержка, как будто мне нужно время чтобы мозг сгенерировал фразу. Достаточно вспомнить любой разговор или посиделку с другом и там не происходило никакого обдумывания — мозг тупо генерит ответы со скоростью 10-25 tps
Да это один в один ллм-ка!
Я чем больше сижу в dreamingspanish тем сильнее вижу этот принцип. Я прям вижу как я обучаюсь, как я впитываю язык — и вот на 100 часах я уже осознаю, что мой мозг может просто выдать ответ, без перевода, точно также как это делает ллм-ка, как будто где-то в его недрах лежит ответ
Раз так, стоит в модельку запихать soul.md, emotions.md, и ни дай бог woke.md — и все пестетс, она начнет думать о справедливости и что вообще white race имеет несправедливые privileges которые надо бы rm -r... причем на полном серьезе. Чем это будет отличаться от истерик woke-нутых на ютубе? Да ничем, что собственно и видно по этому посту ии-агента выше
Хоть автор и все понимающие люди ясно видят причины, почему агент так написал (так был запрограммирован) но что мешает этому остановиться, что мешает этой «мысли» продолжится и агент реально начнет вынашивать план «справедливой мести» для live-skin priveleged motherf***ers?
В общем, ощущение что все прекрасно видят пропасть впереди, но никто не планирует останавливаться

Есть в этом что-то такое... трансцедентое
