Мысли об ИИ

Распространение знаний против создания знаний

Том Каннингем рассуждает о LLM, создающих новые знания. Спрос на новые знания отличается от спроса на старые, что приводит к определенным последствиям. Много общего с идеями ВФБ. 

Коротко — новые модели создающие знания будут менее открытыми и публичными, а сосредоточатся на решение ключевых и самых важных задач (высокая абстракция/сочетаемость/универсальность) и распределят затем теоретическое достижение ключевых задач  в прикладные (абстракция ниже). Далее прикладное попадает уже в обычные ллмки и агенты снижает стимулы к простой эксплуатации старых знаний.

Новые экономические модели формируются вокруг этих тезисов все чаще в работах авторах посвященных последствиям, эта одна из них. 

кос — софт/железо, атеншен/ресурс, botsvshumans, edgecontext, эмерджентность/неравенство, неофеодализм

https://tecunningham.github.io/posts/2026-01-29-knowledge-creating-llms.html

«Очевидно, это непрерывный процесс, но мы явно движемся по траектории от первого ко второму этапу, и я не видел особого обсуждения последствий. Я ожидаю, что влияние ИИ к 2026 году будет определяться именно этими соображениями.»

«Распространенное утверждение заключается в том, что создание знаний в области ИИ будет ограничено возможностью проведения новых экспериментов. Например, автоматизированному биологу по-прежнему нужна лаборатория, а автоматизированному исследователю ИИ по-прежнему потребуется много графических процессоров для проведения экспериментов. Верно ли это, зависит от формы ландшафта оптимизации. Если мир по своей природе многомерен, то нет замены сбору данных. Но если существует низкоразмерная структура, то есть высокая отдача от простого более глубокого мышления (подробнее об этом в https://tecunningham.github.io/posts/2025-09-19-transformative-AI-notes.html. Мы обнаружили множество областей, которые казались многомерными, но оказались по своей природе низкоразмерными.»

Экономические и социальные последствия распространения знаний

· Интеллектуальная рента — это надбавка, которую получают специалисты и фирмы за владение знаниями, недоступными другим. Поскольку LLM снижают стоимость передачи существующих знаний, «премия» за обладание информацией, которую легко найти или агрегировать, будет падать.

· Вместо того чтобы покупать экспертные услуги на рынке, люди всё чаще будут использовать LLM для самостоятельного решения проблем (так называемое home production). Это замещает рыночные услуги специалистов, что может привести к снижению измеряемого ВВП, так как транзакции выходят из официального сектора экономики.

· Из-за того, что знания распространяются мгновенно, период, в течение которого инноватор может получать ренту за свое открытие, сокращается. Это может демотивировать традиционные формы поиска новых знаний, если они не защищены механизмами эксклюзивности, характерными для «создающих знания» LLM.

Особенности и потенциал LLM, создающих знания

· Новые техники (AlphaEvolve, TTT-Discover) являются общими методами оптимизации, которые можно быстро адаптировать к любым задачам — от биоинформатики до проектирования микросхем.

· Вместо ответов на вопросы с известными ответами, качество моделей теперь оценивается по их способности решать новые проблемы (например, нерешенные математические задачи в FrontierMath).

· Разработчики ИИ создающих знание, будут либо использовать эти знания сами, либо продавать доступ на основе лицензирования и IP-соглашений, а не через общие API.

· Большинство сложных мировых проблем можно свести к нескольким десяткам «канонических» типов (например, задачи удовлетворения ограничений типа 3SAT или задачи статистического вывода).

· Интеллект ИИ заключается в двух этапах: (1) сведение уникальной прикладной задачи к канонической и (2) продвижение фронтира знаний в этой канонической задаче.

· Ожидается, что ИИ-лаборатории будут тратить колоссальные ресурсы на достижение прорывов в этих немногих фундаментальных проблемах, предлагая дешевые решения для всех производных прикладных задач.