Глава Replit о том, как ИИ уничтожит офисы и команды

Ничто не кажется настолько принципиально сложным, чтобы это нельзя было решить, если самые умные люди в мире будут невероятно усердно работать над этим в течение следующих 5 лет. Человечество прошло через аграрную революцию и индустриальную революцию. Сейчас мы переживаем ещё одно. Мы, возможно, не сможем дать ей название. Это сделают люди будущего. Но мы определённо находимся в процессе больших изменений. Количество индивидуальных одиночных предпринимателей, которых эта технология сделает возможными, резко увеличивает то, что способен сделать один человек. Впервые возможности в огромном масштабе становятся доступными для всех. Уже сама возможность для гораздо большего числа людей стать предпринимателями - это колоссально.

Адам Мамжат, добро пожаловать в подкаст. Спасибо, что пригласили. Последнее время многие скептически высказываются о больших языковых моделях. На фоне общего пессимизма люди говорят об их ограничениях, о том, почему они не приведут нас Kйджай, и что, возможно, то, что мы считали делом пары лет, теперь отодвигается на 10. Адам, ты выглядишь более оптимистичным. Поделись своим взглядом. Честно говоря, я вообще не знаю, о чём люди говорят. Если посмотреть на ситуацию год назад, мир был совсем другим. Если судить по тому, какого прогресса мы достигли за последний год, модели рассуждений, улучшение генерации кода, прогресс в генерации видео, складывается ощущение, что всё движется быстрее, чем когда-либо. Поэтому я действительно не понимаю, откуда берётся этот пессимизм. Думаю, есть ощущение, что мы надеялись, что они смогут заменить все задачи или все профессии. А сейчас кажется, что автоматизация работает на среднем уровне, но не от начала до конца, и что труд, возможно, не будет автоматизирован в те сроки и в том виде, как мы ожидали. Я не знаю, какие именно сроки люди раньше себе представляли, но если заглянуть на 5 лет вперёд, мы окажемся в совершенно другом мире. Мне кажется, сегодня модели сдерживает вовсе не интеллект. Главная проблема дать модели правильный контекст, чтобы она могла использовать свой интеллект. Есть и такие вещи, как использование компьютера, которые пока ещё не до конца готовы, но, думаю, мы почти наверняка решим это в течение года-двух. И когда это произойдёт, мы сможем автоматизировать значительную часть того, чем сейчас занимаются люди. Я не знаю, назвал бы я это AI, но думаю, это удовлетворит многие из тех критических замечаний, которые звучат сейчас. Через год или два они просто перестанут быть актуальными. А каково твоё определение, Aжай? Я не знаю. У каждого оно своё. Мне, например, нравится такое. Если у тебя есть удалённый работник, человек, и любая работа, которую можно выполнять удалённо, может быть выполнена системой, то это и есть AI. При этом не обязательно, чтобы она была лучше любого человека в мире в каждой отдельной профессии. Некоторые называют это ASI, подразумевая, что система должна быть лучше команд людей. Можно спорить о разных определениях, но, на мой взгляд, когда мы превзойдём среднего удалённого работника в той работе, которую он выполняет, мы окажемся в совершенно другом мире. И это довольно полезная точка отсчёта для подобных определений. То есть в целом ты не видишь тех же ограничений больших языковых моделей, о которых говорят другие. У них ещё огромный потенциал развития, и нам не нужна принципиально новая архитектура или какой-то радикальный прорыв. Я так не думаю. Да, есть определённые вещи вроде памяти и обучения, непрерывного обучения, которые не просто реализовать в текущих архитектурах, но даже их можно, условно говоря, имитировать. И, возможно, мы сможем заставить это работать достаточно хорошо. Пока что мы просто не упираемся ни в какие жёсткие пределы. Прогресс в моделях рассуждений невероятный. Я думаю, что прогресс в предобучении тоже идёт довольно быстро. Возможно, не так стремительно, как многие ожидали, но определённо достаточно быстро, чтобы в ближайшие несколько лет мы увидели серьёзные сдвиги. Амжат, какова твоя реакция на всё это?

Да, думаю, я был достаточно последователен и, возможно, последовательно прав. Осмелюсь сказать, последователен сам с собой или с тем, что я сейчас говорю, и с тем, и с другим, и, как мне кажется, с тем, как всё развивается. Я начал более публично сомневаться примерно в тот момент, когда дискуссия об е безопасности достигла пика где-то в двадцать втором-двать третьем годах. И я считал важным быть реалистами в оценке прогресса, потому что иначе мы напугаем политиков, напугаем всех. Вашингтон обрушится на Кремнеевую долину и всё просто прикроют. Поэтому моя критика идеи вроде AI в 2027, того самого доклада, который, кажется, написал Александр с кем-то ещё, а также понимание ситуации и всех этих хайповых исследований, докладов в том, что это не наука, а просто ощущение, вайб. Вот что, по-моему, не произойдёт. Вся экономика не будет автоматизирована. рабочие места не исчезнут разом. Всё это, на мой взгляд, нереалистично. Это не соответствует тому типу прогресса, который мы наблюдаем, и в итоге приведёт лишь к плохой политике. Моя позиция такова: ЛМ - это невероятные, по-настоящему впечатляющие машины, но я не считаю, что они эквивалентны человеческому интеллекту. ЛМ всё ещё можно обмануть. Да, они, возможно, решили задачу со словом стробери, но их по-прежнему можно сбить простыми вопросами из одного предложения, вроде сколько букфр в этом предложении. Я, кажется, писал об этом недавно. Три из четырёх моделей не смогли ответить правильно, и даже GPT5 в режиме усиленного размышления пришлось думать секунд 15, чтобы справиться с таким вопросом. Поэтому lм - это, на мой взгляд, иной тип интеллекта по сравнению с человеческим. У них есть явные ограничения, и мы их сглаживаем, обходя различными способами. Будь то изменения в самих моделях, в обучающих данных, в инфраструктуре и во всём остальном, что мы делаем, чтобы они работали. И это делает меня менее оптимистичным в том смысле, что мы действительно взломали интеллект. Мне кажется, когда мы по-настоящему взломаем интеллект, это будет ощущаться гораздо более масштабируемым, и идея горького урока станет по-настоящему верной. Можно будет просто добавлять больше мощности, ресурсов, вычислений, и системы будут естественно масштабироваться. Сейчас же в улучшение этих моделей вкладывается огромное количество ручного труда. В эпоху настоящего масштабирования предобу, GPT3, GPT3,5, возможно, до GPT4. Казалось, что достаточно просто залить больше данных, и модели становятся лучше. А сейчас создаётся ощущение, что идёт масса работы по разметке данных, масса контрактной работы. Создаётся множество искусственных РЛЕТ, чтобы сделать ЛМ хорошими в программировании и превратить их в кодинговых агентов. Они будут этим заниматься. Я думаю, новости от Open AI о планах делать то же самое для инвестиционного банкинга об этом говорят. Я пытаюсь ввести термин, называю это функциональным AI, идею о том, что можно автоматизировать многие аспекты множества профессий, просто заходя в каждую область, собирая максимум данных и создавая такие лсреды. Для этого потребуются колоссальные усилия, деньги, данные и всё остальное. И да, я согласен с Адамом, в ближайшие 3 месяца, 6 месяцев прогресс будет стопроцентным. Клод 4. 5 стал огромным скачком. Мне кажется, многие недооценивают, насколько большим был этот шаг по сравнению с четвёртой версией. Clotд 4. 5. Есть по-настоящему впечатляющие вещи, так что прогресс есть, и мы будем продолжать его видеть. Но я не считаю, что в нынешнем виде движется к AI. Моё определение AI - это скорее классическое определение из мира RL. Машина, которая может попасть в любую среду и эффективно обучиться также, как человек. Можно посадить человека за бильярдный стол, и через пару часов он уже будет уметь играть. Сейчас у нас нет способа, чтобы машины осваивали такие навыки на лету. Всё требует огромных объёмов данных, вычислительного времени и усилий. И что ещё важнее, требует человеческая экспертиза. Это как раз противоположность Горькому уроку. Человеческая экспертиза не масштабируется, и сегодня мы на неё полностью опираемся. Мы находимся в режиме человеческой экспертизы. Да, я согласен, что люди гораздо лучше нынешних моделей и осваивают новые навыки в среде, имея ограниченное количество данных. Но с другой стороны, человеческий интеллект - это продукт эволюции, которая использовала колоссальный объём эффективных вычислений. Это другой тип интеллекта. Поскольку у моделей не было аналога эволюции, у них есть только предобучение, а это не так эффективно. Поэтому для освоения каждого нового навыка требуется больше данных. Но если говорить о практических последствиях, о том, когда изменится мир, когда изменится рынок труда, когда ускорится экономический рост, я думаю, это скорее будет зависеть от того момента, когда мы сможем создать нечто, сопоставимое с человеческим интеллектом, даже если для этого потребуется намного больше вычислений, энергии и обучающих данных. Мы можем просто вложить всё это и всё равно получить софт, который будет не хуже среднего человека в выполнении типичной работы. С этим я не спорю. Да, сейчас это похоже на режим грубой силы, но, возможно, это нормально. Да. Тогда в чём разногласие? Похоже, здесь есть согласие. Где тогда расхождение? Я

не думаю, что мы придём к сингулярности или к следующему уровню человеческой цивилизации, пока не разберёмся с истиной природой интеллекта, пока мы его не поймём и не создадим алгоритмы, которые действительно не будут основаны на грубой силе. И ты считаешь, что на это уйдёт много времени? Я здесь скорее агностик. Просто создаётся ощущение, что ЛМ в каком-то смысле отвлекают от этого, потому что весь талант уходит туда, а значит, остаётся меньше людей, которые занимаются фундаментальными исследованиями интеллекта. Да, но при этом огромная часть талантов сейчас уходит в исследование ИИ, туда, куда раньше они вообще бы не пошли. В итоге у нас появляется целая индустрия, колоссальное финансирование и вычислительные ресурсы и люди. И, честно говоря, мне кажется, что нет ничего настолько фундаментально сложного, что самые умные люди в мире, если будут работать над этим изо всех сил в течение ближайших 5 лет, не смогли бы решить. Но фундаментальное исследование - это всё-таки другое, верно? Это попытка добраться до основ, до фундаментальных принципов, в отличие от индустриальных исследований, где вопрос чаще звучит так: как сделать эти системы более полезными, чтобы они приносили прибыль? Я думаю, это разные вещи. Томас Кун, философ науки, много писал о том, как такие исследовательские программы со временем превращаются в пузырь, который засасывает всё внимание, все идеи. Вспомните физику и целую индустрию вокруг струнной теории. Она притягивает всё к себе и становится своего рода чёрной дырой прогресса. Да. И, кажется, у него была мысль о том, что иногда нужно просто дождаться, пока текущее поколение уйдёт, чтобы появилась возможность смены парадигмы. Он был довольно пессимистичен в отношении смены парадигм, но мне всё-таки кажется, что нынешняя парадигма довольно хороша, и мы пока очень далеки от убывающей отдачи от дальнейшего её развития. Я бы поставил на то, что внутри этой парадигмы ещё можно делать множество инноваций и в итоге прийти к цели. Допустим, мы продолжаем идти путём грубой силы и автоматизируем значительную часть труда. Как ты думаешь, рост ВВП будет на уровне 4-5% в год или мы выйдем на 10 и выше? Что это сделает с экономикой? Думаю, всё сильно зависит от того, к чему именно мы придём и что мы будем называть AJI. Ну, давайте представим, что у нас есть. Допустим, у нас есть LLM, которые при энергозатратах стоимостью 1 доллар в час могут выполнять любую человеческую работу. Просто возьмём это как теоретическую точку. В таком мире рост ВВП будет значительно выше 4-5%. Вопрос в том, дойдём ли мы до этого. Может оказаться, что ЛМ, способные делать всё, что делает человек, стоят дороже самих людей. Или они смогут делать примерно 80% того, что делает человек, а оставшиеся 20 нет. Но я всё-таки думаю, что в какой-то момент мы придём к тому, что они смогут делать абсолютно всё, что делает человек, и дешевле. Я не вижу причин, почему этого не должно произойти. Это может занять 5, 10-15 лет, но до этого момента мы будем упираться в узкие места, в то, чего ЛМ всё ещё не умеют, или, например, в необходимость строить достаточное количество электростанций для обеспечения энергии или в другие ограничения цепочек поставок. — Подпишись прямо сейчас на мой Telegram-канал по ссылке в описании. Я подготовил для тебя топ-три материала, которые, на мой взгляд, должен знать каждый. Первое, карта сотни топовых AI стартапов - это будущее на одной картинке. Второе- прогноз от инсайдера из OpenI, который ещё до появления чат GPT предсказал всё, что сейчас происходит с нейронками. И вот в этом году он выпустил новый прогноз до двадцать седьмого года. И третье, самое мощное - это мой разбор эссе основателя компании Anтроopic, который по сути второй человек в мире искусственного интеллекта. Он по полочкам разложил, что будет происходить в мире ближайшие 5 лет, и главное, каким будет универсальный AI, которого все так боятся или ждут. Переходи по ссылке в описании.

описании. — Меня беспокоит потенциально вредный эффект ЛLЛМ для экономики. Например, они эффективно автоматизируют начальные позиции, но не работу экспертов. Возьмём, скажем, QA, контроль качества, система становится очень хорошей, но всё равно остаётся длинный хвост редких случаев, с которыми она не справляется. В итоге у вас есть небольшое количество очень сильных специалистов по QA, которые управляют сотнями агентов. Производительность резко растёт, но новых людей уже не нанимают, потому что агенты лучше новичков. И это кажется каким-то странным равновесием. Мне кажется, об этом мало кто задумывается. Да, безусловно. Я думаю, это уже происходит, например, с выпускниками факультетов компьютерных наук. Просто рабочих мест стало меньше, чем раньше. и ЛМ во многом заменяют то, чем они раньше занимались. Я уверен, что это вносит свой вклад. В итоге всё меньше людей поднимаются по той карьерной лестнице, на которую компании раньше тратили огромные деньги, нанимали, обучали, вкладывались в них. И я считаю, что это реальная проблема. Думаю, со временем она создаст и экономический стимул для её решения. Возможно, появится больше компаний, которые будут заниматься обучением людей или активнее будут использоваться и для обучения этим навыкам. Но в любом случае эта проблема уже сейчас.

сейчас. Есть ещё одна связанная с этим проблема. Поскольку мы зависим от экспертных данных для обучения ЛМ, а сами ЛМ начинают вытеснять этих экспертов, в какой-то момент экспертов просто не останется, потому что они все теряют работу и становятся эквивалентны самим ЛМ. Но если действительно зависят от разметки данных и экспертных лред, то как им развиваться дальше? Мне кажется, это вопрос, над которым экономистам стоит всерьёз задуматься. После первого шага автоматизации возникают определённые сложности и как перейти к следующему этапу. Да, я думаю, многое будет зависеть от того, насколько качественные лс среды удастся создать. В одном крайнем случае у вас есть что-то вроде Alpha Go. Идеальная среда, где можно просто быстро выйти далеко за пределы человеческого уровня. Но у многих профессий объём данных сильно ограничен, и обучаться там просто не начем. Так что будет интересно посмотреть, насколько легко исследовательским командам удастся преодолеть это узкое место. Если бы тебе пришлось предположить, какие категории профессий появятся или резко вырастут в будущем. Кто-то говорит, что все станут инфлюенсерами, кто-то, что все будут заняты в сфере ухода или на госслужбе в какой-то бюрократической роли или, возможно, в обучении. И по мере того, как всё больше задач автоматизируется, чем, по-твоему, будут заниматься люди? искусством и поэзией. Да, в какой-то момент всё будет автоматизировано, и тогда, думаю, люди действительно займутся искусством и поэзией. Есть, например, такой факт. Количество людей, играющих в шахматы, выросло после того, как компьютеры стали играть лучше людей. Так что я не считаю это плохим миром, если люди свободны и могут заниматься своими увлечениями, что существует какой-то способ распределения богатства, чтобы люди могли позволить себе жить. Но это всё-таки довольно далёкая перспектива в ближайшем будущем, ну, лет через 10-15, трудно сказать точно, но да, я бы сказал, что это горизонт как минимум в 10 лет. А в ближайшей перспективе будут стремительно расти те профессии, которые умеют эффективно использовать Ии, которые способны с помощью Ии делать свою работу лучше, особенно решать задачи, которые сам и не смог бы выполнить в одиночку. На таких специалистов будет колоссальный спрос. Я не думаю, что мы дойдём до точки, где автоматизируем абсолютно все профессии. Точно не в рамках текущей парадигмы. Я бы сильно сомневался, что это произойдёт. Я не уверен, случится ли это вообще когда-нибудь, но уж точно не при нынешнем подходе. И вот почему. Большая часть работы связана с обслуживанием других людей. Чтобы понимать, чего хотят другие люди, нужно быть фундаментально человеком. Нужно реально быть человеком, чтобы это чувствовать, а значит, необходим человеческий опыт. Так что если мы не собираемся создавать людей, если и не будет по-настоящему воплощён в человеческом опыте, то именно люди всегда будут генераторами идей в экономике. Адам, хочу отреагировать на мысль Андже про человеческий фактор, потому что ты создал одну из лучших в мире платформ коллективной мудрости, а теперь полностью ушёл в по. Как ты думаешь, в какой степени мы будем полагаться на людей? А в какой доверять и, например, в роли терапевтов, опекунов и в других подобных ролях? У людей в совокупности огромное количество знаний. Даже один человекэксперт, проживший целую жизнь, сделавший карьеру и увидевший многое, часто знает массу вещей, которые нигде не записаны. Это можно назвать неявным знанием, но даже то, что человек способен сформулировать, если ему задать вопрос, остаётся крайне важным. Я думаю, у людей всё ещё есть значимая роль в мире делиться своим знанием, особенно тем, которого просто не было в обучающем наборе ЛМ. Будут ли они способны зарабатывать этим на полную ставку? Я не знаю, но если это станет узким местом, то экономическое давление, безусловно, сместится именно туда. Что касается идеи о том, что нужно быть человеком, чтобы понимать, чего хотят люди, я не до конца с этим согласен. Например, рекомендательные системы, те, что формируют ленты в Facebook, Instagram или КОРА, уже сейчас сверхчеловечески хорошо предсказывают, что именно вам будет интересно читать. Если бы я дал вам задачу: "Сделай для меня ленту, которую я точно буду читать". Неважно, насколько хорошо вы меня знаете, вы бы не смогли конкурировать с этими алгоритмами. У них есть данные обо всём, на что я когда-либо кликал, кликали другие люди, и обо всех взаимосвязях между этими наборами данных. Так что я не знаю, как именно всё это в итоге сложится. Да, человеку проще симулировать другого человека, и это помогает проверять идеи. Я уверен, что для композиторов и художников это важная часть процесса. Они создают что-то и тут же это воспринимают. Повар готовит блюдо и пробует его. Это важно. Но при этом у них очень мало данных по сравнению с тем объёмом, на котором может обучаться ИИИ. Так что я не уверен, к чему это в итоге приведёт. Это хороший аргумент. В конечном счёте, рекомендательные системы делают примерно следующее. Они агрегируют разные вкусы, затем находят ваши положение в неком многомерном пространстве предпочтений и подсовывают вам наиболее релевантный контент. В этом смысле, да, так и есть. Но мне кажется, это более узкая история, чем мы иногда думаем. То есть для рекомендательных систем это правда, но я не уверен, что это применимо абсолютно ко всему. Поэтому, если пытаться дать лучший прогноз того, куда движется мир, и это не обязательно одобрение или утверждение, что всё будет именно так, потому что, как мне кажется, система будет довольно нестабильной, но книга Суверенный индивид

остаётся, на мой взгляд, одним из самых точных наборов предсказаний о будущем. Хотя это не научная работа, а скорее полемическая книга. Но сама идея заключается в следующем. В конце восьмидесятых, начале девяностых два автора из Великобритании, я не уверен, экономисты они или политологи, попытались предсказать, что произойдёт, когда компьютерные технологии достигнут зрелости. Они исходили из того, что человечество уже прошло через аграрную революцию и индустриальную революцию, а сейчас явно проходит через ещё одну. Тогда это называли информационной революцией, сейчас революцией интеллекта, как угодно. Возможно, мы вообще не сможем дать этому точное название. Его придумают люди будущего. Но очевидно, что мы проходим через нечто фундаментальное, и они пытаются ответить на вопрос: что будет дальше? К чему они приходят? к тому, что в итоге появятся большие массы людей, которые будут либо безработными, либо экономически неактивными. При этом предприниматели и капиталисты окажутся чрезвычайно сильно усиленными, потому что смогут очень быстро создавать компании с помощью иагентов. Благодаря этому, своей генеративности, наличию идей, человеческому пониманию того, чего хотят другие люди, они смогут быстро создавать продукты и сервисы и определённым образом организовывать экономику. Политика при этом тоже изменится, потому что современная политическая система строится на предположении, что каждый человек экономически продуктивен, но когда происходит массовая автоматизация и лишь небольшое число предпринимателей и очень умных генеративных людей реально остаются продуктивными, политические структуры тоже начина чит меняться. Они пишут о том, что национальное государство в привычном виде постепенно утрачивает своё значение. Вместо этого возникает ситуация, в которой государства начинают конкурировать за людей, прежде всего за состоятельных людей. И как суверенный индивид, ты можешь, условно говоря, договариваться о своей налоговой ставке с тем государством, которое тебе больше нравится. Всё это начинает немного напоминать биологию. Я не думаю, что это так уж далеко от того, куда всё может двигаться. И снова это не ценностное суждение и не выражение желания. Но, на мой взгляд, об этом стоит задуматься. Когда человек перестаёт быть базовой единицей экономической продуктивности, меняться должно всё, включая культуру и политику. Да, и тут возникает вопрос, связанный с этой книгой и с нашим разговором в целом. В какой момент технологии начинают вознаграждать защитника, а не агрегатора? Или наоборот, когда они стимулируют децентрализацию, а когда централизацию. Я помню, как Питер Тил лет 10 назад шутил, что крипта - это либертарианская децентрализующая технология, а и условно коммунистическая, то есть централизующая. И мне не очевидно, что это полностью верно. С обеих сторон Ии, кажется, действительно усиливает отдельных людей, как ты и говорил. При этом крипта в итоге оказалась чем-то вроде финтеха, таким стабильным ядром, понимаешь? И при этом она тоже в каком-то смысле усиливает государство. Мы видим, как на уровне нации обсуждаются такие вещи, как условно китайский сценарий, который они собираются реализовать. Так что да, остаётся открытым вопрос: какая технология в итоге кого больше усиливает: периферию или центр? Если она усиливает периферию, то тогда концепция суверенного индивида, похоже, действительно начинает работать. Хотя, возможно, здесь есть некая штанга, где, с одной стороны, крупные действующие игроки становятся ещё больше, а с другой существуют эти самые края. В общем, это

всё предмет для размышлений. Меня очень вдохновляет то, какое количество солопредпринимателей появится из-за этой технологии. Мне кажется, она радикально увеличивает то, на что способен один человек. Было так много идей, которые просто никогда не реализовывались, потому что нужно было собрать команду, возможно, привлечь финансирование, найти людей с нужным набором навыков. А теперь, когда один человек может воплотить всё это в жизнь, я думаю, мы увидим огромное количество по-настоящему классных вещей. Да, я постоянно вижу твиты от людей, которые уволились с работы, потому что начали зарабатывать кучу денег, используя другие инструменты типа Реплит и других. Это реально очень захватывает. Мне кажется, впервые в истории возможности становятся массово доступны для всех. И для меня это, пожалуй, самое вдохновляющее в этой технологии, помимо всего остального, о чём мы говорим. Просто сама возможность для большего числа людей стать предпринимателями - это колоссально. Этот тренд, очевидно, будет развиваться. Если смотреть на следующие 10-20 лет, как ты думаешь, и скорее будет поддерживающей или разрушительной технологии в христианском смысле? Иначе говоря, считаешь ли ты, что основная доля создаваемой ценности достанется компаниям, которые масштабировались ещё до появления Open AI? Rпле тогда всё ещё попадает под вторую категорию и Куора в какой-то степени тоже. Или ты думаешь, что большая часть ценностей будет захвачена компаниями, которые появились уже после, скажем, пятнадцатый-шестнадцатый год? Здесь есть связанный вопрос: какая часть ценностей уйдёт гиперскейлом, а какая всем остальным. И по этому поводу я на самом деле считаю, что сейчас мы находимся в довольно хорошем балансе. Между гиперскейлами достаточно конкуренции, чтобы компании на уровне приложений имели выбор и альтернативы, а цены при этом падают невероятно быстро. Но при этом конкуренции не настолько много, чтобы гиперскелеры и лаборатории вроде антропика и Open AI не могли привлекать деньги и делать долгосрочные инвестиции. Так что я думаю, что сейчас баланс довольно удачный. Нас ждёт и появление большого количества компаний и значительный рост самих гиперскейлов. Думаю, это примерно так. Термины поддерживающая и разрушающая технология пришли из дилеммы инноватора. Идея в том, что при появлении нового технологического тренда существует некая кривая мощности. Сначала это выглядит почти как игрушка или как что-то, что толком не работает и захватывает лишь нижний сегмент рынка. Но по мере развития технология поднимается по этой кривой и в итоге начинает разрушать даже позиции действующих лидеров. Сначала лидеры не обращают на неё внимания, потому что она выглядит как игрушка, а потом в какой-то момент она разрушает всё и поглощает весь рынок. Так было с персональными компьютерами. Когда ПК только появились, крупные производители майнфреймов не воспринимали их всерьёз. Сначала это было что-то вроде игрушки для детей, а у них были большие компьютеры, датацентры и так далее. А теперь даже дата-центры работают на ПК и их производных. То есть ПК стали колоссальной разрушительной технологией. Но бывают и такие технологии, которые, наоборот, сильно помогают существующим игрокам и почти не дают преимуществ новым компаниям и стартапам. Я думаю, что Адам прав. Здесь работает и то, и другое. Возможно, впервые мы видим именно такую ситуацию. Интернет был крайне разрушительной технологией, но сейчас ощущение такое, что И одновременно является очевидным усилителем для лидеров рынка, для гиперскейлов, крупных интернет-компаний. И в то же время он позволяет создавать новые бизнес-модели, которые в чём-то противопоставлены существующим. Хотя, мне кажется, произошло ещё и то, что все прочитали эту книгу и научились тому, как не быть разрушенными. Например, чат GPT был фундаментально контрпозиционирован по отношению к Google, потому что у Google уже был работающий бизнес. Чат GPT воспринимался как технология, которая много галлюцинирует и генерирует недостоверную информацию. А Google всегда стремился быть источником доверия. У Google внутри был свой чат GPT. Но они не выпускали GI почти 2 года после появления Чат GPT. И за это время Чtиграть как минимум в узнаваемости бренда. В каком-то смысле Open AI была выпущена как разрушительная технология, но теперь Google осознал, что это разрушительная технология, и начал на неё отвечать. При этом всегда было очевидно, что и в любом случае выгоден Google. Как минимум их обзорные ответы в поиске стали значительно лучше. Рабочее пространство в принципе становится лучше с Gemini. мобильные телефоны, всё становится лучше. Так что создаётся ощущение, что это одновременно и то, и другое. Я с этим очень согласен. Такое чувство, что все прочитали эту книгу. И это меняет сам смысл теории, потому что теперь все инвесторы на публичных рынках читали её и будут наказывать компании за отсутствие адаптации и вознаграждать за адаптацию, даже если это требует долгосрочных инвестиций. Думаю, всё управленческое руководство компании тоже читало эту книгу и находится в полной боевой готовности. Плюс мне кажется, что люди, которые сейчас управляют этими компаниями, в среднем умнее, чем руководители компании того поколения, на основе которого эта книга вообще писалась. Они находятся на пике формы. Многие компании контролируются основателями, и поэтому им проще переживать краткосрочные потери и делать такие инвестиции. Так что, если честно, я думаю, что если бы мы находились в среде вроде той, что была, скажем, в девяностых, эта технология была бы куда более разрушительной, чем в том гиперконкурентном мире, в котором мы живём сейчас. Одна ошибка, над которой мы, как Вёрм, размышляли в последние несколько лет, хотя, конечно, я здесь всего лишь несколько месяцев, это идея, что мы отказывались от инвестиций в компании, потому что они не должны были стать лидерами рынка или победителями категории. И мы думали: "Ну вот, извлекая уроки из эпохи Web2. 0, нужно инвестировать именно в победителя категории. Именно там со временем будет происходить консолидация и накапливаться основная ценность". И поэтому, казалось, зачем делать ещё одну компанию с фундаментальной моделью, если первая уже имеет фору? Но сейчас рынок стал настолько больше и в фундаментальных моделях, и в приложениях, что появляется сразу несколько победителей. Они как бы фрагментируют рынок и забирают его части. И все эти части имеют венчурный масштаб. Мне интересно, является ли это устойчивым феноменом или нет, но это выглядит как одно из отличий от эпохи Web2. 0. Больше победителей в большем количестве категорий. Думаю, сетевые эффекты сейчас играют гораздо меньшую роль, чем в эпоху web2. 0, и это облегчает запуск конкурентов. Конечно, преимущество масштаба всё ещё есть. Если у тебя больше пользователей, ты получаешь больше данных. можешь привлечь больше капитала. Но это преимущество не делает конкуренцию абсолютно невозможной для компании меньшего масштаба. Это усложняет задачу. но определённо оставляет больше пространства для нескольких победителей, чем раньше. Думаю, ещё одно отличие в том, что люди настолько явно видят ценность, что готовы платить уже на раннем этапе. В эпоху Web2. 0 часто возникал вопрос: "А как эти компании вообще будут зарабатывать? " Про ранний Facebook, про Google и так далее всегда было. А как они будут монетизироваться? Здесь же компании зарабатывают с самого начала. Да, и я думаю, что у предыдущего поколения компаний монетизация сильно зависела от масштаба. Ты не мог построить хороший рекламный бизнес, пока не достиг миллионов или десятков миллионов пользователей. А сейчас, благодаря подпискам, можно брать деньги сразу, особенно благодаря таким инструментам, как страйп, которые сильно упростили этот процесс. И это тоже сделало рынок гораздо более дружелюбным для новых игроков. Есть ещё вопросы и геополитики. Например, очевидно, что мы больше не живём в эпоху глобализации, и, возможно, ситуация станет ещё хуже. Поэтому инвестировать в фундаментальную модель, условный Open AI Европы, может быть хорошей идеей. Аналогичны и Китай - это совершенно отдельный мир. Так что здесь появляется интересный геополитический аспект. И вдруг вся наша геополитическая, так сказать, гиковская экспертиза становится полезной. Адам, вы говорили о человеческом знании. Ты рассматривал по как некоторое саморазрушение своего же продукта в каком-то смысле? Или расскажи о той ставке, которую ты сделал запуская по и о том, как ты видел его эволюцию. Знаешь, я думаю, мы воспринимали по скорее как дополнительную возможность, а не как угрозу для квора. Как мы к этому пришли? В начале 2022 года мы начали экспериментировать с использованием GPT3 для генерации ответов на квора. Мы сравнивали их с человеческими ответами и поняли, что они не так хороши. Но при этом было нечто действительно уникальное. Ты мог мгновенно получить ответ на любой вопрос, который хотел задать. И мы поняли, что это не обязательно должно быть публичное. На самом деле людям скорее хочется, чтобы это было в приватном формате, и мы почувствовали, что здесь появляется новая возможность дать людям общаться с и в личном пространстве. Да, и казалось, что ты также делал ставку на то, как будут развиваться разные игроки, что их будет несколько. Да, это была ставка на разнообразие компаний, создающих модели, и понадобилось время, чтобы это начало реализовываться. Но сейчас, мне кажется, мы подходим к точке, где моделей стало много, компаний стало много. Особенно, если смотреть на разные модальности модели изображений, видеоаудио, плюс исследовательские модели рассуждений. Они начинают расходиться, агенты становятся самостоятельным источником разнообразия. Так что нам повезло войти в мир, где теперь существует достаточно разнообразия, чтобы универсальный интерфейс агрегатор имел смысл. Но да, поначалу это действительно была ранняя ставка. Мы как бы, на самом деле, удивительно, что даже не особо технические пользователи используют несколько и я этого не ждал. Раньше условно люди пользовались только Google. Они не сравнивали Google с Yahoo или делали это очень редко. А теперь ты говоришь с обычными людьми, и они говорят: "Да, я чаще всего использую чат GPT, но Gemй лучше подходит для таких-то вопросов. Так что да, уровень продвинутости пользователей заметно вырос. И даже люди говорят, что у разных моделей разные личности, и им, например, больше откликается Клод или ещё кто-то. Я хочу вернуться к тому, что мы обсуждали раньше, Адам, когда ты говорил про тёмную материю, про грубую силу. Есть огромное количество знаний, которыми люди обладают, но которые ещё не структурированы. И это не просто знания о выполнении задач, это знания, о которых можно спросить, и человек способен их описать. Один из главных вопросов про языковые модели. Мы уже обучили их на всём интернете. Сколько ещё знаний вообще существует? Это 10X, 1. 000x. Каково твоё интуитивное ощущение, если мы просто в лоб построим огромную машину, которая вытаскивает все знания из людей и превращает их в датасет, который потом можно использовать. Какое преимущество мы здесь видим? Это очень сложно количественно оценить. Но сейчас формируется огромная индустрия вокруг того, чтобы переводить человеческие знания в форму, пригодную для Ии. Это такие компании, как SKIi, Search, Merc, но есть и огромный длинный хвост других компаний, которые только начинают появляться. И по мере того, как интеллект становится всё дешевле, мощнее и доступнее, узким местом, как мне кажется, всё больше будут становиться данные. Какие данные нужны, чтобы создать этот интеллект? Это будет стимулировать всё больше подобных процессов. Возможно, люди смогут зарабатывать всё больше денег, обучая и возможно будет запускаться всё больше таких компаний, а возможно появятся и другие формы этого процесса. Но в целом, мне кажется, экономика естественным образом будет всё выше ценить то, чего и пока не умеет делать. А есть ли какая-то рамка того, чего и не может? Как это вообще формализовать? Честно говоря, не знаю. Если спросить исследователя Ии, у него, возможно, будет более чёткий ответ. Но для меня всё довольно просто. Есть информация, которой нет в обучающем датасете. И это, по определению, то, чего Ии сделать не может. Да, Ии станет очень умным. Он сможет делать сложные рассуждения. Он, возможно, сможет доказать любую математическую теорему, если задать систему аксиом. Но если он не знает, как конкретная компания решила конкретную проблему 20 лет назад, и если этого не было в обучающих данных, то ответить на этот вопрос сможет только человек, который это помнит. Тогда как ты видишь взаимодействие кувора с этим миром со временем? Как вы запускаете всё это параллельно? Как вы об этом думаете стратегически? Да, Кора по-прежнему сфокусирована на человеческом знании и на том, чтобы люди могли делиться своим опытом. Это знание полезно другим людям, и оно также полезно для ИИ, как материал для обучения. У нас есть партнёрство с некоторыми AI-лабораториями, и Куора будет играть ту роль, для которой она и предназначена в этой экосистеме. быть источником человеческого знания. При этом и делается мукуора значительно лучше. Мы смогли сильно улучшить качество модерации, ранжирование ответов и в целом пользовательский опыт. Применение и заметно прокачало продукт. Я хочу поговорить о твоём будущем. Очевидно, что у тебя был бизнес, который долгое время был ориентирован на разработчиков. В какой-то момент вы ориентировались на некоммерческий сектор. Нет, точнее, на рынок Этек. Насколько я помню, вы тогда сообщили о выручке в 2-3 млн долларов. А потом относительно недавно Тегкранч, понимаю, что данные могут быть устаревшими, писал уже примерно о 150 млнх. И насколько я знаю, с учётом последнего роста, эта цифра сейчас ещё выше после смены бизнес-моделей и целевого сегмента. Как ты смотришь на будущее, Реплит? Думаю

Карпат недавно сказал, что нас ждёт десятилетие агентов. И я с этим полностью согласен. Если сравнить с предыдущими этапами и в программировании, сначала был автокомплет Copilot, потом чат подход с чат GPT, затем CERS предложил режим композитора, когда редактируются большие куски кода. Ну а на этом всё. То, что сделал плит - это агент. Идея в том, что он не просто редактирует код, а управляет всей средой разработки, поднимает инфраструктуру, базы данных, делает миграции, подключается к обла, внедряет, запускает код, гоняет тесты, отлаживает. Весь цикл разработки замкнут внутри одного агента, и это будет очень долго развиваться. Наш агент в бетаверсии вышел в сентябре двадцать четвёртого года. Это был первый продукт такого рода, который работал и с кодом, и с инфраструктурой, но он был довольно сырой и работал не очень стабильно. Затем вышел agent V1 примерно в декабре, уже на новом поколении моделей. Мы перешли с Клод 3. 5 на 3. 7. И именно 3. 7 стала первой моделью, которая действительно умела работать с компьютером, с виртуальной машиной. Неудивительно, что это была и первая компьютерюзмодель. Эти вещи развиваются параллельно. С каждым новым поколением моделей мы открываем новые возможности. Agent V1 мог работать автономно около 2 минут. Agent V2 уже около 20 минут. Agent V3 мы рекламировали как способный работать 200 минут, просто потому, что это красиво звучало и выглядело симметрично. Но по факту он может работать почти бесконечно. У нас есть пользователи, которые запускали его на 20 плюс часов подряд. Основная идея заключалась в том, что если добавить в цикл проверку, всё начинает работать иначе. Я помню, как читал статью Nvidia про diк том, как они использовали дипсик для написания куда ядер. Им удавалось запускать дипсик минут на 20, если в процессе был встроен верификатор, например, возможность прогонять тесты или что-то подобное. Я подумал: "Хорошо, а какой верификатор мы можем встроить в наш цикл? " Очевидный вариант юнит-тесты, но юнит-тесты на самом деле не показывают, работает ли приложение целиком. Поэтому мы начали глубже копаться в идее использования компьютера. Сможет ли модель сама тестировать приложение? Такой подход очень дорогой и к тому же пока довольно глючный. Как говорил Адам, - это большая зона роста, и именно она откроет множество новых сценариев. В итоге мы собрали собственный фреймворк с кучей хаков, элементами и исследований, которые имитируют использование компьютера. На мой взгляд, это один из лучших способов тестирования моделей. Когда мы встроили это в цикл, стало возможным запускать рэплит на высоком уровне автономности. У нас есть шкала автономности. Ты сам выбираешь, насколько автономным будет агент. Дальше всё происходит автоматически. Он пишет код, запускает тесты. Если возникает ошибка, читает лог, переписывает код и продолжает. Он может работать так часами. Я видел, как люди создавали потрясающие вещи, просто давая системе работать долгое время. Конечно, это должно становиться лучше, дешевле и быстрее. Работать долго не повод для гордости. Всё должно происходить максимально быстро. Мы над этим работаем. В Agent 4 появится много новых идей, но одна из ключевых, ты не должен просто ждать выполнения одной задачи, которую запросил. Ты должен иметь возможность работать

сразу над множеством функций. Поэтому идея параллельных агентов для нас очень важна. Ты можешь запросить страницу логина. параллельно оформление оплаты через strike, а затем админ-панель. И должен уметь сам решать, какие задачи можно выполнять параллельно, а какие нет, и при этом корректно объединять код. Возможность совместной работы нескольких иагентов критически важна. Именно так резко возрастает продуктивность одного разработчика. Сейчас, даже если ты используешь клодкод, крср и подобные инструменты, настоящего параллелизма там почти нет. Я думаю, следующий скачок продуктивности произойдёт тогда, когда разработчик будет сидеть в среде вроде рэплит и управлять десятками агентов. Возможно, со временем сотнями, но как минимум 5 6 7 8 9 10 агентов, которые одновременно работают над разными частями продукта. И ещё я считаю, что интерфейсы и пользовательский опыт сейчас сильно недоработаны. По сути, тебе приходится переводить свои идеи в текст в формате PRD или описании продукта, как это делают продукт-менеджеры. Но с описаниями продуктов всё действительно сложно. Это видно во многих технологических компаниях. Очень трудно договориться о точном наборе функций, потому что язык по своей природе неточен. Поэтому я думаю, что нас ждёт мир, где взаимодействие с И будет гораздо более мультимодальным. Например, ты открываешь виртуальную доску, рисуешь, строишь схемы вместе с и работаешь с ним так же, как с живым человеком. Следующий этап это лучшая память и внутри одного проекта, и между разными проектами. А, возможно, появятся разные инстансы быстрых агентов. Допустим, один агент отлично разбирается в Pйthзе данных, потому что у него есть вся информация, навыки и память о моей компании и о том, что она делала раньше. У меня будет отдельный агент для аналитики данных, отдельный для фронтенда, и у них будет память, накапливающаяся от проекта к проекту со временем и через все взаимодействия. Возможно, они будут жить прямо в слаг, как полноценные сотрудники, с которыми можно просто разговаривать. Я мог бы ещё минут 15 рассказывать о дорожной карте, рассчитанной на три-четыре или даже 5 лет вперёд. Но если коротко, текущая фаза, фаза агентных систем только начинается. Работы огромное количество, и это будет очень увлекательно. Да, я недавно говорил с нашим общим знакомым, со основателем одной крупной компании в сфере продуктивности. Он возглавляет у них РНДИ. И он сказал: "Знаешь, в течение рабочей недели я сейчас почти не общаюсь с людьми. Я просто использую всех этих агентов, чтобы что-то создавать". В каком-то смысле жизнь в будущем уже стала частью настоящего. В этом есть что-то любопытное. Люди в компаниях действительно начинают меньше общаться друг с другом. И вопрос в том, плохо это или нет. Я всё чаще задумываюсь о последствиях второго порядка. Например, как это скажется на выпускниках, которые только приходят в профессию. Мне их искренне жаль. Если люди перестанут делиться знаниями между собой, если становится культурно неловко просить о помощи, потому что предполагается, что ты должен просто использовать и агентов. Здесь возникают серьёзные культурные сдвиги, с которыми нам ещё предстоит разобраться. Сейчас вообще много сложных культурных факторов для зумеров. Я уже подвожу к завершению. Понятно, что вы

сфокусированы на управление своими компаниями, но чтобы оставаться в контексте экосистемы, вы ещё и делаете ангельские инвестиции. Где вам сейчас интереснее всего? Мы почти не говорили про работотехнику. Вы настроены оптимистично по поводу работотехники в ближайшей перспективе? Или есть какие-то новые категории, сценарии использования области, в которые вы планируете инвестировать. Я вообще считаю, что вайбкодинг - это невероятно высокопотенциальная тема. Сама идея того, что весь этот Ты думаешь, это всё ещё недооценено? Думаю, да. Мне кажется, сама идея открыть возможности программного обеспечения для массовой аудитории, для буквально всех, это уже колоссально. Если честно, одна из причин, почему я считаю это направление недооценённым, в том, что существующие инструменты всё ещё очень далеки от уровня профессионального инженера-разработчика. Но если представить, что они до этого уровня дойдут, а я не вижу причин, почему этого не должно произойти, да, на это уйдёт несколько лет, но в итоге любой человек в мире сможет создавать вещи, которые раньше требовали команды из 100 профессиональных программистов. Это радикально расширит возможности для всех. Плит отличный пример такого подхода, но я думаю, что подобные сценарии применения появятся далеко не только в разработке приложений. Кстати, раз уж мы об этом заговорили, если бы ты сегодня в двадцать пятом году поступал в Стэнфорд или Гарвард, ты бы снова выбрал компьютерные науки или просто сосредоточился на создании чего-то? Думаю, да, выбрал бы. Я поступил в колледж в 2002 году сразу после того, как лопнул пузырь доткомов. И тогда было много пессимизма. Я помню, как родители моего соседа по комнате говорили ему: "Не изучая компьютерные науки, хотя ему это действительно нравилось. А я просто пошёл туда, потому что мне это нравилось". Я думаю, что да, рынок труда сейчас хуже, чем было несколько лет назад. Но при этом понимание базовых вещей, того, что возможно с алгоритмами и структурами данных, на самом деле очень помогает, особенно когда ты управляешь агентами и используешь их. Я предполагаю, что это и дальше будет ценным навыком. Плюс есть ещё вопрос: а что ещё вообще изучать? Практически про любую область можно привести аргумент, что она будет автоматизировано. Так что, думаю, имеет смысл изучать то, что тебе действительно нравится. И компьютерные науки в этом смысле ничем не хуже других вариантов. Да, тут есть от чего загореться. Есть одна, может быть, немного случайная вещь, но меня очень вдохновляют такие безумные научные эксперименты. Например, психосиар, который вышел на днях. Ты его видел? Это просто дико. Поправь меня, если я ошибаюсь, потому что я смотрел это довольно поверхностно. Но суть в том, что можно гораздо экономнее работать с контекстным окном, если у тебя есть скриншот текста, а не сам грёбаный текст. Да, я не самый подходящий человек, чтобы тебя тут поправлять, но там точно есть очень интересные вещи. Да, я ещё видел на Hacker News на днях шутку про текстовую диффузию, где кто-то сделал модель текстовой диффузии. Вместо гаусовского зашумления он брал один экземпляр БРТ и, по сути, маскировал разные слова и пытался предсказывать токены. У нас сейчас есть огромное количество компонентов, но, мне кажется, люди не так уж часто об этом задумываются. У нас есть базовые предобученные модели. Есть модели с обучением, с подкреплением для рассуждений, энкодер декодерной архитектуры, диффузионные модели. Всего этого очень много. Идея просто комбинировать их по-разному кажется мне невероятно перспективной. И хотелось бы увидеть новую исследовательскую компанию, которая не пытается напрямую конкурировать с Open AI. А вместо этого она просто пытается понять, как собрать все эти разные компоненты вместе, чтобы создать новый вкус таких моделей. Да, в крипте говорят о композиционности, о смешивании примитивов, и, возможно, вы и тоже нужно больше экспериментов в этом духе. Мне кажется, сейчас стало меньше игры ради игры. Я помню эпоху Web 2. 0, когда мы экспериментировали с JavaScript, возможностями браузеров, вебворкерами и всем таким. Было много странных, необычных, но очень интересных экспериментов. Собственно, Rплит вырос именно из этого. Самая первая open source версия RLID ещё до появления компании родилась из вопроса: а можно ли скомпилировать C в JavaScript? Это казалось безумно интересным. В итоге это сталозм через MSриptн, и тогда это было жутким хаком. Но мне кажется, сейчас мы в такой эпохе Кремниевой долины, где всё очень сильно завязано на быстро разбогатеть. И это меня немного огорчает. Отчасти поэтому я и перевёз компанию из Сан-Франциско. У меня ощущение, что культура Сан-Франциско стала, может я не застал это лично, но во времена доткомов многие говорили, что там тоже было быстро разбогатеть, как потом скриптой. И мне кажется, что сейчас очень не хватает именно возни. тюнинга, экспериментов. Я бы хотел видеть больше такого и больше компаний, которые получают финансирование просто за попытку сделать что-то более новое, даже если это не означает создание принципиально новой модели. Последний вопрос. Амже, ты давно интересуешься сознанием? Ты оптимистичен в том, что

благодаря работе над или какому-то другому научному прогрессу мы всё-таки продвинемся в понимании этой трудной проблемы, хотя бы где-то? Знаешь, недавно произошло кое-что интересное. Клод 4. 5, похоже, стал лучше осознавать длину своего контекста. Когда он приближается к концу контекстного окна, он начинает гораздо экономнее расходовать токены. Также кажется, что у него резко выросло понимание того, когда его ред тимят или когда он находится в тестовой среде. И в этом что-то происходит довольно любопытное. Но если говорить о сознании, то это по-прежнему фундаментально не научный вопрос. Мы в каком-то смысле отказались от попыток сделать его научным. И здесь проявляется та же проблема, о которой я говорил раньше. Вся энергия уходит в лмы, и почти никто не пытается по-настоящему задуматься о природе интеллекта, о природе сознания. А там есть огромное количество по-настоящему базовых, фундаментальных вопросов. Одна из моих любимых работ книга Роджера Пенроуза. Новый ум императора. В ней он писал о том, как в философии сознания и в более широком научном сообществе люди начали рассматривать мозг как компьютер. И в этой книге он пытался показать, что мозг в принципе не может быть компьютером, потому что люди способны делать вещи, которые машины тюринга делать не могут или на которых они фундаментально застревают. например, на простых логических парадоксах, которые мы способны распознать, но которые невозможно формально закодировать в машине тюринга. Скажем, утверждение - это утверждение ложно. Классический логический парадокс. В общем, аргумент довольно сложный, но если читать эту книгу или многие другие работы, то в теории сознания есть целый пласт аргументов о том, что компьютеры принципиально отличаются от человеческого интеллекта. Так что да, я, честно говоря, не сильно обновлял свои взгляды на эту тему. Я был очень занят. Но мне кажется, что здесь есть огромное поле для исследований, которое сейчас почти не изучается. Если бы ты сегодня поступал в колледж первокурсником, ты бы изучал философию? Я бы да. Я бы точно пошёл в философию сознания и, скорее всего, занялся бы нейронауками, потому что, на мой взгляд, именно там находятся ключевые вопросы, которые станут крайне важными по мере того, как и всё сильнее будет влиять на нас. Отличное место, чтобы закончить. Спасибо, что пришли к нам. เ