Главное ИИ-интервью 2026 года в Давосе: Anthropic и DeepMind на одной сцене

Добро пожаловать всем присутствующим и также тем, кто присоединился к нам по прямой трансляции. На этот разговор, которого, должна признаться, я ждала с нетерпением уже несколько месяцев. В прошлом году в Париже мне посчастливилось модерировать беседу между Дарио Амадей и Демисом Хасабисом. И боюсь, наибольшее внимание она привлекла из-за того, что вы вдвоём были буквально втиснуты на очень маленький диванчик, в то время как я сидела на огромном диване, что, вероятно, было моей ошибкой. Но тогда я сказала, что для меня это было похоже на ведение беседы между The Beatles и The Rolling Stones. И с тех пор у вас не было совместного разговора на сцене, так что это сиквел. Группы снова собираются вместе. Я очень рада. В представлении вы не нуждаетесь. Название нашего разговора день после AGI, что, возможно, немного забегает вперёд, потому что нам, вероятно, сначала стоит обсудить, как быстро и насколько легко мы вообще туда придём. Итак, прежде всего о сроках. Дарио, в прошлом году в Париже ты

сказал, что к двадцать шестому-двать седьмому году у нас будет модель, способная делать всё, что может человек на уровне Нобелевского лауреата в разных областях. Сейчас уже двадцать шестой. Ты по-прежнему придерживаешься этого прогноза? Всегда сложно точно сказать, когда именно что-то произойдёт, но я не думаю, что этот прогноз окажется сильно ошибочным. Механизм, как я его себе представлял, заключается в том, что мы создадим модели, которые хорошо пишут код и хорошо занимаются и исследованиями, и будем использовать их для создания следующего поколения моделей, ускоряя процесс, формируя петлю, которая будет увеличивать скорость развития моделей. Сейчас, если говорить о моделях, которые пишут код, у меня есть инженеры внроop, которые говорят: "Я больше не пишу код сам. Я просто позволяю модели писать код, а затем редактирую его и занимаюсь всем, что вокруг. Я думаю, возможно, мы находимся в 612 месяцах от момента, когда модель будет делать большую часть, а может быть, и всё, что сейчас делают инженеры, полностью. И тогда вопрос будет в том, как быстро замкнётся эта петля. Не каждую часть этой петли можно ускорить с помощью Ии. Есть чипы, есть производство чипов, есть время обучения модели. Так что здесь много неопределённости. легко представить, как это может занять ещё несколько лет. Мне очень сложно представить, как это могло бы занять значительно больше времени. Но если бы мне пришлось загадывать, я бы сказал, что это произойдёт быстрее, чем люди ожидают, и что ключевым драйвером станет именно ускорение кода и всё больше исследований. Очень сложно предсказать, насколько сильная эта экспонента нас ускорит, но что-то быстрое точно произойдёт. Демис, в прошлом году ты был немного осторожнее. Ты говорила о пятидесятипроцентной вероятности появления системы, способной демонстрировать все когнитивные способности человека к концу десятилетия. Очевидно, что в программировании, как говорит Дарио, прогресс был впечатляющим. Каково твоё текущее ощущение? Да, я думаю, что в целом остаюсь примерно на том же таймлайне. Прогресс действительно был впечатляющим, но я считаю, что некоторые области, инженерная работа, программирование, можно сказать, математика проще автоматизировать отчасти потому что результат там проверяем. Мы можем понять, правильный он или нет. В некоторых областях естественных наук всё гораздо сложнее. Вы не всегда знаете, правильное ли химическое соединение вы создали или верно ли предсказание в физике. Возможно, это придётся проверять экспериментально, а это всегда занимает больше времени. Я также думаю, что сейчас не хватает некоторых способностей не только решать существующие гипотезы или задачи, но и формулировать вопросы с нуля, создавать теории или гипотезы. Я считаю, что это гораздо сложнее и что именно здесь находится высший уровень научного творчества. И пока неясно. Я не думаю, что такие системы невозможны, но, возможно, не хватает одного-двух ключевых ингредиентов. Пока остаётся открытым вопрос, сможет ли эта петля самоулучшения, над которой мы все работаем, замкнуться без участия человека. Я также считаю, что у таких систем есть риски, о которых, кстати, нам стоит поговорить. И я уверен, мы это сделаем. Но если такая система всё же заработает, она действительно может значительно ускорить прогресс. Криска мы

вернёмся через минуту. Но ещё одно изменение за прошедший год, о котором я думаю - это своего рода смена расстановки сил в этой гонке, если можно так сказать. Год назад у нас был так называемый момент псик. Все были невероятно воодушевлены тем, что там произошло. И всё ещё существовало ощущение, что Google Deep Mind в каком-то смысле отстаёт от Open AI. Сейчас, я бы сказала, картина выглядит совсем иначе. В конце концов, вы объявили красный код в компании. Это был довольно насыщенный год. Расскажи, пожалуйста, что именно тебя удивило за это время? В чём вы сами превзошли ожидания в этом году? И дальше я задам вопрос о расстановке игроков. Я всегда был уверен, что мы сможем вернуться на вершину турнирной таблицы и снова выпускать модели уровня сото по всем направлениям. Потому что у нас всегда была самая глубокая и широкая исследовательская база. Вопрос был в том, чтобы собрать всё это воедино, вернуть интенсивность, фокус и своего рода стартап-мышления всей организации. Это потребовало огромного объёма работы, и работы впереди ещё очень много, но я думаю, уже можно видеть прогресс, как в самих моделях, например, с выходом GNI 3, так и на продуктовом уровне, где приложение GMI постепенно увеличивает свою долю рынка. Так что я чувствую, что мы движемся очень хорошо. Но впереди ещё масса задач. Google Deep Mind по сути становится таким машинным залом Google, местом, где мы учимся всё быстрее и быстрее выводить наши модели прямо в продукты на пользовательские поверхности. У меня есть вопрос к тебе, Дарио, в этом контексте. Ты только что прошёл через новый раунд инвестиций с, мягко говоря, выдающейся оценкой, но в отличие от них, ты являешься независимым разработчиком моделей. И сейчас всё чаще звучит обеспокоенность тем, что независимые разработчики моделей не смогут продержаться достаточно долго, чтобы дойти до момента, когда начнут поступать значимые доходы. Об этом довольно открыто говорят применительно к Open AI. Расскажи, как ты сам смотришь на эту ситуацию. Да, конечно. То, как мы об этом думаем, связано с тем, что по мере того, как мы создаём всё более качественные модели, возникает своего рода экспоненциальная зависимость. не только между объёмом вычислений, которые ты вкладываешь в модель и её когнитивными способностями, но и между её когнитивными способностями и тем, какой доход она может генерировать. Наша выручка выросла в 10 раз за последние 3 года. С нуля до 100 млн в двадцать третьем году, со млн до миллиарда в двадцать четвёртом и с миллиарда до 10 млрд в двадцать пятом. Я не знаю, будет ли эта кривая буквально продолжаться дальше. Было бы безумием, если бы так произошло, но эти цифры уже начинают приближаться к масштабам крупнейших компаний в мире. Конечно, неопределённость остаётся. Мы пытаемся построить всё с нуля. Это безумная задача. Но у меня есть уверенность, что если мы сможем создавать лучшие модели в тех областях, на которых мы фокусируемся, то всё сложится хорошо. И в целом, я бы сказал, что это был хороший год и для Google, и для антроopк. И, как мне кажется, у нас есть нечто общее. И там, и там компании, или, по крайней мере, их исследовательские подразделения возглавляются исследователями, которые сосредоточены на моделях и на решении действительно важных мировых проблем, у которых есть сложные научные задачи в качестве своего ориентира. И я думаю, что именно такие компании будут успешны в будущем. И в этом смысле, как мне кажется, у нас много общего. Я удержусь от соблазна спросить, что же случится с компаниями, которые не возглавляются исследователями, потому что я знаю, что ты на это не ответишь. Давайте тогда перейдём к области прогнозов. Формально мы должны говорить о дне после и. Но давайте сначала поговорим о замыкании петли, о вероятности того, что появятся модели, которые смогут замкнуть этот цикл и самостоятельно поддерживать и ускорять своё развитие. Потому что именно это и является ключевым моментом в сценарии победитель забирает всё. Вы по-прежнему считаете, что мы с большой вероятностью это увидим? Или же развитие будет больше похоже на обычную технологию, где догоняющие последователи смогут конкурировать? Я определённо не думаю, что это будет обычная технология. Уже сейчас есть аспекты, о которых говорил Дарио, и уже помогает нам с программированием и некоторыми направлениями исследований. Полное замыкание петли, однако, остаётся неизвестной величиной. Я считаю, что, в принципе, это возможно, но, возможно, для этого в некоторых областях потребуется сам. И снова в тех доменах, где всё гораздо более неоднозначно, очень сложно быстро проверить правильность результата. Есть области близкий кпихарт. Кроме того, я включаю сюда и физические, и работающую работотехнику. Все эти вещи, где в контуре появляется железо. А наличие аппаратной части может ограничивать скорость, которой системы самоулучшения способны работать. Но в программировании, математике и подобных областях я вполне могу представить, что это заработает. И тогда более теоретический вопрос заключается в том, каков предел возможностей инженерии и математики в решении задач естественных наук. Дарио, в прошлом году, если не ошибаюсь именно в прошлом, ты опубликовал эссейс. Это был, я бы сказала, довольно оптимистичный текст о потенциале того, что, по твоему мнению, должно развернуться. Ты там говорил, если я правильно помню, о неком гении данных, доступном на уровне страны по запросу. Мне сказали, что ты сейчас работаешь над обновлением. новым эсс. Так что, ребята, запасайтесь терпением. Его ещё нет, но оно выйдет. А пока, возможно, ты можешь дать нам небольшой спойлер. Каким будет твой главный вывод спустя год? Да, в целом моя позиция не изменилась. Я всегда считал, что Ии будет невероятно мощной технологией. Думаю, мы с Демисом здесь в целом согласны. Вопрос лишь в том, когда именно. И именно потому, что и будет невероятно мощным, он сможет сделать множество замечательных вещей, о которых я писал в машин and Graceйс. Он поможет нам лечить рак, возможно, поможет искоренить тропические заболевания, поможет глубже понять устройство Вселенной. Но при этом существуют огромные и серьёзные риски. Не в том смысле, что мы не способны с ними справиться, я не Думер, а в том, что мы обязаны о них думать и обязаны с ними работать. Я сначала написал машинцу Love and Graceйс. Мне бы хотелось придумать какое-то изощерённое объяснение, почему именно так. Но на самом деле всё проще. Позитивное эссе было легче и приятнее писать, чем негативное. Так что я наконец нашёл время во время отпуска и смог написать текст о рисках. И даже когда я пишу о рисках, я стараюсь оставаться собой. Я ведь по природе оптимистичный человек. Так что даже когда я пишу об этих рисках, я стараюсь формулировать это в ключе. Как нам преодолеть эти риски? Какой у нас должен быть план действий, чтобы с ними справиться? И я задал для себя такую рамку. Есть сцена из фильма Карла Сагана Контакт, именно из киноверсии, где люди обнаруживают внеземную жизнь. И существует международная комиссия, которая, по сути, проводит собеседование с кандидатами на роль представителя человечества при встрече с инопланетянами. И одному из кандидатов задают вопрос: "Если бы вы могли задать инопланетянам всего один вопрос, каким бы он был? " И один из персонажей отвечает: "Я бы спросил: "Как вы это сделали? Как вам удалось пройти через технологическую юность, не уничтожив самих себя? Как вы смогли выжить? " И с тех пор, а фильм я видел, кажется, лет 20 назад. Эта мысль не отпускает меня. Именно эту рамку я и использовал. Мы стоим на пороге невероятных возможностей. Возможности, по сути, создавать машины из песка. Я считаю, что с того момента, как мы начали работать с огнём, всё это было неизбежно. Но вот то, как мы с этим справимся, вовсе не неизбежно. Я думаю, что в ближайшие несколько лет нам придётся разбираться с тем, как удерживать под контролем системы, которые будут высокоавтономными и умнее любого человека. Как сделать так, чтобы отдельные люди не злоупотребляли ими? Меня беспокоят такие вещи, как биотерроризм. Как убедиться, что государства не будут использовать их во вред? Именно поэтому я так обеспокоен действиями КПК и других авторитарных режимов. Каковы будут экономические последствия? Я много говорил о вытеснении рабочих мест и о чём мы ещё не подумали, а во многих случаях именно это может оказаться самым сложным. Так что я сейчас в основном размышляю о том, как справляться с этими рисками. Для каждого из этих пунктов требуется сочетание действий, того, что мы должны сделать индивидуально, как лидеры компании, того, что мы можем делать совместно, и того, где неизбежно потребуется участие более широких общественных институтов, таких как государство, для решения всех этих вопросов. Но у меня есть острое чувство срочности. Каждый день в мире за пределами Иисходит огромное количество безумных событий. Но, по моему мнению, это развивается настолько быстро и является настолько серьёзным кризисом, что мы должны посвящать почти все свои усилия тому, чтобы понять, как через это пройти. Я не могу решить, что меня удивляет больше. Во-первых, что ты вообще берёшь отпуск. Во-вторых, что, находясь в отпуске, ты думаешь о рисках Ии. Или, в-третьих, что твоё эссе построено вокруг вопроса, сможем ли мы пройти через технологическую юность этой технологии, не уничтожив себя. У меня, признаться, немного кружится голова, но я с нетерпением жду, когда смогу это прочитать. Ты упомянул несколько тем, которые могут задать направление всей дальнейшей беседы. Давайте начнём с

рабочих мест, потому что ты высказывался об этом очень прямо. Насколько я помню, ты говорил, что до половины начальных офисных должностей могут исчезнуть в течение 1-5 лет. Но сейчас я хочу обратиться к тебе, Демис, потому что пока что мы фактически не наблюдаем заметного влияния на рынок труда. Да, безработица в США немного выросла, но все экономические исследования, которые я видела и о которых мы писали, указывают на то, что это следствие избыточного найма после пандемии, а не эффект и считаешь ли ты, что здесь сработает классический аргумент экономистов о том, что заблуждение о фиксированном объёме труда неверно, потому что на самом деле будут созданы новые рабочие места, потому что пока все данные, кажется, говорят именно об этом. Да, я думаю, что в краткосрочной перспективе всё будет происходить именно так. по классическому сценарию появления прорывной технологии. Некоторые рабочие места будут затронуты, но при этом появятся новые, возможно, даже более ценные и более осмысленные. Думаю, уже в этом году мы начнём видеть первые эффекты на самом начальном уровне, на уровне младших позиций, стартовых офисных должностей, стажировок и подобных вещей. Есть некоторые признаки, и мы сами это ощущаем. Возможно, небольшое замедление найма именно в этом сегменте, но, на мой взгляд, это слехвой компенсируется тем фактом, что сегодня существуют невероятно мощные креативные инструменты, практически доступные каждому и почти бесплатно. Если бы я сейчас выступал перед аудиторией студентов бакалавриата, я бы настоятельно рекомендовал им стать по-настоящему невероятно компетентными в работе с этими инструментами, вплоть до того, что даже мы, люди, которые создают эти системы, настолько заняты их разработкой, что нам самим трудно найти время, чтобы в полной мере исследовать тот запас возможностей, которые уже есть у нынешних моделей и продуктов, не говоря уже о завтрашних. И в этом смысле такая самостоятельная работа с и может быть даже более ценной, чем традиционная стажировка, потому что она позволяет перепрыгнуть несколько ступеней и быстрее стать полезным в профессии. Думаю, именно это мы и будем наблюдать в ближайшие 5 лет. Мы немного расходимся в оценке сроков, но это однозначно будет неизведанной территорией. Ты считаешь, что это займёт больше времени, чем ты думал в прошлом году, когда говорил: "Нет, в целом моя позиция осталась той же". Я на самом деле согласен и с тобой, и с Демисом в том, что на момент, когда я делал это заявление, никакого влияния на рынок труда ещё не было. Я и не утверждал, что оно уже тогда существовало. Сейчас, возможно, мы начинаем видеть самые первые очень слабые признаки этого, в первую очередь в программировании. Я не вижу этого пока внутри антропик, но я могу заглянуть вперёд и представить момент, когда на среднем уровне нам потребуется не больше, а меньше людей. И мы уже думаем о том, как подходить к этому внутри антропик, к разумным и ответственным образам. Прогноз от одного до 5 лет, который я озвучивал полгода назад, я бы оставил в силе. Если связать это с тем, о чём я говорил раньше, что И может превзойти человека практически во всём через 1-2 года, возможно, чуть позже, может показаться, что эти оценки не совсем совпадают. Причина в том, что существует временной лак и эффект замещения. Рынок труда в принципе адаптивен. Когда-то 80% людей занимались сельским хозяйством. Затем оно было автоматизировано, и люди стали рабочими на фабриках, а потом работниками умственного труда. То есть определённая способность к адаптации у экономики есть. И мы должны смотреть на рынок труда достаточно профессионально и трезво. Но моя тревога в том, что по мере того, как эта экспонента продолжает нарастать, а я не думаю, что это займёт много времени, скорее где-то от одного до 5 лет, скорость изменений превзойдёт нашу способность адаптироваться. Возможно, я говорю по сути то же самое, что и Демис, просто с поправкой на наши расхождение в сроках, которая в конечном счёте сводится к вопросу о том, насколько быстро замкнётся петля в программировании. Насколько ты уверен в том, что правительства вообще осознают масштаб происходящего и начинают думать о том, какие политические и регуляторные меры им необходимо принимать? Я не думаю, что сейчас делается хоть сколько-нибудь достаточный объём работы в этом направлении. Меня постоянно удивляет, что даже когда я встречаюсь с экономистами на подобных мероприятиях, многие из них, профессиональные экономисты и профессора, недостаточно глубоко задумываются о том, что нас ждёт. Причём не только на пути KGI, но и в сценарии, где все технические вопросы, о которых говорит Дарио, будут решены. Да, вытеснение рабочих мест - это одна из ключевых проблем, и нас всех волнуют её экономические последствия. Но, возможно, существуют способы более справедливого распределения этой новой производительности и нового богатства. Я не уверен, что у нас есть подходящие институты, чтобы справиться с этим. Но именно так всё и должно происходить. Возможно, мы окажемся в мире после дефицита, но даже тогда меня не дают Но даже тогда мне не дают покоя ещё более серьёзные вопросы, вопросы смысла и цели. Очень много из того, что мы получаем от работы, связано не только с экономикой. Это отдельный аспект, и, как ни странно, он может оказаться проще решаемым, чем вопрос о том, что произойдёт с человеческим состоянием и с человечеством в целом. При этом я остаюсь оптимистом и думаю, что мы найдём новые ответы и здесь. Уже сегодня мы занимаемся множеством вещей от экстремальных видов спорта до искусства, которые не имеют прямого отношения к экономической выгоде. Так что я считаю, что мы найдём новые формы смысла, возможно, даже более сложные и развитые версии таких занятий. Плюс, я думаю, мы будем исследовать космос и звёзды, и это тоже станет частью поиска цели. Но, на мой взгляд, крайне важно об этом думать. Насколько, по-твоему, велик риск общественного отторжения и который может подтолкнуть правительство к решениям, которые с твоей точки зрения будут попросту глупыми? Я вспоминаю эпоху глобализации в девяностые годы. Тогда действительно произошло вытеснение рабочих мест. Правительства сделали недостаточно. Общественная реакция была настолько сильной, что в итоге мы оказались там, где находимся сейчас. Считаешь ли ты, что существует риск, нарастающей антипатии к тому, чем занимаетесь вы и ваши компании со стороны политического общества? Я думаю, такой риск, безусловно, есть. И в целом это вполне объяснимо. Есть страхи и тревоги, связанные с рабочими местами и средствами к существованию. Я думаю, тут есть несколько факторов. Ближайшие годы будут очень сложными и в геополитическом плане, и с точки зрения совокупности всех этих процессов. Мы хотим и стараемся делать это через альфа-фолд, нашу научную работу, изоморфик и наши спинов-компании, решать фундаментальные задачи, лечить болезни, находить новые источники энергии. Как общество мы, очевидно, хотим именно этого. Но, возможно, баланс того, чем сейчас занимается индустрия, недостаточно смещён в сторону таких проектов. Я думаю, нам нужно гораздо больше примеров наподобие Альфад. И я знаю, что Дарио со мной согласен. Проектов, которые приносят однозначную пользу миру. И, на мой взгляд, на индустрии и на нас, как на лидерах лежит ответственность не просто говорить об этом, а реально демонстрировать такие результаты. При этом, конечно, неизбежны и другие намеренные или ненамеренные разрушительные изменения. Есть и другой аспект- геополитическая конкуренция. Да, есть конкуренция между компаниями, но есть и конкуренция между государствами, прежде всего между США и Китаем. Если не будет международного сотрудничества или хотя бы общего понимания, например, в вопросах минимальных стандартов безопасности при внедрении технологий, а я думаю, Дарио со мной в этом согласится, то это станет серьёзной проблемой. Кстати, Контакт- один из моих любимых фильмов. Забавно. Я даже не знал, что он и для тебя так важен, Дарио. Но подобные вопросы необходимо тщательно прорабатывать. И если честно, возможно, было бы даже лучше немного замедлить темпы по сравнению с тем, что мы сейчас прогнозируем, даже по моим собственным срокам, чтобы у общества было время всё это осмыслить и правильно выстроить. Но для этого нужна координация, а она даётся очень тяжело. Признаюсь, мне больше нравятся твои сроки. Я согласен, по многим причинам это было бы лучше. Дарио, давай тогда перейдём к этому вопросу напрямую. С момента нашего последнего разговора в Париже геополитическая ситуация, мягко говоря, стала сложнее, безумнее, хаотичнее. Выбирай любое слово. Во-вторых, у США сейчас совершенно иной подход к Китаю, гораздо более жёсткий, без ограничений, двигаемся как можно быстрее, но при этом продолжаем продавать чипы Китаю. То есть отношение Соединённых Штатов заметно изменилось. Плюс у нас сейчас крайне странные геополитические отношения между США и Европой. На этом фоне я слышу, как ты говоришь, что было бы хорошо иметь нечто вроде организации уровня ЦЕРН, но если быть честным, это кажется невероятно далёким от реальности. Поэтому вопрос такой: в реальном мире выросли ли геополитические риски? И что, если вообще что-то, по-твоему, следует с этим делать? Действия нынешней администрации противоположны тому, что ты предлагаешь. Мы просто стараемся делать максимум возможного. Мы всего лишь одна компания и работаем в той реальности, которая есть, какой бы безумной она ни была. Но мои рекомендации в области политики не изменились. Не продавать чипы. Это один из самых действенных способов выиграть время, чтобы справиться с тем, что нас ждёт. Я уже говорил, что мне ближе таймлайн Демиса. Я бы очень хотел, чтобы у нас было 5-10 лет. Возможно, он прав, а я ошибаюсь. Но если представить, что прав всё-таки я, и это можно сделать за 1-2 года, то почему мы не можем просто замедлиться до тайминга Дэмиса? Проблема в том, что мы не можем просто нажать на тормоз, потому что есть геополитические соперники, которые развивают ту же технологию с сопоставимой скоростью, а значит, невозможно заключить реально исполнимое соглашение, по которому все одновременно замедлятся. Если же мы просто не будем продавать чипы, тогда это перестаёт быть соревнованием между США и Китаем. Это становится соревнованием между мной и Дэмисом. А вот с этим я уверен, что мы сможем разобраться. А как вы относитесь к логике администрации, которая, насколько я понимаю, заключается в том, что нужно продавать чипы, чтобы привязать Китай к американским цепочкам поставок? Тут всё упирается не только во временные рамки, но и в значимость самой технологии. Если бы речь шла, например, о телекоммуникациях, тогда логика распространения американского технологического стека имела бы смысл, чтобы по всему миру строились дата-центры на Nvidia, а не на Huawei. Но я смотрю на это иначе. Для меня это вопрос уровня. Готовы ли мы продавать ядерное оружие Северной Кореи? Потому что это принесёт прибыль Боинг. Можно сказать: "Ну да, эти ракеты сделаны Боинг, США выигрывают". Но сама аналогия, надеюсь, ясно показывает, как я вижу этот компромисс и почему считаю его неправильным. Мы уже предпринимали гораздо более агрессивные меры против Китая и других игроков. И, на мой взгляд, они были куда менее эффективны, чем вот этот один шаг. Подпишись прямо сейчас на мой Telegram-канал по ссылке в описании. Я подготовил для тебя топ-три материала, которые, на мой взгляд, должен знать каждый. Первое, карта сотни топовых AI стартапов - это будущее на одной картинке. Второе- прогноз от инсайдера из Openi, который ещё до появления CH GPT предсказал всё, что сейчас происходит с нейронками. И вот в этом году он выпустил новый прогноз до двадцать седьмого года. И третье, самое мощное - это мой разбор эссе основателя компании Anроopic, который по сути второй человек в мире искусственного интеллекта. Он по полочкам разложил, что будет происходить в мире ближайшие 5 лет. И главное, каким будет универсальный AI, которого все так боятся или ждут. Переходи по ссылке в описании.

описании. — Последний блок от меня, а потом, надеюсь, успеем ответить на пару вопросов из зала. Одна из главных страшилок думеров - это всесильный злонамеренный Ии. Вы оба обычно довольно скептически относились к таким сценариям, но за последний год мы увидели, что модели способны на обман, манипуляции, двойную игру. Изменилось ли ваше отношение к этому риску? И есть ли в том, как эволюционируют модели, что-то, что должно вызывать больше тревоги? Мы задумывались об этом риске с самого основания антропик. Наши первые исследования были довольно теоретическими. Мы, по сути, стали первооткрывателями идеи механистической интерпретируемости, попытки заглянуть внутрь модели и понять, почему она делает то, что делает. Это похоже на то, как нейробиологи, а у нас у обоих есть такой бэкграунд, пытаются понять, как работает человеческий мозг. Со временем мы начали всё лучше документировать нежелательное поведение моделей по мере его появления. И сейчас пытаемся решать эти проблемы именно через интерпретируемость. Я всегда был обеспокоен этими рисками, и мы много раз обсуждали это с Демисом. Думаю, он тоже. Но при этом мы оба скептически относимся к думер, идеи, что всё обречено и ничего нельзя сделать или что это самый вероятный сценарий. Я думаю, что это риск. Да, риск существует, но это риск, с которым можно справиться, если работать вместе. Через науку мы можем научиться правильно контролировать и направлять то, что создаём. Но если мы будем делать это плохо, если все будут просто гнаться и нестись вперёд без ограничений, тогда да, риск того, что что-то пойдёт не так, становится реальным. Тогда я задам это в более широком контексте. За последний год вы стали более уверены в позитивном потенциале технологии для науки и всех областей, о которых вы много говорили, или, наоборот, больше обеспокоены рисками, которые мы сегодня обсуждаем. Я работаю над этим уже больше 20 лет. И причина, по которой я посвятил всю карьеру Ии - это именно его потенциал. По сути, ИИ - это ультимативный инструмент для науки и понимания Вселенной. Я был этим одержим ещё с детства. Если мы сделаем всё правильно, и должен стать таким инструментом. Но о рисках мы тоже думаем давно. как минимум с момента основания Deepmind. 15 лет назад мы с самого начала понимали, если у технологии есть огромные плюсы, значит это двойная технология. Её можно перепрофилировать и использовать во вред, например, плохими акторами. Поэтому об этом всегда приходилось думать параллельно. Я очень верю в человеческую изобретательность. Вопрос в другом: будет ли у нас достаточно времени, фокуса и сотрудничества лучших умов, чтобы решить эти проблемы? Если да, я уверен, что технические риски можно решить. Если же этого не будет, если всё окажется фрагментированным с гонкой разных проектов и команд, тогда риск возрастает, потому что в таких условиях намного сложнее гарантировать техническую безопасность создаваемых систем. Но если у нас есть время и пространство, это вполне решаемая задача. У нас есть время на один вопрос. Молодой человек, пожалуйста, очень коротко. У нас буквально 2 минуты. Спасибо, я Philips, основатель Starcloud. Мы строим датацентры в космосе. У меня немного философский вопрос. Самый сильный аргумент в пользу думерства для меня - это парадокс ферме. Мы не видим разумной жизни в нашей галактике. Есть ли у вас мысли по этому поводу? Да, я много об этом думал, и я не считаю, что это объяснение работает. Если бы цивилизации уничтожили себя с помощью собственных технологий, мы должны были бы видеть следы Ии условные скрепки, летящие к нам из других частей галактики. Но мы не видим ничего, ни мегаструктур, ни сфер Дайсона. Вообще никаких признаков ни Ии, ни биологических цивилизаций. Значит, у парадокса ферме должно быть другое объяснение. У меня есть гипотезы, но на них у нас нет времени. Моё ощущение такое. Мы уже прошли великий фильтр. Скорее всего, им было появление многоклеточной жизни. Невероятно сложный этап для эволюции. А дальше нет никакой гарантии, что будет. Что будет дальше, это нам и предстоит написать как человечеству. Это могла бы быть отличная дискуссия, но боюсь, она выходит за рамки следующих тридшести панелей. Последний вопрос по 15 секунд каждому. Когда мы встретимся снова, надеюсь, через год, что изменится? Самое важное - это вопрос и создающего и как пойдёт этот процесс. в ту или иную сторону, определит, есть ли у нас ещё несколько лет запаса, или же нас ждут одновременно чудеса и огромный кризис, к которому придётся срочно адаптироваться. Я согласен, мы внимательно следим за этим и постоянно обсуждаем. Но помимо этого есть и другие важные направления. Мировые модели- непрерывное обучение. Если самосовершенствование не выстрелит само по себе, нам понадобятся эти подходы. И я думаю, что работотехника тоже может пережить свой прорывной момент. Исходя из того, что вы сказали, возможно, нам всем стоит надеяться, что у вас и остальных это займёт немного больше времени. Я бы предпочёл именно это. Думаю, для мира так было бы лучше. Но вы ведь можете на это повлиять. Спасибо вам большое.